溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析

發(fā)布時間:2021-08-03 10:51:33 來源:億速云 閱讀:154 作者:小新 欄目:開發(fā)技術(shù)

這篇文章主要介紹Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析,文中介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們一定要看完!

一、爬取數(shù)據(jù)

代碼

import requests
import pandas as pd
class SpiderRumor(object):
 def __init__(self):
 self.url = "https://vp.fact.qq.com/loadmore?artnum=0&page=%s"
 self.header = {
  "User-Agent": "Mozilla/5.0 (iPhone; CPU iPhone OS 11_0 like Mac OS X) AppleWebKit/604.1.38 (KHTML, like Gecko) Version/11.0 Mobile/15A372 Safari/604.1",
 }
 def spider_run(self):
 df_all = list()
 for url in [self.url % i for i in range(30)]:
  data_list = requests.get(url, headers=self.header).json()["content"]
  temp_data = [[df["title"], df["date"], df["result"], df["explain"], df["tag"]] for df in data_list]
  df_all.extend(temp_data)
  print(temp_data[0])
 pd.DataFrame(df_all, columns=["title", "date", "result", "explain", "tag"]).to_csv("冠狀病毒謠言數(shù)據(jù).csv", encoding="utf_8_sig")
if __name__ == '__main__':
 spider = SpiderRumor()
 spider.spider_run()

爬蟲過程

Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析

二、數(shù)據(jù)分析

數(shù)據(jù)展示

Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析

每日謠言數(shù)量

Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析

由圖可得:1月24日和1月25日是謠言的高峰期,讓我們來看看這兩天的數(shù)據(jù):

Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析
Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析

由上圖得知 一月二十四號和二十號傳播的 29 條謠言中 96.55% 都是假的

謠言是否屬實占比

Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析

從1月18日到今日截止2月14日共發(fā)現(xiàn)了300條謠言,右上圖可得:76.33% 都是假的,只要 7.00% 是屬實的,其中 14.33% 的謠言屬于 偽科學 而且 還有 8.00% 屬于尚無定論憑空捏造出的,需要多注意??

謠言的關鍵字展示

Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析

下面介紹 matplotlib 繪制餅圖的代碼

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
# Windows系統(tǒng)設置中文字體
plt.rcParams['font.sans-serif']=['SimHei']
plt.rcParams['axes.unicode_minus'] = False
data = pd.read_csv("/冠狀病毒謠言數(shù)據(jù).csv"")
labels = data["explain"].value_counts().index.tolist()
sizes = data["explain"].value_counts().values.tolist()
colors = ['lightgreen', 'gold', 'lightskyblue', 'lightcoral']
plt.figure(figsize=(15,8))
plt.pie(sizes, labels=labels,
 colors=colors, autopct='%1.1f%%', shadow=True, startangle=50) # shadow=True 表示陰影
plt.axis('equal') # 使圖居中
plt.show()

繪制謠言關鍵字分布圖(觀察 tag 這個字段)

Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析

由于 tag 這個字段內(nèi)容是列表,我們?nèi)〕鰜砗笫橇斜砬短琢斜恚篬[a, b], [b, c], [c, d]] 我們要使用一行列表生成式快速的將所以的關鍵字取出來 [j for i in a for j in i]

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
# Windows系統(tǒng)設置中文字體
plt.rcParams['font.sans-serif']=['SimHei']
plt.rcParams['axes.unicode_minus'] = False

data = pd.read_csv("/冠狀病毒謠言數(shù)據(jù).csv"")
df = pd.Series([j for i in [eval(i) for i in data["tag"].tolist()] for j in i]).value_counts()[:20]
X = df.index.tolist()
y = df.values.tolist()
plt.figure(figsize=(15, 8)) # 設置畫布
plt.bar(X, y, color="orange")
plt.tight_layout()
# plt.grid(axis="y")
plt.grid(ls='-.')
plt.show()

以上是“Python如何爬取新型冠狀病毒“謠言”新聞進行數(shù)據(jù)分析”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對大家有幫助,更多相關知識,歡迎關注億速云行業(yè)資訊頻道!

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI