Python爬蟲中如何實(shí)現(xiàn)bilibili視頻彈幕提取功能

這篇文章將為大家詳細(xì)講解有關(guān)Python爬蟲中如何實(shí)現(xiàn)bilibili視頻彈幕提取功能，小編覺得挺實(shí)用的，因此分享給大家做個(gè)參考，希望大家閱讀完這篇文章后可以有所收獲。

兩個(gè)重要點(diǎn)

1.獲取彈幕的url是以 .xml 結(jié)尾

2.彈幕url的所需參數(shù)在視頻url響應(yīng)的 javascript 中

先看代碼

import requests
from lxml import etree
import re
# 使用手機(jī)UA
headers = {
  "User-Agent": "Mozilla/5.0 (iPhone; CPU iPhone OS 11_0 like Mac OS X) AppleWebKit/604.1.38 (KHTML, like Gecko) Version/11.0 Mobile/15A372 Safari/604.1"
}
# 視頻url
video_url = "https://m.bilibili.com/video/av37834086.html"
html = requests.get(url=video_url, headers=headers).content.decode('utf-8')
# 獲取彈幕url的參數(shù)
cid = re.findall(r"comment: '//comment.bilibili.com/' \+ (.*?) \+ '.xml',", html)
url = "https://comment.bilibili.com/" + cid[0] + ".xml"
print(url)
response = requests.get(url, headers=headers)
html = response.content
xml = etree.HTML(html)
# 提取數(shù)據(jù)
str_list = xml.xpath("//d/text()")
# 寫入文件
with open('bibi_xuxubaobao.txt', 'w', encoding='utf-8') as f:
  for line in str_list:
    f.write(line)
    f.write('\n')

先找到彈幕的url，以.xml結(jié)尾，所以先找到這串?dāng)?shù)字所在的位置，并獲取這串?dāng)?shù)字發(fā)起第二次請(qǐng)求

而這串?dāng)?shù)字就在 第一次請(qǐng)求的響應(yīng)的JavaScript中，可以通過 re 正則表達(dá)式進(jìn)行提取

接下來(lái)的工作就是獲取彈幕url返回的所有彈幕數(shù)據(jù)，然后對(duì)響應(yīng)進(jìn)行數(shù)據(jù)處理。

代碼示例中使用的是 lxml 進(jìn)行獲取。接著就是保存到個(gè)人本地文件中了

關(guān)于“Python爬蟲中如何實(shí)現(xiàn)bilibili視頻彈幕提取功能”這篇文章就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，使各位可以學(xué)到更多知識(shí)，如果覺得文章不錯(cuò)，請(qǐng)把它分享出去讓更多的人看到。