Python如何實現(xiàn)短視頻爬蟲

這篇文章主要介紹了Python如何實現(xiàn)短視頻爬蟲，具有一定借鑒價值，感興趣的朋友可以參考下，希望大家閱讀完這篇文章之后大有收獲，下面讓小編帶著大家一起了解一下。

網(wǎng)站地址在代碼里面，大家用心一下就能看到了。

使用的軟件

python 3.8
pycharm 2021.2

模塊

requests
parsel
re
concurrent.futures
time
warnings

不會安裝模塊看這篇：python模塊的安裝以及安裝失敗的解決方法

知道你們不想看那些步驟，我直接上代碼吧

import requests
import parsel
import re
import concurrent.futures
import time
import warnings

# 取消警告
warnings.filterwarnings("ignore")


def get_html(url):
    """發(fā)送請求獲取網(wǎng)頁源代碼"""
    html_data = requests.get(url=url, verify=False).text
    return html_data


def parse_data_1(html_data):
    """第一次解析, 拿到所有的詳情頁鏈接"""
    selector = parsel.Selector(html_data)
    url_list = selector.xpath('//a[@class="meta-title"]/@href').getall()
    return url_list


def parse_data_2(html_data):
    """第二次解析, 獲取視頻鏈接"""
    video_url = re.findall('url: "(.*?)",', html_data)[0]
    return video_url


def save(video_url):
    """保存視頻"""
    title = video_url.split('/')[-1]    # 取鏈接當中的字段作為標題
    video_data = requests.get(video_url, verify=False).content    # 發(fā)送網(wǎng)絡請求
    with open(f'video/{title}', mode='wb') as f:
        f.write(video_data)
    print(title, "爬取成功!!!")

start_time = time.time()
url = 'https://www.520mmtv.com/hd/rewu.html'
# 1. 向目標網(wǎng)站發(fā)送請求
html_data = get_html(url=url)
# 2. 第一次解析數(shù)據(jù) 提取詳情頁鏈接
url_list = parse_data_1(html_data=html_data)
for info_url in url_list[:10]:
    # 3. 向詳情頁發(fā)送請求
    html_data_2 = get_html(url=info_url)
    # 4. 第二次解析數(shù)據(jù) 提取視頻播放地址
    video_url = parse_data_2(html_data=html_data_2)
    # 5. 保存視頻
    save(video_url=video_url)
print('花費時間：', time.time() - start_time)

感謝你能夠認真閱讀完這篇文章，希望小編分享的“Python如何實現(xiàn)短視頻爬蟲”這篇文章對大家有幫助，同時也希望大家多多支持億速云，關注億速云行業(yè)資訊頻道，更多相關知識等著你來學習!