溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

Python如何進(jìn)行包圖網(wǎng)免費(fèi)付費(fèi)素材爬取

發(fā)布時(shí)間:2021-10-11 17:03:19 來(lái)源:億速云 閱讀:212 作者:柒染 欄目:大數(shù)據(jù)

這期內(nèi)容當(dāng)中小編將會(huì)給大家?guī)?lái)有關(guān)Python如何進(jìn)行包圖網(wǎng)免費(fèi)付費(fèi)素材爬取,文章內(nèi)容豐富且以專業(yè)的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。

包圖網(wǎng)大家都知道吧 集齊海量設(shè)計(jì)素材 十分好用 可惜太貴了,今天就帶大家使用Python—爬蟲爬取這些素材并且保存到本地!

抓取一個(gè)網(wǎng)站的內(nèi)容,我們需要從以下幾方面入手:

1-如何抓取網(wǎng)站的下一頁(yè)鏈接?

2-目標(biāo)資源是靜態(tài)還是動(dòng)態(tài)(視頻、圖片等)

3-該網(wǎng)站的數(shù)據(jù)結(jié)構(gòu)格式

Python如何進(jìn)行包圖網(wǎng)免費(fèi)付費(fèi)素材爬取

源代碼如下

import requestsfrom lxml import etreeimport threading  class Spider(object):    def __init__(self):        self.headers = {"User-Agent":"Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36"}        self.offset = 1     def start_work(self, url):        print("正在爬取第 %d 頁(yè)......" % self.offset)        self.offset += 1        response = requests.get(url=url,headers=self.headers)        html = response.content.decode()        html = etree.HTML(html)         video_src = html.xpath('//div[@class="video-play"]/video/@src')        video_title = html.xpath('//span[@class="video-title"]/text()')        next_page = "http:" + html.xpath('//a[@class="next"]/@href')[0]        # 爬取完畢...        if next_page == "http:":            return         self.write_file(video_src, video_title)        self.start_work(next_page)     def write_file(self, video_src, video_title):        for src, title in zip(video_src, video_title):            response = requests.get("http:"+ src, headers=self.headers)            file_name = title + ".mp4"            file_name = "".join(file_name.split("/"))            print("正在抓取%s" % file_name)            with open('E://python//demo//mp4//'+file_name, "wb") as f:                f.write(response.content) if __name__ == "__main__":    spider = Spider()    for i in range(0,3):        # spider.start_work(url="https://ibaotu.com/shipin/7-0-0-0-"+ str(i) +"-1.html")        t = threading.Thread(target=spider.start_work, args=("https://ibaotu.com/shipin/7-0-0-0-"+ str(i) +"-1.html",))        t.start()

效果展示

Python如何進(jìn)行包圖網(wǎng)免費(fèi)付費(fèi)素材爬取

上述就是小編為大家分享的Python如何進(jìn)行包圖網(wǎng)免費(fèi)付費(fèi)素材爬取了,如果剛好有類似的疑惑,不妨參照上述分析進(jìn)行理解。如果想知道更多相關(guān)知識(shí),歡迎關(guān)注億速云行業(yè)資訊頻道。

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI