溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》
您好，登錄后才能下訂單哦！
小編給大家分享一下python爬蟲實戰(zhàn)之Scheduler怎么確定優(yōu)先級，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！
開始之前，先講講這個：Scrapy-redis提供了下面四種組件，展示給大家看一下
Scheduler（調(diào)度程序）
Duplication Filter（過濾）
Item Pipeline（數(shù)據(jù)管道）
Base Spider（爬蟲基類）
Scheduler：
Scrapy中跟“待爬隊列”直接相關(guān)的就是調(diào)度器Scheduler，它負(fù)責(zé)對新的request進(jìn)行入列操作（加入Scrapy queue），取出下一個要爬取的request（從Scrapy queue中取出）等操作。它把待爬隊列按照優(yōu)先級建立了一個字典結(jié)構(gòu)，比如：
{
優(yōu)先級0 : 隊列0
優(yōu)先級1 : 隊列1
優(yōu)先級2 : 隊列2
}Item Pipeline：
引擎將(Spider返回的)爬取到的Item給Item Pipeline，scrapy-redis 的Item Pipeline將爬取到的 Item 存?redis的 items queue。
修改過Item Pipeline可以很方便的根據(jù) key 從 items queue 提取item，從?實現(xiàn) items processes集群。
以上是“python爬蟲實戰(zhàn)之Scheduler怎么確定優(yōu)先級”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識，歡迎關(guān)注億速云行業(yè)資訊頻道！
免責(zé)聲明：本站發(fā)布的內(nèi)容（圖片、視頻和文字）以原創(chuàng)、轉(zhuǎn)載和分享為主，文章觀點不代表本網(wǎng)站立場，如果涉及侵權(quán)請聯(lián)系站長郵箱：is@yisu.com進(jìn)行舉報，并提供相關(guān)證據(jù)，一經(jīng)查實，將立刻刪除涉嫌侵權(quán)內(nèi)容。
億速云公眾號
手機(jī)網(wǎng)站二維碼