廈門服務(wù)器解決反爬和IP被封問題的方法:1、減慢網(wǎng)站爬取速率,能減小目標(biāo)網(wǎng)站的壓力;2、用動態(tài)撥號vps服務(wù)器設(shè)置變換IP,能解決反爬和IP被封的問題,但會降低獲取速度。
具體內(nèi)容如下:
1、減慢爬取速率
那樣目標(biāo)網(wǎng)站的壓力就會相對性減小,可是這么做的話,單位時(shí)間之內(nèi)的爬取量就會相對的減少。
2、用動態(tài)撥號vps服務(wù)器設(shè)置變換IP
攻克反爬蟲體制進(jìn)行高頻率抓取,這樣就需要多個(gè)穩(wěn)定的IP。普通的基于ADSL撥號的解決方案。通常,在抓取過程中遇到禁止訪問,可以重新進(jìn)行撥號,獲取新的IP,從而可以繼續(xù)抓取。但是這樣在多網(wǎng)站多線程抓取的時(shí)候,如果某一個(gè)網(wǎng)站的抓取被禁止了,同時(shí)也危害到了其他網(wǎng)站的抓取,總體來說也會降低獲取速度。