溫馨提示×

您好，登錄后才能下訂單哦！

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

python爬取網(wǎng)站數(shù)據(jù)，如何繞過反爬蟲策略

發(fā)布時(shí)間：2020-07-10 13:40:27 來源：網(wǎng)絡(luò) 閱讀：959 作者：156881887 欄目：編程語言

1、使用session對(duì)象

session = requests.session()
strhtml = session.get(url) #與當(dāng)前網(wǎng)站的首次會(huì)話

2、設(shè)置headers

headers = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) "
                         "Chrome/69.0.3497.100 Safari/537.36",
           "Accept": "application/json"}
session.headers = headers

3、設(shè)置cookies

設(shè)置與網(wǎng)站首次會(huì)話時(shí)的cookies為默認(rèn)的cookies

cookies = session.cookies
session.headers.setdefault('cookies', cookies)

此后，可以復(fù)用之前會(huì)話中的cookies了

strhtml2 = session.get(url2)


向AI問一下細(xì)節(jié)

免責(zé)聲明：本站發(fā)布的內(nèi)容（圖片、視頻和文字）以原創(chuàng)、轉(zhuǎn)載和分享為主，文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱：is@yisu.com進(jìn)行舉報(bào)，并提供相關(guān)證據(jù)，一經(jīng)查實(shí)，將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI
助
手