通俗地說邏輯回歸：如何防止爬蟲時IP被封！算法（一）

今天給大家分享的是如何在爬取數(shù)據(jù)的時候防止IP被封，今天給大家分享兩種方法，希望大家可以認(rèn)真學(xué)習(xí)，再也不用擔(dān)心被封IP啦。

第一種：

降低訪問速度，我們可以使用time模塊中的sleep，使程序每運(yùn)行一次后就睡眠1s，這樣的話就可以大大的減少ip被封的幾率

第二種：

為了提高效率，我們可以使用代理ip來解決，ip是億牛云的動態(tài)轉(zhuǎn)發(fā)代理，以下是代理配置過程的示例

Selenium

from selenium import webdriver
 import string
 import zipfile
 
 # 代理服務(wù)器
 proxyHost = "t.16yun.cn"
 proxyPort = "31111"
 
 # 代理隧道驗證信息
 proxyUser = "username"
 proxyPass = "password"
 
 def create_proxy_auth_extension(proxy_host, proxy_port,
 proxy_username, proxy_password,
 scheme='http', plugin_path=None):
 if plugin_path is None:
 plugin_path = r'C:/{}_{}@t.16yun.zip'.format(proxy_username, proxy_password)
 
 manifest_json = """ { "version": "1.0.0", "manifest_version": 2, "name": "16YUN Proxy", "permissions": [ "proxy", "tabs", "unlimitedStorage", "storage", "", "webRequest", "webRequestBlocking" ], "background": { "scripts": ["background.js"] }, "minimum_chrome_version":"22.0.0" } """
 
 background_js = string.Template(
 """ var config = { mode: "fixed_servers", rules: { singleProxy: { scheme: "${scheme}", host: "${host}", port: parseInt(${port}) }, bypassList: ["foobar.com"] } };
 chrome.proxy.settings.set({value: config, scope: "regular"}, function() {});
 function callbackFn(details) { return { authCredentials: { username: "${username}", password: "${password}" } }; }
 chrome.webRequest.onAuthRequired.addListener( callbackFn, {urls: [""]}, ['blocking'] ); """
 ).substitute(
 host=proxy_host,
 port=proxy_port,
 username=proxy_username,
 password=proxy_password,
 scheme=scheme,
 )
 
 with zipfile.ZipFile(plugin_path, 'w') as zp:
 zp.writestr("manifest.json", manifest_json)
 zp.writestr("background.js", background_js)
 
 return plugin_path
 
 proxy_auth_plugin_path = create_proxy_auth_extension(
 proxy_host=proxyHost,
 proxy_port=proxyPort,
 proxy_username=proxyUser,
 proxy_password=proxyPass)
 
 option = webdriver.ChromeOptions()
 
 option.add_argument("--start-maximized")
 # 如報錯 chrome-extensions
 # option.add_argument("--disable-extensions")
 option.add_extension(proxy_auth_plugin_path)
 
 driver = webdriver.Chrome(chrome_options=option)
 driver.get("http://httpbin.org/ip")

好了，今天關(guān)于python學(xué)習(xí)的分享就到這里，上邊的那段代碼可以直接使用，但是里邊的代理應(yīng)該已經(jīng)過期，大家在使用的時候可能需要聯(lián)系代理商開通服務(wù)，最后呢希望大家能夠收藏起來，要記得做筆記哦。好記性不如爛筆頭。