怎么利用Python爬取網(wǎng)頁內(nèi)容

這篇文章主要講解了“怎么利用Python爬取網(wǎng)頁內(nèi)容”，文中的講解內(nèi)容簡單清晰，易于學(xué)習(xí)與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學(xué)習(xí)“怎么利用Python爬取網(wǎng)頁內(nèi)容”吧！

編寫執(zhí)行代碼

首先,你要安裝requests和BeautifulSoup4,然后執(zhí)行如下代碼.
 
import requests
 
from bs4 import BeautifulSoup
 
iurl = 'http://news.sina.com.cn/c/nd/2017-08-03/doc-ifyitapp0128744.shtml'
 
res = requests.get(iurl)
 
res.encoding = 'utf-8'
 
#print(len(res.text))
 
soup = BeautifulSoup(res.text,'html.parser')
 
#標(biāo)題
 
H1 = soup.select('#artibodyTitle')[0].text
 
#來源
 
time_source = soup.select('.time-source')[0].text
 
#來源
 
origin = soup.select('#artibody p')[0].text.strip()
 
#原標(biāo)題
 
oriTitle = soup.select('#artibody p')[1].text.strip()
 
#內(nèi)容
 
raw_content = soup.select('#artibody p')[2:19]
 
content = []
 
for paragraph in raw_content:
 
content.append(paragraph.text.strip())
 
'@'.join(content)
 
#責(zé)任編輯
ae = soup.select('.article-editor')[0].text

感謝各位的閱讀，以上就是“怎么利用Python爬取網(wǎng)頁內(nèi)容”的內(nèi)容了，經(jīng)過本文的學(xué)習(xí)后，相信大家對怎么利用Python爬取網(wǎng)頁內(nèi)容這一問題有了更深刻的體會，具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是億速云，小編將為大家推送更多相關(guān)知識點(diǎn)的文章，歡迎關(guān)注！