Python3怎么實現(xiàn)爬取簡書首頁文章標題和文章鏈接的方法

這篇文章主要介紹了Python3怎么實現(xiàn)爬取簡書首頁文章標題和文章鏈接的方法，具有一定借鑒價值，感興趣的朋友可以參考下，希望大家閱讀完這篇文章之后大有收獲，下面讓小編帶著大家一起了解一下。

Python3實現(xiàn)爬取簡書首頁文章標題和文章鏈接的方法，具體如下：

from urllib import request
from bs4 import BeautifulSoup #Beautiful Soup是一個可以從HTML或XML文件中提取結(jié)構(gòu)化數(shù)據(jù)的Python庫
#構(gòu)造頭文件，模擬瀏覽器訪問
url="http://www.jianshu.com"
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
page = request.Request(url,headers=headers)
page_info = request.urlopen(page).read().decode('utf-8')#打開Url,獲取HttpResponse返回對象并讀取其ResposneBody
# 將獲取到的內(nèi)容轉(zhuǎn)換成BeautifulSoup格式，并將html.parser作為解析器
soup = BeautifulSoup(page_info, 'html.parser')
# 以格式化的形式打印html
#print(soup.prettify())
titles = soup.find_all('a', 'title')# 查找所有a標簽中class='title'的語句
'''''
# 打印查找到的每一個a標簽的string和文章鏈接
  for title in titles:
    print(title.string)
    print("http://www.jianshu.com" + title.get('href'))
'''
#open()是讀寫文件的函數(shù),with語句會自動close()已打開文件
with open(r"D:\articles.txt","w") as file:    #在磁盤以只寫的方式打開/創(chuàng)建一個名為 articles 的txt文件
  for title in titles:
    file.write(title.string+'\n')
    file.write("http://www.jianshu.com" + title.get('href')+'\n\n')

本機測試運行結(jié)果如下：

感謝你能夠認真閱讀完這篇文章，希望小編分享的“Python3怎么實現(xiàn)爬取簡書首頁文章標題和文章鏈接的方法”這篇文章對大家有幫助，同時也希望大家多多支持億速云，關(guān)注億速云行業(yè)資訊頻道，更多相關(guān)知識等著你來學習!