如何使用node.js爬取知乎圖片

這篇文章主要介紹了如何使用node.js爬取知乎圖片，具有一定借鑒價值，感興趣的朋友可以參考下，希望大家閱讀完這篇文章之后大有收獲，下面讓小編帶著大家一起了解一下。

原理

初入爬蟲的坑，沒有太多深奧的理論知識，要獲取知乎上帖子中的一張圖片，我把它歸結(jié)為以下幾步。

• 準(zhǔn)備一個url

• 獲取這個url的html內(nèi)容，并分析其中的dom結(jié)構(gòu)，遍歷找到這些漂亮的妹紙圖片url

• 獲取圖片內(nèi)容

• 將圖片內(nèi)容寫入本地文件
  

開始動手

大概知道原理之后我們就可以開干了

準(zhǔn)備一個url

這個最簡單了，去知乎隨便一搜就是一大把，我們以

發(fā)一張你認(rèn)為很漂亮的美女照片？

為例子，先來分析一下這個頁面的dom結(jié)構(gòu),其實很簡單，知乎的一個頁面中會包含很多種類型的圖片，有頭像，用戶評價上傳的圖片啥的?；旧显趎oscript種都可以找到對應(yīng)的圖片地址。

獲取這個url的html內(nèi)容,并且拿到當(dāng)前頁面noscript中的img鏈接

這一步我們需要會點簡單的nodejs的知識，以及用到一個庫叫cheerio,這個庫具體是用來做什么的，詳細(xì)請移步cheerio。

簡單來說就是可以在命令行中使用jQuery來搜索遍歷獲取相應(yīng)的元素。

那么怎樣才能獲取這個帖子的html呢

使用nodejs的https模塊

var https = require('https')
getAllHtml (url, callback) {
 let sHtml = '',
 _this = this;
 https.get(url, (res) => {
 res.on('data', (data) => {
 sHtml += data;
 });
 res.on('end', () => {
 callback.bind(_this, sHtml)();
 })
 }).on('error', (err) => {
 console.log(err);
 });
}

通過以上操作拿到網(wǎng)站的html之后，便是遍歷出我們需要的圖片地址來了

filterHtml (sHtml, filePath) {
 let $ = cheerio.load(sHtml), // 將上一步拿到的網(wǎng)站html傳入cheerio.load，便得到類似于包裝過的jQuery對象，可以像jQuey的選擇器一樣來選擇元素
 $Imgs = $('noscript img'),
 imgData = [],
 _this = this;
 $Imgs.each((i, e) => {
 let imgUrl = $(e).attr('src'); //取出對應(yīng)的url
 imgData.push(imgUrl);
 // 將url傳入開始下載
 _this.downloadImg(imgUrl, _this.filePath, 
 function (err) {
 console.log(imgUrl + 'has be down');
 });
 });
 console.log(imgData);
}

有了圖片的url，如何下載到本地呢？

我們需要使用request這個庫，簡單的調(diào)用一下api再結(jié)合node原生寫文件的api。

downloadImg (imgUrl, filePath, callback) {
 let fileName = this.parseFileName(imgUrl);
 request(imgUrl).pipe(fs.createWriteStream('./' + filePath + '/'+fileName)).on('close', callback && callback);
 }

感謝你能夠認(rèn)真閱讀完這篇文章，希望小編分享的“如何使用node.js爬取知乎圖片”這篇文章對大家有幫助，同時也希望大家多多支持億速云，關(guān)注億速云行業(yè)資訊頻道，更多相關(guān)知識等著你來學(xué)習(xí)!