您好,登錄后才能下訂單哦!
這篇文章主要講解了“怎么用C#爬網(wǎng)頁數(shù)據(jù)”,文中的講解內(nèi)容簡單清晰,易于學(xué)習(xí)與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“怎么用C#爬網(wǎng)頁數(shù)據(jù)”吧!
CSQuery
1. 安裝
github的地址:https://github.com/zone117x/CsQuery 然后在vs中 nuget 一下即可:
2. 舉幾個例子
一切都準(zhǔn)備就緒了,那怎么用呢?不著急,我以博客園舉兩個例子。
1) 將首頁中的 友情連接 提取到
如上圖,要想獲取這里的 友情鏈接幾個大字,直接用 text() 肯定是不行的,默認(rèn)情況它會將所有的子節(jié)點的文本也會抓到,如下圖:
那怎么處理呢?可以用 jquery 提供的 contents 方法,然后在獲取的所有子節(jié)點中判斷是否有 文本節(jié)點,最后獲取文本節(jié)點的內(nèi)容即可,如下代碼:
用js是搞定了,那用 CSQuery 代碼怎么搞定呢?模仿唄,如下代碼:
static void Main(string[] args) { var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com")); var content = jquery["#friend_link"].Contents().Filter((dom) => { return dom.NodeType == NodeType.TEXT_NODE; }).Text(); Console.WriteLine(content); }
我不知道用 xpath 提取這樣的內(nèi)容麻不麻煩,不過用 jquery 方式不簡單,但輕車熟路。
2) 如何將 html 中的某些元素標(biāo)顏色
有時候為了業(yè)務(wù)需要將某些 html 標(biāo)簽改一下顏色,比如說將首頁的 tabmenu 中 博問 和 專區(qū) 改成紅色,如下圖:
那用 CSQuery 怎么處理呢?如果玩過 jquery,一般來說步驟如下:
使用 each 遍歷每一個子 li 標(biāo)簽
使用 CSS 方法給 li 中 a 標(biāo)簽賦樣式
使用 Render 渲染生成一個新的的html
有了步驟,C#代碼如下:
static void Main(string[] args) { Config.HtmlEncoder = HtmlEncoders.None; var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com")); var html = jquery["#nav_left li"].Each(dom => { var self = jquery[dom]; var text = self.Text(); if (text == "博問" || text == "專區(qū)") { self.Find("a").CssSet(new { color = "red" }); } }).Render(); }
3) 其他的操作方法
除了上面兩個操作方法外,你還可以使用 after,before,replaceAll,IS 等等一百來個實用的方法,這篇肯定也無法一一介紹了,大家有興趣可以下載下來看一看,搗鼓搗鼓。
其他用途
除了抓取html中的元素,我覺得這玩意還可以用在發(fā)送郵件時操控郵件模板,畢竟在很久以前大家都是用jquery來繪制 html,所以用 CSQuery 也是可以的,相對使用 xslt 有利有弊吧,接下來做一個例子:
1. 生成一個html模板
<!DOCTYPE html> <html lang="en" xmlns="http://www.w3.org/1999/xhtml"> <head> <meta charset="utf-8" /> <title></title> </head> <body> <ul id="main"></ul> </body> </html>
2. 使用 CSQuery 給 ul 追加 li
可以用 Append 將內(nèi)容追加到
class Program { static void Main(string[] args) { Config.HtmlEncoder = HtmlEncoders.None; var strlist = new string[2] { "1", "2" }; var path = Environment.CurrentDirectory + "\\2.html"; var jquery = CQ.CreateFromFile(path); foreach (var str in strlist) { jquery.Find("#main").Append($"<li>{str}</li>"); } var html = jquery.Render(); } }
3. 部分渲染 RenderSelection
Render方法是將整個Dom渲染成html,但有時候你只需要得到你修改的那部分內(nèi)容,而不是整個html,這就涉及到了部分渲染,可以用 RenderSelection 方法即可,代碼如下:
static void Main(string[] args) { Config.HtmlEncoder = HtmlEncoders.None; var strlist = new string[2] { "1", "2" }; var path = Environment.CurrentDirectory + "\\2.html"; var jquery = CQ.CreateFromFile(path); var current = jquery.Find("#main"); foreach (var str in strlist) { current.Append($"<li>{str}</li>"); } var html = current.RenderSelection(); Console.WriteLine(html); } ------------- output ---------------- <ul id="main"><li>1</li><li>2</li></ul>
感謝各位的閱讀,以上就是“怎么用C#爬網(wǎng)頁數(shù)據(jù)”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對怎么用C#爬網(wǎng)頁數(shù)據(jù)這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。