溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

怎么用C#爬網(wǎng)頁數(shù)據(jù)

發(fā)布時間:2021-10-27 11:41:38 來源:億速云 閱讀:124 作者:iii 欄目:編程語言

這篇文章主要講解了“怎么用C#爬網(wǎng)頁數(shù)據(jù)”,文中的講解內(nèi)容簡單清晰,易于學(xué)習(xí)與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“怎么用C#爬網(wǎng)頁數(shù)據(jù)”吧!

CSQuery

1. 安裝

github的地址:https://github.com/zone117x/CsQuery 然后在vs中 nuget 一下即可:

怎么用C#爬網(wǎng)頁數(shù)據(jù)

2. 舉幾個例子

一切都準(zhǔn)備就緒了,那怎么用呢?不著急,我以博客園舉兩個例子。

1) 將首頁中的 友情連接 提取到

怎么用C#爬網(wǎng)頁數(shù)據(jù)

如上圖,要想獲取這里的 友情鏈接幾個大字,直接用 text() 肯定是不行的,默認(rèn)情況它會將所有的子節(jié)點的文本也會抓到,如下圖:

怎么用C#爬網(wǎng)頁數(shù)據(jù)

那怎么處理呢?可以用 jquery 提供的 contents 方法,然后在獲取的所有子節(jié)點中判斷是否有  文本節(jié)點,最后獲取文本節(jié)點的內(nèi)容即可,如下代碼:

怎么用C#爬網(wǎng)頁數(shù)據(jù)

用js是搞定了,那用 CSQuery 代碼怎么搞定呢?模仿唄,如下代碼:

static void Main(string[] args)         {             var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com"));              var content = jquery["#friend_link"].Contents().Filter((dom) =>             {                 return dom.NodeType == NodeType.TEXT_NODE;             }).Text();              Console.WriteLine(content);         }

我不知道用 xpath 提取這樣的內(nèi)容麻不麻煩,不過用 jquery 方式不簡單,但輕車熟路。

2) 如何將 html 中的某些元素標(biāo)顏色

有時候為了業(yè)務(wù)需要將某些 html 標(biāo)簽改一下顏色,比如說將首頁的 tabmenu 中 博問 和 專區(qū) 改成紅色,如下圖:

怎么用C#爬網(wǎng)頁數(shù)據(jù)

那用 CSQuery 怎么處理呢?如果玩過 jquery,一般來說步驟如下:

  • 使用 each 遍歷每一個子 li 標(biāo)簽

  • 使用 CSS 方法給 li 中 a 標(biāo)簽賦樣式

  • 使用 Render 渲染生成一個新的的html

有了步驟,C#代碼如下:

static void Main(string[] args)         {             Config.HtmlEncoder = HtmlEncoders.None;              var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com"));              var html = jquery["#nav_left li"].Each(dom =>                {                    var self = jquery[dom];                     var text = self.Text();                     if (text == "博問" || text == "專區(qū)")                    {                        self.Find("a").CssSet(new { color = "red" });                    }                }).Render();         }

怎么用C#爬網(wǎng)頁數(shù)據(jù)

3) 其他的操作方法

除了上面兩個操作方法外,你還可以使用 after,before,replaceAll,IS  等等一百來個實用的方法,這篇肯定也無法一一介紹了,大家有興趣可以下載下來看一看,搗鼓搗鼓。

其他用途

除了抓取html中的元素,我覺得這玩意還可以用在發(fā)送郵件時操控郵件模板,畢竟在很久以前大家都是用jquery來繪制 html,所以用 CSQuery  也是可以的,相對使用 xslt 有利有弊吧,接下來做一個例子:

1. 生成一個html模板

<!DOCTYPE html>  <html lang="en" xmlns="http://www.w3.org/1999/xhtml"> <head>     <meta charset="utf-8" />     <title></title> </head> <body>     <ul id="main"></ul> </body> </html>

2. 使用 CSQuery 給 ul 追加 li

可以用 Append 將內(nèi)容追加到

    class Program    {        static void Main(string[] args)        {            Config.HtmlEncoder = HtmlEncoders.None;             var strlist = new string[2] { "1", "2" };             var path = Environment.CurrentDirectory + "\\2.html";            var jquery = CQ.CreateFromFile(path);             foreach (var str in strlist)            {                jquery.Find("#main").Append($"<li>{str}</li>");            }             var html = jquery.Render();        }    }

怎么用C#爬網(wǎng)頁數(shù)據(jù)

3. 部分渲染 RenderSelection

Render方法是將整個Dom渲染成html,但有時候你只需要得到你修改的那部分內(nèi)容,而不是整個html,這就涉及到了部分渲染,可以用  RenderSelection 方法即可,代碼如下:

 static void Main(string[] args)         {             Config.HtmlEncoder = HtmlEncoders.None;              var strlist = new string[2] { "1", "2" };              var path = Environment.CurrentDirectory + "\\2.html";             var jquery = CQ.CreateFromFile(path);              var current = jquery.Find("#main");              foreach (var str in strlist)             {                 current.Append($"<li>{str}</li>");             }              var html = current.RenderSelection();              Console.WriteLine(html);         }  ------------- output ----------------  <ul id="main"><li>1</li><li>2</li></ul>

感謝各位的閱讀,以上就是“怎么用C#爬網(wǎng)頁數(shù)據(jù)”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對怎么用C#爬網(wǎng)頁數(shù)據(jù)這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI