這篇文章主要講解了“怎么用C#爬網(wǎng)頁數(shù)據(jù)”,文中的講解內(nèi)容簡單清晰,易于學(xué)習(xí)與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“怎么用C#爬網(wǎng)頁數(shù)據(jù)”吧!
目前創(chuàng)新互聯(lián)已為近1000家的企業(yè)提供了網(wǎng)站建設(shè)、域名、虛擬空間、網(wǎng)站托管、企業(yè)網(wǎng)站設(shè)計、北川羌族網(wǎng)站維護等服務(wù),公司將堅持客戶導(dǎo)向、應(yīng)用為本的策略,正道將秉承"和諧、參與、激情"的文化,與客戶和合作伙伴齊心協(xié)力一起成長,共同發(fā)展。
CSQuery
1. 安裝
github的地址:https://github.com/zone117x/CsQuery 然后在vs中 nuget 一下即可:
2. 舉幾個例子
一切都準備就緒了,那怎么用呢?不著急,我以博客園舉兩個例子。
1) 將首頁中的 友情連接 提取到
如上圖,要想獲取這里的 友情鏈接幾個大字,直接用 text() 肯定是不行的,默認情況它會將所有的子節(jié)點的文本也會抓到,如下圖:
那怎么處理呢?可以用 jquery 提供的 contents 方法,然后在獲取的所有子節(jié)點中判斷是否有 文本節(jié)點,最后獲取文本節(jié)點的內(nèi)容即可,如下代碼:
用js是搞定了,那用 CSQuery 代碼怎么搞定呢?模仿唄,如下代碼:
static void Main(string[] args) { var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com")); var content = jquery["#friend_link"].Contents().Filter((dom) => { return dom.NodeType == NodeType.TEXT_NODE; }).Text(); Console.WriteLine(content); }
我不知道用 xpath 提取這樣的內(nèi)容麻不麻煩,不過用 jquery 方式不簡單,但輕車熟路。
2) 如何將 html 中的某些元素標顏色
有時候為了業(yè)務(wù)需要將某些 html 標簽改一下顏色,比如說將首頁的 tabmenu 中 博問 和 專區(qū) 改成紅色,如下圖:
那用 CSQuery 怎么處理呢?如果玩過 jquery,一般來說步驟如下:
使用 each 遍歷每一個子 li 標簽
使用 CSS 方法給 li 中 a 標簽賦樣式
使用 Render 渲染生成一個新的的html
有了步驟,C#代碼如下:
static void Main(string[] args) { Config.HtmlEncoder = HtmlEncoders.None; var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com")); var html = jquery["#nav_left li"].Each(dom => { var self = jquery[dom]; var text = self.Text(); if (text == "博問" || text == "專區(qū)") { self.Find("a").CssSet(new { color = "red" }); } }).Render(); }
3) 其他的操作方法
除了上面兩個操作方法外,你還可以使用 after,before,replaceAll,IS 等等一百來個實用的方法,這篇肯定也無法一一介紹了,大家有興趣可以下載下來看一看,搗鼓搗鼓。
其他用途
除了抓取html中的元素,我覺得這玩意還可以用在發(fā)送郵件時操控郵件模板,畢竟在很久以前大家都是用jquery來繪制 html,所以用 CSQuery 也是可以的,相對使用 xslt 有利有弊吧,接下來做一個例子:
1. 生成一個html模板
2. 使用 CSQuery 給 ul 追加 li
可以用 Append 將內(nèi)容追加到
class Program { static void Main(string[] args) { Config.HtmlEncoder = HtmlEncoders.None; var strlist = new string[2] { "1", "2" }; var path = Environment.CurrentDirectory + "\\2.html"; var jquery = CQ.CreateFromFile(path); foreach (var str in strlist) { jquery.Find("#main").Append($"
3. 部分渲染 RenderSelection
Render方法是將整個Dom渲染成html,但有時候你只需要得到你修改的那部分內(nèi)容,而不是整個html,這就涉及到了部分渲染,可以用 RenderSelection 方法即可,代碼如下:
static void Main(string[] args) { Config.HtmlEncoder = HtmlEncoders.None; var strlist = new string[2] { "1", "2" }; var path = Environment.CurrentDirectory + "\\2.html"; var jquery = CQ.CreateFromFile(path); var current = jquery.Find("#main"); foreach (var str in strlist) { current.Append($"
感謝各位的閱讀,以上就是“怎么用C#爬網(wǎng)頁數(shù)據(jù)”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對怎么用C#爬網(wǎng)頁數(shù)據(jù)這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!