用Golang做爬蟲，當面對頁面存在復雜的JS的情況，使用普通的http.get或者http.post，如不做特殊處理，將無法解析頁面源代碼。
創(chuàng)新互聯(lián)擁有網(wǎng)站維護技術和項目管理團隊，建立的售前、實施和售后服務體系，為客戶提供定制化的網(wǎng)站設計制作、成都網(wǎng)站制作、網(wǎng)站維護、成都移動機房托管解決方案。為客戶網(wǎng)站安全和日常運維提供整體管家式外包優(yōu)質服務。我們的網(wǎng)站維護服務覆蓋集團企業(yè)、上市公司、外企網(wǎng)站、商城網(wǎng)站制作、政府網(wǎng)站等各類型客戶群體，為全球1000多家企業(yè)提供全方位網(wǎng)站維護、服務器維護解決方案。
在使用python的過程中，可以使用selenium進行爬取數(shù)據(jù)，或使用selenium自動化測試，那么用Golang怎么處理這個問題呢？
其實Golang中也有selenium，Selenium 作為一個用于 Web 應用程序測試的工具，可以模擬真實瀏覽器進行操作，也可以實現(xiàn)鼠標點擊、滾輪、輸入等用戶日常操作。
我們通過2節(jié)課的學習，實現(xiàn)1、本地啟動selenium服務；2、遠程啟動selenium服務。
上周從零學習了golang，語法簡單關鍵字少，寫個爬蟲熟悉一下語法結構。
首先選用了原生的net/http包，基本上涵蓋了所有的get/post請求，各種參數(shù)都可以設置，網(wǎng)上google到html頁面解析goquery神器，很輕松就可以解決頁面解析問題。
首先就寫了個爬取匯率的爬蟲。然后重寫之前php的一個請求類，請求類的邏輯有點混亂不清晰，往往把兩個不同的功能合并到一起寫，粒度大，后來發(fā)現(xiàn)了一個好用的框架——colly，之后再試試好不好用
Windows 10 Golang
依賴包：goquery
較常用的方法有Find和Each
爬取中國銀行的匯率牌價表，golang依賴net/http包和goquery包
唯一的難點是對于goquery方法的使用，需要閱讀官方文檔：
使用原生的net/http包基本上可以解決大多數(shù)的網(wǎng)頁請求，使用goquery可以解決頁面解析問題
可以利用golang的協(xié)程特性進行異步多協(xié)程爬取
增加安全性可以通過幾個方面進行改進：
1.首先可以限制爬蟲的爬取速度
2.每次對網(wǎng)頁的請求都隨機選用一個客戶端
3.選用IP代理池，防止IP誤封（及限制ip訪問次數(shù)）
構造請求代理ip網(wǎng)站的鏈接→獲取網(wǎng)頁內容→ 提取網(wǎng)頁中IP地址和端口號→驗證IP的有效性并存儲
輕量級反爬蟲方案
淺談JSP
golang帶json的Http請求
Get/Post
HTTP請求中的Form Data和Request Payload的區(qū)別
HTTP Json請求
net/http：
golang HTTP操作
python建立爬蟲代理ip池
爬蟲黑科技之讓你的爬蟲程序更像人類用戶的行為
特點：事件監(jiān)聽，通過callback執(zhí)行事件處理
基于colly開發(fā)的web管理界面
colly一款快速優(yōu)雅的golang爬蟲框架，簡單易用，功能完備。
官網(wǎng)地址：
包地址： import "github.com/gocolly/colly"
一個簡單的例子：
使用方式概括下來主要有三步：
創(chuàng)建采集器時可以指定一些配置參數(shù)，如useragent，爬取深度及日志等
回調函數(shù)共有7中
通過瀏覽器開發(fā)者工具查看jianshu.com結構如下
文章列表為ul標簽，中間每一項是li標簽，li中包含content，content中包含title，abstract和meta標簽
Go沒有泄露，并發(fā)原生支持，速度快。Python如果用代理IP，如果代理IP失效，會莫名其妙使用本地IP。且Go寫爬蟲可以和很多的數(shù)據(jù)庫如mongo,redis,hbase,mysql集成。
Go開發(fā)效率還高，半個小時就寫了個爬蟲，看，寫分布式爬蟲也是Go的優(yōu)勢，因為Go協(xié)程比Python和Java都容易寫。
最后，如果你用Go寫爬蟲，還可以直接用Go來寫網(wǎng)站，三句代碼就可以建立一個Web服務器和Python差不多，但包管理機制簡單，只需go get –u –v 包
重慶分公司
重慶分公司
