Go 語言極速入門13 - 實戰(zhàn)項目之并發(fā)版爬蟲

爬取器 fetcher 和解析器 parser 與之前相同，模型類也不變。

蘆淞ssl適用于網站、小程序/APP、API接口等需要進行數據傳輸應用場景，ssl證書未來市場廣闊！成為成都創(chuàng)新互聯(lián)公司的ssl證書銷售渠道，可以享受市場價格4-6折優(yōu)惠！如果有意向歡迎電話聯(lián)系或者加微信：18982081108（備注：SSL證書合作）期待與您的合作！

注意：

見本小節(jié)文末分析。

Q1. 為什么在 scheduler 中每一個將 Request 添加到 chan 的任務都開啟一個 Goroutine 來執(zhí)行？

A：在 Go 語言學習9 - Channel 一節(jié)描述過，對于無緩沖的 channel， 如果兩個 goroutine 沒有同時準備好，通道會導致先執(zhí)行發(fā)送或接收操作的 goroutine 阻塞等待 ，假設使用 s.workerChan - request 而不是 go func() { s.workerChan - request }() ，假設開啟了 10 個 Worker Goroutine，這 10 個 goroutine 阻塞在 r := -in 阻塞等待獲取 Request 上，假設 seeds 大于 10，例如 11，那么當 Engine 的這個循環(huán)執(zhí)行到底 11 個的時候，將陷入等待

，因為所有的10個 Worker goroutine 此時都可能也處于等待中，即 in chan 沒有接收方準備好接收數據，所以 engine 作為發(fā)送方也要阻塞等待；那么為什么10個 Worker goroutine 都會處于等待中呢？

因為10個 Worker Goroutine 都處理完了請求，并阻塞在 out - result ，由于 Engine 阻塞在 “將第11個 Request 發(fā)送到 in” 上，所以其無法進行后續(xù)的死循環(huán)去開啟 result := -out ，到此為止，相互等待死鎖形成?。?！Engine 等待 Worker 準備好 r := -in ，而10個 Worker 等待 Engine 的 result := -out 。

當使用 go func() { s.workerChan - request }() 之后，Engine Goroutine 將不再阻塞，死鎖等待被打破！?。?/p>

Q2. scheduler 方法為何使用指針接收者而不是值接收者？

A：在 Go 語言學習5 - 面向接口 中我們詳細的介紹了什么時候使用指針接收者，什么時候使用值接收者，其中最重要的兩條就是 “ 1. 如果要改變接收者內部的屬性值，必須使用指針接收者，因為值接收者是對接收者副本的操作；2. 如果 struct 內一個方法是指針接收者，那么其全部方法都是用指針接收者 ”，在 scheduler 中，我們要將外界的 in chan 賦值給 scheduler 的 workChann，所以需要改變 workChann 的值，需要使用指針接收者。

golang爬蟲框架colly

colly一款快速優(yōu)雅的golang爬蟲框架，簡單易用，功能完備。

官網地址：

包地址： import "github.com/gocolly/colly"

一個簡單的例子：

使用方式概括下來主要有三步：

創(chuàng)建采集器時可以指定一些配置參數，如useragent，爬取深度及日志等

回調函數共有7中

通過瀏覽器開發(fā)者工具查看jianshu.com結構如下

文章列表為ul標簽，中間每一項是li標簽，li中包含content，content中包含title，abstract和meta標簽

Golang net/http 爬蟲[1]

上周從零學習了golang，語法簡單關鍵字少，寫個爬蟲熟悉一下語法結構。

首先選用了原生的net/http包，基本上涵蓋了所有的get/post請求，各種參數都可以設置，網上google到html頁面解析goquery神器，很輕松就可以解決頁面解析問題。

首先就寫了個爬取匯率的爬蟲。然后重寫之前php的一個請求類，請求類的邏輯有點混亂不清晰，往往把兩個不同的功能合并到一起寫，粒度大，后來發(fā)現(xiàn)了一個好用的框架——colly，之后再試試好不好用

Windows 10 Golang

依賴包：goquery

較常用的方法有Find和Each

爬取中國銀行的匯率牌價表，golang依賴net/http包和goquery包

唯一的難點是對于goquery方法的使用，需要閱讀官方文檔：

使用原生的net/http包基本上可以解決大多數的網頁請求，使用goquery可以解決頁面解析問題

可以利用golang的協(xié)程特性進行異步多協(xié)程爬取

增加安全性可以通過幾個方面進行改進：

1.首先可以限制爬蟲的爬取速度

2.每次對網頁的請求都隨機選用一個客戶端

3.選用IP代理池，防止IP誤封（及限制ip訪問次數）

構造請求代理ip網站的鏈接→獲取網頁內容→ 提取網頁中IP地址和端口號→驗證IP的有效性并存儲

輕量級反爬蟲方案

淺談JSP

golang帶json的Http請求

Get/Post

HTTP請求中的Form Data和Request Payload的區(qū)別

HTTP Json請求

net/http：

golang HTTP操作

python建立爬蟲代理ip池

爬蟲黑科技之讓你的爬蟲程序更像人類用戶的行為

特點：事件監(jiān)聽，通過callback執(zhí)行事件處理

基于colly開發(fā)的web管理界面

網絡爬蟲是語言go，為什么？

不是啊，都可以啊，比如C（萬能的啥都可以做），C++（也基本是萬能的，爬蟲不算啥），python（簡單，幾十行代碼能搞定一個小型爬蟲），go當然也可以。

沒有限制的！

希望我的回答對你有幫助望采納！