Go語(yǔ)言的應(yīng)用

Go語(yǔ)言由Google公司開(kāi)發(fā)，并于2009年開(kāi)源，相比Java/Python/C等語(yǔ)言，Go尤其擅長(zhǎng)并發(fā)編程，性能堪比C語(yǔ)言，開(kāi)發(fā)效率肩比Python，被譽(yù)為“21世紀(jì)的C語(yǔ)言”。

成都創(chuàng)新互聯(lián)是一家專業(yè)提供大足企業(yè)網(wǎng)站建設(shè),專注與網(wǎng)站設(shè)計(jì)、網(wǎng)站制作、H5響應(yīng)式網(wǎng)站、小程序制作等業(yè)務(wù)。10年已為大足眾多企業(yè)、政府機(jī)構(gòu)等服務(wù)。創(chuàng)新互聯(lián)專業(yè)的建站公司優(yōu)惠進(jìn)行中。

Go語(yǔ)言在云計(jì)算、大數(shù)據(jù)、微服務(wù)、高并發(fā)領(lǐng)域應(yīng)用應(yīng)用非常廣泛。BAT大廠正在把Go作為新項(xiàng)目開(kāi)發(fā)的首選語(yǔ)言。

Go語(yǔ)言應(yīng)用范圍：

1、服務(wù)端開(kāi)發(fā)：以前你使用C或者C++做的那些事情，用Go來(lái)做很合適，例如日志處理、文件系統(tǒng)、監(jiān)控系統(tǒng)等;

2、DevOps：運(yùn)維生態(tài)中的Docker、K8s、prometheus、grafana、open-falcon等都是使用Go語(yǔ)言開(kāi)發(fā);

3、網(wǎng)絡(luò)編程：大量?jī)?yōu)秀的Web框架如Echo、Gin、Iris、beego等，而且Go內(nèi)置的 net/http包十分的優(yōu)秀;

4、Paas云平臺(tái)領(lǐng)域：Kubernetes和Docker Swarm等;

5、分布式存儲(chǔ)領(lǐng)域：etcd、Groupcache、TiDB、Cockroachdb、Influxdb等;

6、區(qū)塊鏈領(lǐng)域：區(qū)塊鏈里面有兩個(gè)明星項(xiàng)目以太坊和fabric都使用Go語(yǔ)言;

7、容器虛擬化：大名鼎鼎的Docker就是使用Go語(yǔ)言實(shí)現(xiàn)的;

8、爬蟲(chóng)及大數(shù)據(jù)：Go語(yǔ)言天生支持并發(fā)，所以十分適合編寫(xiě)分布式爬蟲(chóng)及大數(shù)據(jù)處理。

golang爬蟲(chóng)框架colly

colly一款快速優(yōu)雅的golang爬蟲(chóng)框架，簡(jiǎn)單易用，功能完備。

官網(wǎng)地址：

包地址： import "github.com/gocolly/colly"

一個(gè)簡(jiǎn)單的例子：

使用方式概括下來(lái)主要有三步：

創(chuàng)建采集器時(shí)可以指定一些配置參數(shù)，如useragent，爬取深度及日志等

回調(diào)函數(shù)共有7中

通過(guò)瀏覽器開(kāi)發(fā)者工具查看jianshu.com結(jié)構(gòu)如下

文章列表為ul標(biāo)簽，中間每一項(xiàng)是li標(biāo)簽，li中包含content，content中包含title，abstract和meta標(biāo)簽

Golang net/http 爬蟲(chóng)[1]

上周從零學(xué)習(xí)了golang，語(yǔ)法簡(jiǎn)單關(guān)鍵字少，寫(xiě)個(gè)爬蟲(chóng)熟悉一下語(yǔ)法結(jié)構(gòu)。

首先選用了原生的net/http包，基本上涵蓋了所有的get/post請(qǐng)求，各種參數(shù)都可以設(shè)置，網(wǎng)上google到html頁(yè)面解析goquery神器，很輕松就可以解決頁(yè)面解析問(wèn)題。

首先就寫(xiě)了個(gè)爬取匯率的爬蟲(chóng)。然后重寫(xiě)之前php的一個(gè)請(qǐng)求類，請(qǐng)求類的邏輯有點(diǎn)混亂不清晰，往往把兩個(gè)不同的功能合并到一起寫(xiě)，粒度大，后來(lái)發(fā)現(xiàn)了一個(gè)好用的框架——colly，之后再試試好不好用

Windows 10 Golang

依賴包：goquery

較常用的方法有Find和Each

爬取中國(guó)銀行的匯率牌價(jià)表，golang依賴net/http包和goquery包

唯一的難點(diǎn)是對(duì)于goquery方法的使用，需要閱讀官方文檔：

使用原生的net/http包基本上可以解決大多數(shù)的網(wǎng)頁(yè)請(qǐng)求，使用goquery可以解決頁(yè)面解析問(wèn)題

可以利用golang的協(xié)程特性進(jìn)行異步多協(xié)程爬取

增加安全性可以通過(guò)幾個(gè)方面進(jìn)行改進(jìn)：

1.首先可以限制爬蟲(chóng)的爬取速度

2.每次對(duì)網(wǎng)頁(yè)的請(qǐng)求都隨機(jī)選用一個(gè)客戶端

3.選用IP代理池，防止IP誤封（及限制ip訪問(wèn)次數(shù)）

構(gòu)造請(qǐng)求代理ip網(wǎng)站的鏈接→獲取網(wǎng)頁(yè)內(nèi)容→ 提取網(wǎng)頁(yè)中IP地址和端口號(hào)→驗(yàn)證IP的有效性并存儲(chǔ)

輕量級(jí)反爬蟲(chóng)方案

淺談JSP

golang帶json的Http請(qǐng)求

Get/Post

HTTP請(qǐng)求中的Form Data和Request Payload的區(qū)別

HTTP Json請(qǐng)求

net/http：

golang HTTP操作

python建立爬蟲(chóng)代理ip池

爬蟲(chóng)黑科技之讓你的爬蟲(chóng)程序更像人類用戶的行為

特點(diǎn)：事件監(jiān)聽(tīng)，通過(guò)callback執(zhí)行事件處理

基于colly開(kāi)發(fā)的web管理界面