【golang詳解】go語言GMP(GPM)原理和調度

Goroutine調度是一個很復雜的機制，下面嘗試用簡單的語言描述一下Goroutine調度機制，想要對其有更深入的了解可以去研讀一下源碼。

創(chuàng)新互聯(lián)網站建設服務商，為中小企業(yè)提供成都網站建設、成都網站制作服務，網站設計，網站托管運營等一站式綜合服務型公司，專業(yè)打造企業(yè)形象網站，讓您在眾多競爭對手中脫穎而出創(chuàng)新互聯(lián)。

首先介紹一下GMP什么意思：

G ----------- goroutine: 即Go協(xié)程，每個go關鍵字都會創(chuàng)建一個協(xié)程。

M ---------- thread內核級線程，所有的G都要放在M上才能運行。

P ----------- processor處理器，調度G到M上，其維護了一個隊列，存儲了所有需要它來調度的G。

Goroutine 調度器P和 OS 調度器是通過 M 結合起來的，每個 M 都代表了 1 個內核線程，OS 調度器負責把內核線程分配到 CPU 的核上執(zhí)行

模型圖：

避免頻繁的創(chuàng)建、銷毀線程，而是對線程的復用。

1）work stealing機制

當本線程無可運行的G時，嘗試從其他線程綁定的P偷取G，而不是銷毀線程。

2）hand off機制

當本線程M0因為G0進行系統(tǒng)調用阻塞時，線程釋放綁定的P，把P轉移給其他空閑的線程執(zhí)行。進而某個空閑的M1獲取P，繼續(xù)執(zhí)行P隊列中剩下的G。而M0由于陷入系統(tǒng)調用而進被阻塞，M1接替M0的工作，只要P不空閑，就可以保證充分利用CPU。M1的來源有可能是M的緩存池，也可能是新建的。當G0系統(tǒng)調用結束后，根據M0是否能獲取到P，將會將G0做不同的處理：

如果有空閑的P，則獲取一個P，繼續(xù)執(zhí)行G0。

如果沒有空閑的P，則將G0放入全局隊列，等待被其他的P調度。然后M0將進入緩存池睡眠。

如下圖

GOMAXPROCS設置P的數量，最多有GOMAXPROCS個線程分布在多個CPU上同時運行

在Go中一個goroutine最多占用CPU 10ms，防止其他goroutine被餓死。

具體可以去看另一篇文章

【Golang詳解】go語言調度機制 搶占式調度

當創(chuàng)建一個新的G之后優(yōu)先加入本地隊列，如果本地隊列滿了，會將本地隊列的G移動到全局隊列里面，當M執(zhí)行work stealing從其他P偷不到G時，它可以從全局G隊列獲取G。

協(xié)程經歷過程

我們創(chuàng)建一個協(xié)程 go func()經歷過程如下圖：

說明：

這里有兩個存儲G的隊列，一個是局部調度器P的本地隊列、一個是全局G隊列。新創(chuàng)建的G會先保存在P的本地隊列中，如果P的本地隊列已經滿了就會保存在全局的隊列中；處理器本地隊列是一個使用數組構成的環(huán)形鏈表，它最多可以存儲 256 個待執(zhí)行任務。

G只能運行在M中，一個M必須持有一個P，M與P是1：1的關系。M會從P的本地隊列彈出一個可執(zhí)行狀態(tài)的G來執(zhí)行，如果P的本地隊列為空，就會想其他的MP組合偷取一個可執(zhí)行的G來執(zhí)行；

一個M調度G執(zhí)行的過程是一個循環(huán)機制；會一直從本地隊列或全局隊列中獲取G

上面說到P的個數默認等于CPU核數，每個M必須持有一個P才可以執(zhí)行G，一般情況下M的個數會略大于P的個數，這多出來的M將會在G產生系統(tǒng)調用時發(fā)揮作用。類似線程池，Go也提供一個M的池子，需要時從池子中獲取，用完放回池子，不夠用時就再創(chuàng)建一個。

work-stealing調度算法：當M執(zhí)行完了當前P的本地隊列隊列里的所有G后，P也不會就這么在那躺尸啥都不干，它會先嘗試從全局隊列隊列尋找G來執(zhí)行，如果全局隊列為空，它會隨機挑選另外一個P，從它的隊列里中拿走一半的G到自己的隊列中執(zhí)行。

如果一切正常，調度器會以上述的那種方式順暢地運行，但這個世界沒這么美好，總有意外發(fā)生，以下分析goroutine在兩種例外情況下的行為。

Go runtime會在下面的goroutine被阻塞的情況下運行另外一個goroutine：

用戶態(tài)阻塞/喚醒

當goroutine因為channel操作或者network I/O而阻塞時（實際上golang已經用netpoller實現了goroutine網絡I/O阻塞不會導致M被阻塞，僅阻塞G，這里僅僅是舉個栗子），對應的G會被放置到某個wait隊列(如channel的waitq)，該G的狀態(tài)由_Gruning變?yōu)開Gwaitting，而M會跳過該G嘗試獲取并執(zhí)行下一個G，如果此時沒有可運行的G供M運行，那么M將解綁P，并進入sleep狀態(tài)；當阻塞的G被另一端的G2喚醒時（比如channel的可讀/寫通知），G被標記為，嘗試加入G2所在P的runnext（runnext是線程下一個需要執(zhí)行的 Goroutine。）， 然后再是P的本地隊列和全局隊列。

系統(tǒng)調用阻塞

當M執(zhí)行某一個G時候如果發(fā)生了阻塞操作，M會阻塞，如果當前有一些G在執(zhí)行，調度器會把這個線程M從P中摘除，然后再創(chuàng)建一個新的操作系統(tǒng)的線程(如果有空閑的線程可用就復用空閑線程)來服務于這個P。當M系統(tǒng)調用結束時候，這個G會嘗試獲取一個空閑的P執(zhí)行，并放入到這個P的本地隊列。如果獲取不到P，那么這個線程M變成休眠狀態(tài)， 加入到空閑線程中，然后這個G會被放入全局隊列中。

隊列輪轉

可見每個P維護著一個包含G的隊列，不考慮G進入系統(tǒng)調用或IO操作的情況下，P周期性的將G調度到M中執(zhí)行，執(zhí)行一小段時間，將上下文保存下來，然后將G放到隊列尾部，然后從隊列中重新取出一個G進行調度。

除了每個P維護的G隊列以外，還有一個全局的隊列，每個P會周期性地查看全局隊列中是否有G待運行并將其調度到M中執(zhí)行，全局隊列中G的來源，主要有從系統(tǒng)調用中恢復的G。之所以P會周期性地查看全局隊列，也是為了防止全局隊列中的G被餓死。

除了每個P維護的G隊列以外，還有一個全局的隊列，每個P會周期性地查看全局隊列中是否有G待運行并將其調度到M中執(zhí)行，全局隊列中G的來源，主要有從系統(tǒng)調用中恢復的G。之所以P會周期性地查看全局隊列，也是為了防止全局隊列中的G被餓死。

M0

M0是啟動程序后的編號為0的主線程，這個M對應的實例會在全局變量rutime.m0中，不需要在heap上分配，M0負責執(zhí)行初始化操作和啟動第一個G，在之后M0就和其他的M一樣了

G0

G0是每次啟動一個M都會第一個創(chuàng)建的goroutine，G0僅用于負責調度G，G0不指向任何可執(zhí)行的函數，每個M都會有一個自己的G0，在調度或系統(tǒng)調用時會使用G0的棧空間，全局變量的G0是M0的G0

一個G由于調度被中斷，此后如何恢復？

中斷的時候將寄存器里的棧信息，保存到自己的G對象里面。當再次輪到自己執(zhí)行時，將自己保存的棧信息復制到寄存器里面，這樣就接著上次之后運行了。

我這里只是根據自己的理解進行了簡單的介紹，想要詳細了解有關GMP的底層原理可以去看Go調度器 G-P-M 模型的設計者的文檔或直接看源碼

參考： ()

()

如何在 Go 語言中使用 Redis 連接池

一、關于連接池

一個數據庫服務器只擁有有限的資源，并且如果你沒有充分使用這些資源，你可以通過使用更多的連接來提高吞吐量。一旦所有的資源都在使用，那么你就不 能通過增加更多的連接來提高吞吐量。事實上，吞吐量在連接負載較大時就開始下降了。通常可以通過限制與可用的資源相匹配的數據庫連接的數量來提高延遲和吞 吐量。

如何在Go語言中使用Redis連接池

如果不使用連接池，那么，每次傳輸數據，我們都需要進行創(chuàng)建連接，收發(fā)數據，關閉連接。在并發(fā)量不高的場景，基本上不會有什么問題，一旦并發(fā)量上去了，那么，一般就會遇到下面幾個常見問題：

性能普遍上不去

CPU 大量資源被系統(tǒng)消耗

網絡一旦抖動，會有大量 TIME_WAIT 產生，不得不定期重啟服務或定期重啟機器

服務器工作不穩(wěn)定，QPS 忽高忽低

要想解決這些問題，我們就要用到連接池了。連接池的思路很簡單，在初始化時，創(chuàng)建一定數量的連接，先把所有長連接存起來，然后，誰需要使用，從這里取走，干完活立馬放回來。 如果請求數超出連接池容量，那么就排隊等待、退化成短連接或者直接丟棄掉。

二、使用連接池遇到的坑

最近在一個項目中，需要實現一個簡單的 Web Server 提供 Redis 的 HTTP interface，提供 JSON 形式的返回結果?？紤]用 Go 來實現。

首先，去看一下 Redis 官方推薦的 Go Redis driver。官方 Star 的項目有兩個：Radix.v2 和 Redigo。經過簡單的比較后，選擇了更加輕量級和實現更加優(yōu)雅的 Radix.v2。

Radix.v2 包是根據功能劃分成一個個的 sub package，每一個 sub package 在一個獨立的子目錄中，結構非常清晰。我的項目中會用到的 sub package 有 redis 和 pool。

由于我想讓這種被 fork 的進程最好簡單點，做的事情單一一些，所以，在沒有深入去看 Radix.v2 的 pool 的實現之前，我選擇了自己實現一個 Redis pool。(這里，就不貼代碼了。后來發(fā)現自己實現的 Redis pool 與 Radix.v2 實現的 Redis pool 的原理是一樣的，都是基于 channel 實現的, 遇到的問題也是一樣的。)

不過在測試過程中，發(fā)現了一個詭異的問題。在請求過程中經常會報 EOF 錯誤。而且是概率性出現，一會有問題，一會又好了。通過反復的測試，發(fā)現 bug 是有規(guī)律的，當程序空閑一會后，再進行連續(xù)請求，會發(fā)生3次失敗，然后之后的請求都能成功，而我的連接池大小設置的是3。再進一步分析，程序空閑300秒 后，再請求就會失敗，發(fā)現我的 Redis server 配置了 timeout 300，至此，問題就清楚了。是連接超時 Redis server 主動斷開了連接?？蛻舳诉@邊從一個超時的連接請求就會得到 EOF 錯誤。

然后我看了一下 Radix.v2 的 pool 包的源碼，發(fā)現這個庫本身并沒有檢測壞的連接，并替換為新server{location/pool{content_by_lua_block{localredis=require"resty.redis"localred=redis:new()localok,err=red:connect("127.0.0.1",6379)ifnotokthenngx.say("failedtoconnect:",err)returnendok,err=red:set("hello","world")ifnotokthenreturnendred:set_keepalive(10000,100)}}}

發(fā)現有個 set_keepalive 的方法，查了一下官方文檔，方法的原型是 syntax: ok, err = red:set_keepalive(max_idle_timeout, pool_size) 貌似 max_idle_timeout 這個參數，就是我們所缺少的東西，然后進一步跟蹤源碼，看看里面是怎么保證連接有效的。

function_M.set_keepalive(self,...)localsock=self.sockifnotsockthenreturnnil,"notinitialized"endifself.subscribedthenreturnnil,"subscribedstate"endreturnsock:setkeepalive(...)end

至此，已經清楚了，使用了 tcp 的 keepalive 心跳機制。

于是，通過與 Radix.v2 的作者一些討論，選擇自己在 redis 這層使用心跳機制，來解決這個問題。

四、最后的解決方案

在創(chuàng)建連接池之后，起一個 goroutine，每隔一段 idleTime 發(fā)送一個 PING 到 Redis server。其中，idleTime 略小于 Redis server 的 timeout 配置。連接池初始化部分代碼如下：

p,err:=pool.New("tcp",u.Host,concurrency)errHndlr(err)gofunc(){for{p.Cmd("PING")time.Sleep(idelTime*time.Second)}}()

使用 redis 傳輸數據部分代碼如下：

funcredisDo(p*pool.Pool,cmdstring,args...interface{})(reply*redis.Resp,errerror){reply=p.Cmd(cmd,args...)iferr=reply.Err;err!=nil{iferr!=io.EOF{Fatal.Println("redis",cmd,args,"erris",err)}}return}

其中，Radix.v2 連接池內部進行了連接池內連接的獲取和放回，代碼如下：

//Cmdautomaticallygetsoneclientfromthepool,executesthegivencommand//(returningitsresult),andputstheclientbackinthepoolfunc(p*Pool)Cmd(cmdstring,args...interface{})*redis.Resp{c,err:=p.Get()iferr!=nil{returnredis.NewResp(err)}deferp.Put(c)returnc.Cmd(cmd,args...)}

這樣，我們就有了 keepalive 的機制，不會出現 timeout 的連接了，從 redis 連接池里面取出的連接都是可用的連接了?？此坪唵蔚拇a，卻完美的解決了連接池里面超時連接的問題。同時，就算 Redis server 重啟等情況，也能保證連接自動重連。

Go語言使用gorm對MySQL進行性能測試

之前寫過了Go語言gorm框架MySQL實踐，其中對gorm框架在操作MySQL的各種基礎實踐，下面分享一下如何使用gorm框架對MySQL直接進行性能測試的簡單實踐。

這里我使用了一個原始的Go語言版本的 FunTester 測試框架，現在只有一個基本的方法，實在是因為Go語言特性太強了?？蚣茉O計的主要思路之一就是利用Go語言的閉包和方法參數特性，將一個 func() 當做性能測試的主題，通過不斷運行這個 func() 來實現性能測試。當然還有另外一個思路就是運行一個多線程任務類，類似 Java 版本的 com.funtester.base.constaint.ThreadBase 抽象類，這樣可以設置一些類的屬性，綁定一些測試資源，適配更多的測試場景。

下面演示select的性能測試，這里我用了隨機ID查詢的場景。

這里我使用從35開始遞增的ID進行刪除。

這里使用了select的用例部分，隨機ID，然后更新name字段，隨機10個長度的字符串。

這里用到了 FunTester 字段都是隨機生成。

到這里可以看出，性能測試框架用到的都是gorm框架的基礎API使用，這里MySQL連接池的管理工作完全交給了gorm框架完成，看資料說非常牛逼，我們只需要設置幾個參數。這個使用體現很像 HttpClient 設置 HTTP 連接池類似，這里我們也可以看出這些優(yōu)秀的框架使用起來都是非常簡單的。

PS：關于gorm的基礎使用的請參考上一期的文章Go語言gorm框架MySQL實踐。

Go語言與Docker操作Redis

首選，如果之前使用過redis容器，我們需要先remove掉之前的容器

然后創(chuàng)建redis容器，并運行

進入redis容器中

接著我們通過 redis-cli 連接測試使用 redis 服務

setex指令 可以設置數據存在的時間， setex key second value

MSET 一次設置多個key-value

MGET一次獲取多個key-value

HGET

HGETALL

Hlen和hexist

Lpush 和 Lrange

Lpop和Rpop 從鏈表取出并移走數據

刪除鏈表所有數據 DEL

字符串無序 不能重復

從連接池中Get出一個conn連接