golang協(xié)程調(diào)度模式解密

golang學(xué)習(xí)筆記

10年的鎮(zhèn)雄網(wǎng)站建設(shè)經(jīng)驗(yàn)，針對(duì)設(shè)計(jì)、前端、開(kāi)發(fā)、售后、文案、推廣等六對(duì)一服務(wù)，響應(yīng)快，48小時(shí)及時(shí)工作處理。成都全網(wǎng)營(yíng)銷(xiāo)的優(yōu)勢(shì)是能夠根據(jù)用戶設(shè)備顯示端的尺寸不同，自動(dòng)調(diào)整鎮(zhèn)雄建站的顯示方式，使網(wǎng)站能夠適用不同顯示終端，在瀏覽器中調(diào)整網(wǎng)站的寬度，無(wú)論在任何一種瀏覽器上瀏覽網(wǎng)站，都能展現(xiàn)優(yōu)雅布局與設(shè)計(jì)，從而大程度地提升瀏覽體驗(yàn)。成都創(chuàng)新互聯(lián)公司從事“鎮(zhèn)雄網(wǎng)站設(shè)計(jì)”,“鎮(zhèn)雄網(wǎng)站推廣”以來(lái)，每個(gè)客戶項(xiàng)目都認(rèn)真落實(shí)執(zhí)行。

頻繁創(chuàng)建線程會(huì)造成不必要的開(kāi)銷(xiāo)，所以才有了線程池。在線程池中預(yù)先保存一定數(shù)量的線程，新任務(wù)發(fā)布到任務(wù)隊(duì)列，線程池中的線程不斷地從任務(wù)隊(duì)列中取出任務(wù)并執(zhí)行，可以有效的減少創(chuàng)建和銷(xiāo)毀帶來(lái)的開(kāi)銷(xiāo)。

過(guò)多的線程會(huì)導(dǎo)致?tīng)?zhēng)搶cpu資源，且上下文的切換的開(kāi)銷(xiāo)變大。而工作在用戶態(tài)的協(xié)程能大大減少上下文切換的開(kāi)銷(xiāo)。協(xié)程調(diào)度器把可運(yùn)行的協(xié)程逐個(gè)調(diào)度到線程中執(zhí)行，同時(shí)即時(shí)把阻塞的協(xié)程調(diào)度出協(xié)程，從而有效地避免了線程的頻繁切換，達(dá)到了少量線程實(shí)現(xiàn)高并發(fā)的效果。

多個(gè)協(xié)程分享操作系統(tǒng)分給線程的時(shí)間片，從而達(dá)到充分利用CPU的目的，協(xié)程調(diào)度器決定了則決定了協(xié)程運(yùn)行的順序。每個(gè)線程同一時(shí)刻只能運(yùn)行一個(gè)協(xié)程。

go調(diào)度模型包含三個(gè)實(shí)體：

每個(gè)處理器維護(hù)者一個(gè)協(xié)程G的隊(duì)列，處理器依次將協(xié)程G調(diào)度到M中執(zhí)行。

每個(gè)P會(huì)周期性地查看全局隊(duì)列中是否有G待運(yùn)行并將其高拿調(diào)度到M中執(zhí)行，全局隊(duì)列中的G主要來(lái)自系統(tǒng)調(diào)用中恢復(fù)的G.

如果協(xié)程發(fā)起系統(tǒng)調(diào)用，則整個(gè)工作線程M被阻塞，協(xié)程隊(duì)列中的其他協(xié)程都會(huì)阻塞。

一般情況下M的個(gè)數(shù)會(huì)略大于P個(gè)數(shù)，多出來(lái)的M將會(huì)在G產(chǎn)生系統(tǒng)明念猛調(diào)用時(shí)發(fā)揮作用。與線程池類(lèi)似，Go也提供M池子。當(dāng)協(xié)程G1發(fā)起系統(tǒng)掉用時(shí)，M1會(huì)釋放P,由 M1-P-G1 G2 ... 轉(zhuǎn)變成 M1-G1 , M2會(huì)接管P的其他協(xié)程 M2-P-G2 G3 G4... 。

冗余的M可能來(lái)源于緩存池，也可能是新建的。

當(dāng)G1結(jié)束系統(tǒng)調(diào)用后，根據(jù)M1是否獲取到P,進(jìn)行不用的處理。

多個(gè)處理P維護(hù)隊(duì)列可能不均衡，導(dǎo)致部分處理器非常繁忙，而其余相對(duì)空閑。產(chǎn)生原因是有些協(xié)程自身不斷地派生協(xié)程。

為此Go調(diào)度器提供了工作量竊取策略，當(dāng)某個(gè)處理器P沒(méi)有需要調(diào)度的協(xié)程時(shí)，將從其他處理中偷取協(xié)程，每次偷取一半。

搶占式調(diào)度，是指避免某個(gè)協(xié)程長(zhǎng)時(shí)間執(zhí)行，而阻礙其他協(xié)程被調(diào)激橋度的機(jī)制。

調(diào)度器監(jiān)控每個(gè)協(xié)程執(zhí)行時(shí)間，一旦執(zhí)行時(shí)間過(guò)長(zhǎng)且有其他協(xié)程等待，會(huì)把協(xié)程暫停，轉(zhuǎn)而調(diào)度等待的協(xié)程，以達(dá)到類(lèi)似時(shí)間片輪轉(zhuǎn)的效果。比如for循環(huán)會(huì)一直占用執(zhí)行權(quán)。

在IO密集型應(yīng)用，GOMAXPROCS大小設(shè)置大一些，獲取性能會(huì)更好。

IO密集型會(huì)經(jīng)常發(fā)生系統(tǒng)調(diào)用，會(huì)有一個(gè)新的M啟用或創(chuàng)建，但由于Go調(diào)度器檢測(cè)M到被阻塞有一定延遲。如果P數(shù)量多，則P管理協(xié)程隊(duì)列會(huì)變小。

golang的線程模型——GMP模型

內(nèi)核線程（Kernel-Level Thread ，KLT）

輕量級(jí)進(jìn)程（Light Weight Process,LWP）：輕量級(jí)進(jìn)程就是我們通常意義上所講的線程，由于每個(gè)輕量級(jí)進(jìn)程都由一個(gè)內(nèi)核線程支持，因此只有先支持內(nèi)核線程，才能有輕量級(jí)進(jìn)程

用戶線程與系統(tǒng)線程一一對(duì)應(yīng)，用戶線程執(zhí)行如lo操作的系統(tǒng)調(diào)用時(shí)，來(lái)回切換操作開(kāi)銷(xiāo)相對(duì)比較大

多個(gè)用戶線程對(duì)應(yīng)一個(gè)內(nèi)核線程，當(dāng)內(nèi)核線程對(duì)應(yīng)的一個(gè)用戶線程被阻塞掛起時(shí)候，其他用戶線程也阻塞不能執(zhí)行了。

多對(duì)多模型是可以充分利用多核CPU提升運(yùn)行效能的

go線程模型包含三個(gè)概念：內(nèi)核線程(M)，goroutine(G),G的上下文環(huán)境（P）；

GMP模型是goalng特有的。

P與M一般是一一對(duì)應(yīng)的。P（上下文）管理著一組G（goroutine）掛載在M（內(nèi)核線程）上運(yùn)行，圖中左邊藍(lán)色為正在執(zhí)行狀態(tài)的goroutine，右邊為待執(zhí)行狀態(tài)的goroutiine隊(duì)列。P的數(shù)量由環(huán)境變量GOMAXPROCS的值或程序運(yùn)行runtime.GOMAXPROCS()進(jìn)行設(shè)置。

當(dāng)一個(gè)os線程在執(zhí)行M1一個(gè)G1發(fā)生阻塞時(shí)，調(diào)度器讓M1拋棄P，等待G1返回，然后另起一個(gè)M2接收P來(lái)執(zhí)行剩下的goroutine隊(duì)列（G2、G3...），這是golang調(diào)度器厲害的地方，可以保證有足夠的線程來(lái)運(yùn)行剩下所有的goroutine。

當(dāng)G1結(jié)束后，M1會(huì)重新拿回P來(lái)完成，如果拿不到就丟到全局runqueue中，然后自己放到線程池或轉(zhuǎn)入休眠狀態(tài)。空閑的上下文P會(huì)周期性的檢查全局runqueue上的goroutine，并且執(zhí)行它。

另一種情況就是當(dāng)有些P1太閑而其他P2很忙碌的時(shí)候，會(huì)從其他上下文P2拿核薯如一些G來(lái)執(zhí)行。

詳細(xì)可以翻看下方第一個(gè)參考鏈接，寫(xiě)得真好。

最后用大佬的總結(jié)來(lái)做最后的收尾————

Go語(yǔ)言運(yùn)行時(shí)，通過(guò)核心元素G，M，P 和 自己的調(diào)度器，實(shí)現(xiàn)了自己的并發(fā)線程模型。調(diào)度器通過(guò)對(duì)G，M，P的調(diào)度實(shí)現(xiàn)了兩級(jí)線程模型中操作系統(tǒng)內(nèi)核之外的調(diào)度任務(wù)。手滑整個(gè)調(diào)度過(guò)程中會(huì)在多種時(shí)機(jī)去觸發(fā)最核心的步驟 “一整輪調(diào)度”，而一整輪調(diào)度中最關(guān)鍵的部分在“全力查找可運(yùn)行G”，它保證了M的高效運(yùn)行（換句話說(shuō)就是充分使用了計(jì)算機(jī)的物理資源），一整輪調(diào)度中還會(huì)涉及到M的啟用停改啟止。最后別忘了，還有一個(gè)與Go程序生命周期相同的系統(tǒng)監(jiān)測(cè)任務(wù)來(lái)進(jìn)行一些輔助性的工作。

淺析Golang的線程模型與調(diào)度器

Golang CSP并發(fā)模型

Golang線程模型

【golang詳解】go語(yǔ)言GMP(GPM)原理和調(diào)度

Goroutine調(diào)度是一個(gè)很復(fù)雜的機(jī)制，下面嘗試用簡(jiǎn)單的語(yǔ)言描述一下Goroutine調(diào)度機(jī)制，想要對(duì)其有更深入的了解可以去研讀一下源碼。

首先介紹一下GMP什么意思：

G ----------- goroutine: 即Go協(xié)程，每個(gè)go關(guān)鍵字都會(huì)創(chuàng)建一個(gè)協(xié)程。

M ---------- thread內(nèi)核級(jí)線程，所有的G都要放在M上才能運(yùn)行。

P ----------- processor處理器，調(diào)度G到M上，其維護(hù)了一個(gè)隊(duì)列，存儲(chǔ)了所有需要它來(lái)調(diào)度的G。

Goroutine 調(diào)度器P和 OS 調(diào)度器是通過(guò) M 結(jié)合起來(lái)的，每個(gè) M 都代表了 1 個(gè)內(nèi)核線程，OS 調(diào)度器負(fù)責(zé)把內(nèi)核線程分配到 CPU 的核上執(zhí)行

模型圖：

避免頻繁的創(chuàng)建、銷(xiāo)毀線程，而是對(duì)線程的復(fù)用。

1）work stealing機(jī)制

當(dāng)本線程無(wú)可運(yùn)行的G時(shí)，嘗試從其他線程綁定的P偷取G，而不是銷(xiāo)毀線程。

2）hand off機(jī)制

當(dāng)本線程M0因?yàn)镚0進(jìn)行系統(tǒng)調(diào)用阻塞時(shí)，線程釋放綁定的P，把P轉(zhuǎn)移給其他空閑的線程執(zhí)行。進(jìn)而某個(gè)空閑的M1獲取P，繼續(xù)執(zhí)行P隊(duì)列中剩下的G。而M0由于陷入系統(tǒng)調(diào)用而進(jìn)被阻塞，M1接替M0的工作，只要P不空閑，就可以保證充分利用CPU。M1的來(lái)源有可能是M的緩存池，也可能是新建的。當(dāng)G0系統(tǒng)調(diào)用結(jié)束后，根據(jù)M0是否能獲取到P，將會(huì)將G0做不同的處理：

如果有空閑的P，則獲取一個(gè)P，繼續(xù)執(zhí)行G0。

如果沒(méi)有空閑的P，則將G0放入全局隊(duì)列，等待被其他的P調(diào)度。然后M0將進(jìn)入緩存池睡眠。

如下圖

GOMAXPROCS設(shè)置P的數(shù)量，最多有GOMAXPROCS個(gè)線程分布在多個(gè)CPU上同時(shí)運(yùn)行

在Go中一個(gè)goroutine最多占用CPU 10ms，防止其他goroutine被餓死。

具體可以去看另一篇文章

【Golang詳解】go語(yǔ)言調(diào)度機(jī)制 搶占式調(diào)度

當(dāng)創(chuàng)建一個(gè)新的G之后優(yōu)先加入本乎團(tuán)配地隊(duì)列，如果本地隊(duì)列滿了，會(huì)將本地隊(duì)列的G移動(dòng)到全局隊(duì)列里面，當(dāng)M執(zhí)行work stealing從其他P偷不到G時(shí)，它可以從全局G隊(duì)列獲取G。

協(xié)程經(jīng)歷過(guò)程

我們創(chuàng)建一個(gè)協(xié)程 go func()經(jīng)歷過(guò)程如下圖：

說(shuō)明：

這里有兩個(gè)存儲(chǔ)G的隊(duì)列，一個(gè)是局部調(diào)度器P的本地隊(duì)列、一個(gè)是全局G隊(duì)列。新創(chuàng)建的G會(huì)先保存在P的本地隊(duì)列中，如果P的本地隊(duì)列已經(jīng)滿了就會(huì)保存在全局的隊(duì)列中；處理器本地隊(duì)列是一個(gè)使用數(shù)組構(gòu)成的環(huán)形鏈表，它最多可以存儲(chǔ) 256 個(gè)待執(zhí)行任務(wù)。

G只能運(yùn)行在M中，一個(gè)M必須持有一個(gè)P，M與P是1：1的關(guān)系。M會(huì)從P的本地隊(duì)列彈出一個(gè)可執(zhí)行狀態(tài)的G來(lái)執(zhí)行，如果P的本地隊(duì)列為空，就會(huì)想其他的MP組合偷取一個(gè)可執(zhí)行的G來(lái)執(zhí)行；

一個(gè)M調(diào)度G執(zhí)行的過(guò)程是一個(gè)循環(huán)機(jī)制；會(huì)一直從本地隊(duì)列或全局隊(duì)列中獲取G

上面說(shuō)到P的個(gè)數(shù)默認(rèn)等于CPU核數(shù)，每個(gè)M必須持有一個(gè)P才可以執(zhí)行G，一般情況下M的個(gè)數(shù)會(huì)略大于P的個(gè)數(shù)，這多出來(lái)的M將會(huì)在G產(chǎn)生系統(tǒng)調(diào)用時(shí)發(fā)揮作用歲指。類(lèi)似線程池，Go也提供一個(gè)M的池子，需要時(shí)從池子中或塌獲取，用完放回池子，不夠用時(shí)就再創(chuàng)建一個(gè)。

work-stealing調(diào)度算法：當(dāng)M執(zhí)行完了當(dāng)前P的本地隊(duì)列隊(duì)列里的所有G后，P也不會(huì)就這么在那躺尸啥都不干，它會(huì)先嘗試從全局隊(duì)列隊(duì)列尋找G來(lái)執(zhí)行，如果全局隊(duì)列為空，它會(huì)隨機(jī)挑選另外一個(gè)P，從它的隊(duì)列里中拿走一半的G到自己的隊(duì)列中執(zhí)行。

如果一切正常，調(diào)度器會(huì)以上述的那種方式順暢地運(yùn)行，但這個(gè)世界沒(méi)這么美好，總有意外發(fā)生，以下分析goroutine在兩種例外情況下的行為。

Go runtime會(huì)在下面的goroutine被阻塞的情況下運(yùn)行另外一個(gè)goroutine：

用戶態(tài)阻塞/喚醒

當(dāng)goroutine因?yàn)閏hannel操作或者network I/O而阻塞時(shí)（實(shí)際上golang已經(jīng)用netpoller實(shí)現(xiàn)了goroutine網(wǎng)絡(luò)I/O阻塞不會(huì)導(dǎo)致M被阻塞，僅阻塞G，這里僅僅是舉個(gè)栗子），對(duì)應(yīng)的G會(huì)被放置到某個(gè)wait隊(duì)列(如channel的waitq)，該G的狀態(tài)由_Gruning變?yōu)開(kāi)Gwaitting，而M會(huì)跳過(guò)該G嘗試獲取并執(zhí)行下一個(gè)G，如果此時(shí)沒(méi)有可運(yùn)行的G供M運(yùn)行，那么M將解綁P，并進(jìn)入sleep狀態(tài)；當(dāng)阻塞的G被另一端的G2喚醒時(shí)（比如channel的可讀/寫(xiě)通知），G被標(biāo)記為，嘗試加入G2所在P的runnext（runnext是線程下一個(gè)需要執(zhí)行的 Goroutine。）， 然后再是P的本地隊(duì)列和全局隊(duì)列。

系統(tǒng)調(diào)用阻塞

當(dāng)M執(zhí)行某一個(gè)G時(shí)候如果發(fā)生了阻塞操作，M會(huì)阻塞，如果當(dāng)前有一些G在執(zhí)行，調(diào)度器會(huì)把這個(gè)線程M從P中摘除，然后再創(chuàng)建一個(gè)新的操作系統(tǒng)的線程(如果有空閑的線程可用就復(fù)用空閑線程)來(lái)服務(wù)于這個(gè)P。當(dāng)M系統(tǒng)調(diào)用結(jié)束時(shí)候，這個(gè)G會(huì)嘗試獲取一個(gè)空閑的P執(zhí)行，并放入到這個(gè)P的本地隊(duì)列。如果獲取不到P，那么這個(gè)線程M變成休眠狀態(tài)， 加入到空閑線程中，然后這個(gè)G會(huì)被放入全局隊(duì)列中。

隊(duì)列輪轉(zhuǎn)

可見(jiàn)每個(gè)P維護(hù)著一個(gè)包含G的隊(duì)列，不考慮G進(jìn)入系統(tǒng)調(diào)用或IO操作的情況下，P周期性的將G調(diào)度到M中執(zhí)行，執(zhí)行一小段時(shí)間，將上下文保存下來(lái)，然后將G放到隊(duì)列尾部，然后從隊(duì)列中重新取出一個(gè)G進(jìn)行調(diào)度。

除了每個(gè)P維護(hù)的G隊(duì)列以外，還有一個(gè)全局的隊(duì)列，每個(gè)P會(huì)周期性地查看全局隊(duì)列中是否有G待運(yùn)行并將其調(diào)度到M中執(zhí)行，全局隊(duì)列中G的來(lái)源，主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會(huì)周期性地查看全局隊(duì)列，也是為了防止全局隊(duì)列中的G被餓死。

除了每個(gè)P維護(hù)的G隊(duì)列以外，還有一個(gè)全局的隊(duì)列，每個(gè)P會(huì)周期性地查看全局隊(duì)列中是否有G待運(yùn)行并將其調(diào)度到M中執(zhí)行，全局隊(duì)列中G的來(lái)源，主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會(huì)周期性地查看全局隊(duì)列，也是為了防止全局隊(duì)列中的G被餓死。

M0

M0是啟動(dòng)程序后的編號(hào)為0的主線程，這個(gè)M對(duì)應(yīng)的實(shí)例會(huì)在全局變量rutime.m0中，不需要在heap上分配，M0負(fù)責(zé)執(zhí)行初始化操作和啟動(dòng)第一個(gè)G，在之后M0就和其他的M一樣了

G0

G0是每次啟動(dòng)一個(gè)M都會(huì)第一個(gè)創(chuàng)建的goroutine，G0僅用于負(fù)責(zé)調(diào)度G，G0不指向任何可執(zhí)行的函數(shù)，每個(gè)M都會(huì)有一個(gè)自己的G0，在調(diào)度或系統(tǒng)調(diào)用時(shí)會(huì)使用G0的棧空間，全局變量的G0是M0的G0

一個(gè)G由于調(diào)度被中斷，此后如何恢復(fù)？

中斷的時(shí)候?qū)⒓拇嫫骼锏臈Ｐ畔?，保存到自己的G對(duì)象里面。當(dāng)再次輪到自己執(zhí)行時(shí)，將自己保存的棧信息復(fù)制到寄存器里面，這樣就接著上次之后運(yùn)行了。

我這里只是根據(jù)自己的理解進(jìn)行了簡(jiǎn)單的介紹，想要詳細(xì)了解有關(guān)GMP的底層原理可以去看Go調(diào)度器 G-P-M 模型的設(shè)計(jì)者的文檔或直接看源碼

參考： ()

()