【golang詳解】go語言GMP(GPM)原理和調(diào)度

Goroutine調(diào)度是一個(gè)很復(fù)雜的機(jī)制，下面嘗試用簡單的語言描述一下Goroutine調(diào)度機(jī)制，想要對(duì)其有更深入的了解可以去研讀一下源碼。

創(chuàng)新互聯(lián)建站是一家專注于成都網(wǎng)站制作、網(wǎng)站建設(shè)與策劃設(shè)計(jì),昌圖網(wǎng)站建設(shè)哪家好?創(chuàng)新互聯(lián)建站做網(wǎng)站,專注于網(wǎng)站建設(shè)十多年,網(wǎng)設(shè)計(jì)領(lǐng)域的專業(yè)建站公司;建站業(yè)務(wù)涵蓋:昌圖等地區(qū)。昌圖做網(wǎng)站價(jià)格咨詢:18982081108

首先介紹一下GMP什么意思：

G ----------- goroutine: 即Go協(xié)程，每個(gè)go關(guān)鍵字都會(huì)創(chuàng)建一個(gè)協(xié)程。

M ---------- thread內(nèi)核級(jí)線程，所有的G都要放在M上才能運(yùn)行。

P ----------- processor處理器，調(diào)度G到M上，其維護(hù)了一個(gè)隊(duì)列，存儲(chǔ)了所有需要它來調(diào)度的G。

Goroutine 調(diào)度器P和 OS 調(diào)度器是通過 M 結(jié)合起來的，每個(gè) M 都代表了 1 個(gè)內(nèi)核線程，OS 調(diào)度器負(fù)責(zé)把內(nèi)核線程分配到 CPU 的核上執(zhí)行

模型圖：

避免頻繁的創(chuàng)建、銷毀線程，而是對(duì)線程的復(fù)用。

1）work stealing機(jī)制

當(dāng)本線程無可運(yùn)行的G時(shí)，嘗試從其他線程綁定的P偷取G，而不是銷毀線程。

2）hand off機(jī)制

當(dāng)本線程M0因?yàn)镚0進(jìn)行系統(tǒng)調(diào)用阻塞時(shí)，線程釋放綁定的P，把P轉(zhuǎn)移給其他空閑的線程執(zhí)行。進(jìn)而某個(gè)空閑的M1獲取P，繼續(xù)執(zhí)行P隊(duì)列中剩下的G。而M0由于陷入系統(tǒng)調(diào)用而進(jìn)被阻塞，M1接替M0的工作，只要P不空閑，就可以保證充分利用CPU。M1的來源有可能是M的緩存池，也可能是新建的。當(dāng)G0系統(tǒng)調(diào)用結(jié)束后，根據(jù)M0是否能獲取到P，將會(huì)將G0做不同的處理：

如果有空閑的P，則獲取一個(gè)P，繼續(xù)執(zhí)行G0。

如果沒有空閑的P，則將G0放入全局隊(duì)列，等待被其他的P調(diào)度。然后M0將進(jìn)入緩存池睡眠。

如下圖

GOMAXPROCS設(shè)置P的數(shù)量，最多有GOMAXPROCS個(gè)線程分布在多個(gè)CPU上同時(shí)運(yùn)行

在Go中一個(gè)goroutine最多占用CPU 10ms，防止其他goroutine被餓死。

具體可以去看另一篇文章

【Golang詳解】go語言調(diào)度機(jī)制 搶占式調(diào)度

當(dāng)創(chuàng)建一個(gè)新的G之后優(yōu)先加入本地隊(duì)列，如果本地隊(duì)列滿了，會(huì)將本地隊(duì)列的G移動(dòng)到全局隊(duì)列里面，當(dāng)M執(zhí)行work stealing從其他P偷不到G時(shí)，它可以從全局G隊(duì)列獲取G。

協(xié)程經(jīng)歷過程

我們創(chuàng)建一個(gè)協(xié)程 go func()經(jīng)歷過程如下圖：

說明：

這里有兩個(gè)存儲(chǔ)G的隊(duì)列，一個(gè)是局部調(diào)度器P的本地隊(duì)列、一個(gè)是全局G隊(duì)列。新創(chuàng)建的G會(huì)先保存在P的本地隊(duì)列中，如果P的本地隊(duì)列已經(jīng)滿了就會(huì)保存在全局的隊(duì)列中；處理器本地隊(duì)列是一個(gè)使用數(shù)組構(gòu)成的環(huán)形鏈表，它最多可以存儲(chǔ) 256 個(gè)待執(zhí)行任務(wù)。

G只能運(yùn)行在M中，一個(gè)M必須持有一個(gè)P，M與P是1：1的關(guān)系。M會(huì)從P的本地隊(duì)列彈出一個(gè)可執(zhí)行狀態(tài)的G來執(zhí)行，如果P的本地隊(duì)列為空，就會(huì)想其他的MP組合偷取一個(gè)可執(zhí)行的G來執(zhí)行；

一個(gè)M調(diào)度G執(zhí)行的過程是一個(gè)循環(huán)機(jī)制；會(huì)一直從本地隊(duì)列或全局隊(duì)列中獲取G

上面說到P的個(gè)數(shù)默認(rèn)等于CPU核數(shù)，每個(gè)M必須持有一個(gè)P才可以執(zhí)行G，一般情況下M的個(gè)數(shù)會(huì)略大于P的個(gè)數(shù)，這多出來的M將會(huì)在G產(chǎn)生系統(tǒng)調(diào)用時(shí)發(fā)揮作用。類似線程池，Go也提供一個(gè)M的池子，需要時(shí)從池子中獲取，用完放回池子，不夠用時(shí)就再創(chuàng)建一個(gè)。

work-stealing調(diào)度算法：當(dāng)M執(zhí)行完了當(dāng)前P的本地隊(duì)列隊(duì)列里的所有G后，P也不會(huì)就這么在那躺尸啥都不干，它會(huì)先嘗試從全局隊(duì)列隊(duì)列尋找G來執(zhí)行，如果全局隊(duì)列為空，它會(huì)隨機(jī)挑選另外一個(gè)P，從它的隊(duì)列里中拿走一半的G到自己的隊(duì)列中執(zhí)行。

如果一切正常，調(diào)度器會(huì)以上述的那種方式順暢地運(yùn)行，但這個(gè)世界沒這么美好，總有意外發(fā)生，以下分析goroutine在兩種例外情況下的行為。

Go runtime會(huì)在下面的goroutine被阻塞的情況下運(yùn)行另外一個(gè)goroutine：

用戶態(tài)阻塞/喚醒

當(dāng)goroutine因?yàn)閏hannel操作或者network I/O而阻塞時(shí)（實(shí)際上golang已經(jīng)用netpoller實(shí)現(xiàn)了goroutine網(wǎng)絡(luò)I/O阻塞不會(huì)導(dǎo)致M被阻塞，僅阻塞G，這里僅僅是舉個(gè)栗子），對(duì)應(yīng)的G會(huì)被放置到某個(gè)wait隊(duì)列(如channel的waitq)，該G的狀態(tài)由_Gruning變?yōu)開Gwaitting，而M會(huì)跳過該G嘗試獲取并執(zhí)行下一個(gè)G，如果此時(shí)沒有可運(yùn)行的G供M運(yùn)行，那么M將解綁P，并進(jìn)入sleep狀態(tài)；當(dāng)阻塞的G被另一端的G2喚醒時(shí)（比如channel的可讀/寫通知），G被標(biāo)記為，嘗試加入G2所在P的runnext（runnext是線程下一個(gè)需要執(zhí)行的 Goroutine。）， 然后再是P的本地隊(duì)列和全局隊(duì)列。

系統(tǒng)調(diào)用阻塞

當(dāng)M執(zhí)行某一個(gè)G時(shí)候如果發(fā)生了阻塞操作，M會(huì)阻塞，如果當(dāng)前有一些G在執(zhí)行，調(diào)度器會(huì)把這個(gè)線程M從P中摘除，然后再創(chuàng)建一個(gè)新的操作系統(tǒng)的線程(如果有空閑的線程可用就復(fù)用空閑線程)來服務(wù)于這個(gè)P。當(dāng)M系統(tǒng)調(diào)用結(jié)束時(shí)候，這個(gè)G會(huì)嘗試獲取一個(gè)空閑的P執(zhí)行，并放入到這個(gè)P的本地隊(duì)列。如果獲取不到P，那么這個(gè)線程M變成休眠狀態(tài)， 加入到空閑線程中，然后這個(gè)G會(huì)被放入全局隊(duì)列中。

隊(duì)列輪轉(zhuǎn)

可見每個(gè)P維護(hù)著一個(gè)包含G的隊(duì)列，不考慮G進(jìn)入系統(tǒng)調(diào)用或IO操作的情況下，P周期性的將G調(diào)度到M中執(zhí)行，執(zhí)行一小段時(shí)間，將上下文保存下來，然后將G放到隊(duì)列尾部，然后從隊(duì)列中重新取出一個(gè)G進(jìn)行調(diào)度。

除了每個(gè)P維護(hù)的G隊(duì)列以外，還有一個(gè)全局的隊(duì)列，每個(gè)P會(huì)周期性地查看全局隊(duì)列中是否有G待運(yùn)行并將其調(diào)度到M中執(zhí)行，全局隊(duì)列中G的來源，主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會(huì)周期性地查看全局隊(duì)列，也是為了防止全局隊(duì)列中的G被餓死。

除了每個(gè)P維護(hù)的G隊(duì)列以外，還有一個(gè)全局的隊(duì)列，每個(gè)P會(huì)周期性地查看全局隊(duì)列中是否有G待運(yùn)行并將其調(diào)度到M中執(zhí)行，全局隊(duì)列中G的來源，主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會(huì)周期性地查看全局隊(duì)列，也是為了防止全局隊(duì)列中的G被餓死。

M0

M0是啟動(dòng)程序后的編號(hào)為0的主線程，這個(gè)M對(duì)應(yīng)的實(shí)例會(huì)在全局變量rutime.m0中，不需要在heap上分配，M0負(fù)責(zé)執(zhí)行初始化操作和啟動(dòng)第一個(gè)G，在之后M0就和其他的M一樣了

G0

G0是每次啟動(dòng)一個(gè)M都會(huì)第一個(gè)創(chuàng)建的goroutine，G0僅用于負(fù)責(zé)調(diào)度G，G0不指向任何可執(zhí)行的函數(shù)，每個(gè)M都會(huì)有一個(gè)自己的G0，在調(diào)度或系統(tǒng)調(diào)用時(shí)會(huì)使用G0的?？臻g，全局變量的G0是M0的G0

一個(gè)G由于調(diào)度被中斷，此后如何恢復(fù)？

中斷的時(shí)候?qū)⒓拇嫫骼锏臈Ｐ畔?，保存到自己的G對(duì)象里面。當(dāng)再次輪到自己執(zhí)行時(shí)，將自己保存的棧信息復(fù)制到寄存器里面，這樣就接著上次之后運(yùn)行了。

我這里只是根據(jù)自己的理解進(jìn)行了簡單的介紹，想要詳細(xì)了解有關(guān)GMP的底層原理可以去看Go調(diào)度器 G-P-M 模型的設(shè)計(jì)者的文檔或直接看源碼

參考： ()

()

「測(cè)試開發(fā)全?；?Go」(1) Go語言基本了解

作為一個(gè)測(cè)試，作為一個(gè)測(cè)試開發(fā)， 全?；?管理 是我們未來的發(fā)展方向。已經(jīng)掌握了Java、Python、HTML的你，是不是也想了解下最近異?；鸨腉o語言呢？來吧，讓我們一起了解下。

Go 是一個(gè)開源的編程語言 ，它能讓構(gòu)造簡單、可靠且高效的軟件變得容易。

Go是從2007年末由Robert Griesemer, Rob Pike, Ken Thompson主持開發(fā)，后來還加入了Ian Lance Taylor, Russ Cox等人，并最終于2009年11月開源，在2012年早些時(shí)候發(fā)布了Go 1穩(wěn)定版本。現(xiàn)在Go的開發(fā)已經(jīng)是完全開放的，并且擁有一個(gè)活躍的社區(qū)。這三個(gè)人都是計(jì)算機(jī)界的大神，有的參與了C語言的編寫，有的還是數(shù)學(xué)大神，有的還獲得了計(jì)算機(jī)最高榮譽(yù)-圖靈獎(jiǎng)。

接下來說說 Go語言的特色 :

簡潔、快速、安全

并行、有趣、開源

內(nèi)存管理、數(shù)組安全、編譯迅速

Go語言的用途 :

Go 語言被設(shè)計(jì)成一門應(yīng)用于搭載 Web 服務(wù)器，存儲(chǔ)集群或類似用途的巨型中央服務(wù)器的系統(tǒng)編程語言。

對(duì)于高性能分布式系統(tǒng)領(lǐng)域而言，Go 語言無疑比大多數(shù)其它語言有著更高的開發(fā)效率。它提供了海量并行的支持，這對(duì)于 游戲 服務(wù)端的開發(fā)而言是再好不過了。

Go語言的環(huán)境安裝:

建議直接打開 官方地址因?yàn)閴Φ脑虼虿婚_

因?yàn)槲矣玫氖莣indows系統(tǒng)，這里主要講下Windows系統(tǒng)上使用Go語言來編程。

Windows 下可以使用 .msi 后綴(在下載列表中可以找到該文件，如go1.17.2.windows-amd64.msi)的安裝包來安裝。

默認(rèn)情況下 .msi 文件會(huì)安裝在 c:Go 目錄下。你可以將 c:Gobin 目錄添加到 Path 環(huán)境變量中。添加后你需要重啟命令窗口才能生效。個(gè)人建議還是安裝到 Program Files文件夾中。

使用什么開發(fā)工具來對(duì)Go語言進(jìn)行編寫:

個(gè)人建議用VS code, 也可以用Sublime Text來編輯。如果你之前看了我講的HTML語言的學(xué)習(xí)，肯定已經(jīng)下載了VS code. 那么這時(shí)你需要在VS code中下載Go語言的擴(kuò)展插件。

這里有一個(gè)巨大的坑，就是在下載Go的插件和依賴包時(shí)，會(huì)提示一些包沒有。主要是因?yàn)橄螺d的依賴包部分被墻了，只能想別的辦法去下載。

建議參考網(wǎng)頁:

解決vscode中g(shù)olang插件安裝失敗方法

在學(xué)習(xí)go的過程中，使用的是vscode，但是一直提示安裝相關(guān)插件失敗，然后上網(wǎng)查方法，基本上是叫你建立golang.org目錄什么的，結(jié)果全是錯(cuò)的，而且都是抄襲，很煩。無意之中看到一位博主分享的方法，他也是飽受上述的垃圾博文困擾，然后找到了解決方法，這里向他致敬，秉著讓更多人看到正確解決方法的心，我寫下正確的解決方法，希望對(duì)你有所幫助，也可以點(diǎn)開原博主鏈接參考：

Go有一個(gè)全球模塊代理，設(shè)置代理再去安裝golang的插件，就可以安裝成功了。步驟有，首先Windows用戶打開Powershell，一個(gè)藍(lán)色的界面，注意不是cmd！不知道的直接打開window下面的搜索，然后輸入powershell，搜索出來就可以了。

$env:GO111MODULE=“on”

$env:GOPROXY=“”

go env -w GOPROXY=

go env -w GOPRIVATE=*.corp.example.com

然后我們打開VsCode界面，下面會(huì)提示安裝插件，我們選擇Install ALL，就會(huì)安裝成功

當(dāng)你在運(yùn)行Go語言程序時(shí)，提示所有的插件包都已經(jīng)安裝成功了時(shí)，就可以正常使用了，要不然一堆報(bào)錯(cuò)會(huì)讓你非常心煩。

好了，今天先到這里，晚安、下班~

為什么go語言適合開發(fā)網(wǎng)游服務(wù)器端

前段時(shí)間在golang-China讀到這個(gè)貼：

個(gè)人覺得golang十分適合進(jìn)行網(wǎng)游服務(wù)器端開發(fā)，寫下這篇文章總結(jié)一下。

從網(wǎng)游的角度看：

要成功的運(yùn)營一款網(wǎng)游，很大程度上依賴于玩家自發(fā)形成的社區(qū)。只有玩家自發(fā)形成一個(gè)穩(wěn)定的生態(tài)系統(tǒng)，游戲才能持續(xù)下去，避免鬼城的出現(xiàn)。而這就需要多次大量導(dǎo)入用戶，在同時(shí)在線用戶量達(dá)到某個(gè)臨界點(diǎn)的時(shí)候，才有可能完成。因此，多人同時(shí)在線十分有必要。

再來看網(wǎng)游的常見玩法，除了排行榜這類統(tǒng)計(jì)和數(shù)據(jù)匯總的功能外，基本沒有需要大量CPU時(shí)間的應(yīng)用。以前的項(xiàng)目里，即時(shí)戰(zhàn)斗產(chǎn)生的各種傷害計(jì)算對(duì)CPU的消耗也不大。玩家要完成一次操作，需要通過客戶端-服務(wù)器端-客戶端這樣一個(gè)來回，為了獲得高響應(yīng)速度，滿足玩家體驗(yàn)，服務(wù)器端的處理也不能占用太多時(shí)間。所以，每次請(qǐng)求對(duì)應(yīng)的CPU占用是比較小的。

網(wǎng)游的IO主要分兩個(gè)方面，一個(gè)是網(wǎng)絡(luò)IO，一個(gè)是磁盤IO。網(wǎng)絡(luò)IO方面，可以分成美術(shù)資源的IO和游戲邏輯指令的IO，這里主要分析游戲邏輯的IO。游戲邏輯的IO跟CPU占用的情況相似，每次請(qǐng)求的字節(jié)數(shù)很小，但由于多人同時(shí)在線，因此并發(fā)數(shù)相當(dāng)高。另外，地圖信息的廣播也會(huì)帶來比較頻繁的網(wǎng)絡(luò)通信。磁盤IO方面，主要是游戲數(shù)據(jù)的保存。采用不同的數(shù)據(jù)庫，會(huì)有比較大的區(qū)別。以前的項(xiàng)目里，就經(jīng)歷了從MySQL轉(zhuǎn)向MongoDB這種內(nèi)存數(shù)據(jù)庫的過程，磁盤IO不再是瓶頸。總體來說，還是用內(nèi)存做一級(jí)緩沖，避免大量小數(shù)據(jù)塊讀寫的方案。

針對(duì)網(wǎng)游的這些特點(diǎn)，golang的語言特性十分適合開發(fā)游戲服務(wù)器端。

首先，go語言提供goroutine機(jī)制作為原生的并發(fā)機(jī)制。每個(gè)goroutine所需的內(nèi)存很少，實(shí)際應(yīng)用中可以啟動(dòng)大量的goroutine對(duì)并發(fā)連接進(jìn)行響應(yīng)。goroutine與gevent中的greenlet很相像，遇到IO阻塞的時(shí)候，調(diào)度器就會(huì)自動(dòng)切換到另一個(gè)goroutine執(zhí)行，保證CPU不會(huì)因?yàn)镮O而發(fā)生等待。而goroutine與gevent相比，沒有了python底層的GIL限制，就不需要利用多進(jìn)程來榨取多核機(jī)器的性能了。通過設(shè)置最大線程數(shù)，可以控制go所啟動(dòng)的線程，每個(gè)線程執(zhí)行一個(gè)goroutine，讓CPU滿負(fù)載運(yùn)行。

同時(shí)，go語言為goroutine提供了獨(dú)到的通信機(jī)制channel。channel發(fā)生讀寫的時(shí)候，也會(huì)掛起當(dāng)前操作channel的goroutine，是一種同步阻塞通信。這樣既達(dá)到了通信的目的，又實(shí)現(xiàn)同步，用CSP模型的觀點(diǎn)看，并發(fā)模型就是通過一組進(jìn)程和進(jìn)程間的事件觸發(fā)解決任務(wù)的。雖然說，主流的編程語言之間，只要是圖靈完備的，他們就都能實(shí)現(xiàn)相同的功能。但go語言提供的這種協(xié)程間通信機(jī)制，十分優(yōu)雅地揭示了協(xié)程通信的本質(zhì)，避免了以往鎖的顯式使用帶給程序員的心理負(fù)擔(dān)，確是一大優(yōu)勢(shì)。進(jìn)行網(wǎng)游開發(fā)的程序員，可以將游戲邏輯按照單線程阻塞式的寫，不需要額外考慮線程調(diào)度的問題，以及線程間數(shù)據(jù)依賴的問題。因?yàn)?，線程間的channel通信，已經(jīng)表達(dá)了線程間的數(shù)據(jù)依賴關(guān)系了，而go的調(diào)度器會(huì)給予妥善的處理。

另外，go語言提供的gc機(jī)制，以及對(duì)指針的保護(hù)式使用，可以大大減輕程序員的開發(fā)壓力，提高開發(fā)效率。

展望未來，我期待go語言社區(qū)能夠提供更多的goroutine間的隔離機(jī)制。個(gè)人十分推崇erlang社區(qū)的脆崩哲學(xué)，推動(dòng)應(yīng)用發(fā)生預(yù)期外行為時(shí)，盡早崩潰，再fork出新進(jìn)程處理新的請(qǐng)求。對(duì)于協(xié)程機(jī)制，需要由程序員保證執(zhí)行的函數(shù)不會(huì)發(fā)生死循環(huán)，導(dǎo)致線程卡死。如果能夠定制goroutine所執(zhí)行函數(shù)的最大CPU執(zhí)行時(shí)間，及所能使用的最大內(nèi)存空間，對(duì)于提升系統(tǒng)的魯棒性，大有裨益。

Go語言與Java之間性能相差多少

Java是一門較為成熟的語言,相對(duì)于C++要簡單的多,C++里沒有內(nèi)存回收,所以比較麻煩,Java加入了內(nèi)存自動(dòng)回收,簡單是簡單,卻變慢了,go語言是一門新興的語言,現(xiàn)在版本是1.9 ? go語言的性能比Java要好,但由于出現(xiàn)晚,資料較Java少,有些Java的功能go也沒有,并且有許多的軟件是支持Java但支持go的很少.所以在短期內(nèi)Java是比go通用的

C語言的最大的優(yōu)勢(shì)是時(shí)間性能好,只比匯編慢20%~30%,C++最大的優(yōu)勢(shì)是快且面向?qū)ο?Java最大的優(yōu)勢(shì)是垃圾回收機(jī)制,GO語言的目標(biāo)是具備以上三者的優(yōu)勢(shì)