參考：
成都創(chuàng)新互聯(lián)公司-云計算及IDC服務提供商，涵蓋公有云、IDC機房租用、大邑服務器托管、等保安全、私有云建設等企業(yè)級互聯(lián)網(wǎng)基礎服務，歡迎聯(lián)系：18982081108
Goroutine并發(fā)調(diào)度模型深度解析手擼一個協(xié)程池
Golang 的 goroutine 是如何實現(xiàn)的？
Golang - 調(diào)度剖析【第二部分】
OS線程初始棧為2MB。Go語言中，每個goroutine采用動態(tài)擴容方式，初始2KB，按需增長，最大1G。此外GC會收縮?？臻g。
BTW，增長擴容都是有代價的，需要copy數(shù)據(jù)到新的stack，所以初始2KB可能有些性能問題。
更多關(guān)于stack的內(nèi)容，可以參見大佬的文章。 聊一聊goroutine stack
用戶線程的調(diào)度以及生命周期管理都是用戶層面，Go語言自己實現(xiàn)的，不借助OS系統(tǒng)調(diào)用，減少系統(tǒng)資源消耗。
Go語言采用兩級線程模型，即用戶線程與內(nèi)核線程KSE（kernel scheduling entity）是M:N的。最終goroutine還是會交給OS線程執(zhí)行，但是需要一個中介，提供上下文。這就是G-M-P模型
Go調(diào)度器有兩個不同的運行隊列：
go1.10\src\runtime\runtime2.go
Go調(diào)度器根據(jù)事件進行上下文切換。
調(diào)度的目的就是防止M堵塞，空閑，系統(tǒng)進程切換。
詳見 Golang - 調(diào)度剖析【第二部分】
Linux可以通過epoll實現(xiàn)網(wǎng)絡調(diào)用，統(tǒng)稱網(wǎng)絡輪詢器N（Net Poller）。
文件IO操作
上面都是防止M堵塞，任務竊取是防止M空閑
每個M都有一個特殊的G，g0。用于執(zhí)行調(diào)度，gc，棧管理等任務，所以g0的棧稱為調(diào)度棧。g0的棧不會自動增長，不會被gc，來自os線程的棧。
go1.10\src\runtime\proc.go
G沒辦法自己運行，必須通過M運行
M通過通過調(diào)度，執(zhí)行G
從M掛載P的runq中找到G，執(zhí)行G
go語言的map多協(xié)程訪問時需要加鎖
支持==和!=操作就可以做key，實際上只有function、map、slice三個kind不支持作為key，因為只能和nil比較不能和另一個值比較。布爾、整型、浮點、復數(shù)、字符串、指針、channel等都可以做key。
struct能不能做key要看每一個字段，如果所有字段都可以做key，那這個struct就可以。有一個字段不能做key，這個struct就不能做key。array也是，元素類型能做key，那這個array就可以。
例如：
type Foo map[struct {
B bool
I int
F float64
C complex128
S string
P *Foo
Ch chan Foo
}]bool
每一個字段都可以做key，F(xiàn)oo就可以做key。再如：
type Foo map[struct {
Fn func() Foo
M map[*Foo]int
S []Foo
}]bool
有一個字段不能做key、Foo就不允許做key，而這三個字段都不能。
字段是遞歸檢查的：
type Foo map[struct {
Sub struct {
M map[*Foo]bool
}
}]bool
Sub的M字段不能做key，Sub就不能做key，F(xiàn)oo也就不能做key。
總之想把一個數(shù)據(jù)結(jié)構(gòu)用于map的key，就不能包含function、map和slice。
線程：
多線程是為了解決CPU利用率的問題，線程則是為了減少上下文切換時的開銷，進程和線程在Linux中沒有本質(zhì)區(qū)別，最大的不同就是進程有自己獨立的內(nèi)存空間，而線程是共享內(nèi)存空間。
在進程切換時需要轉(zhuǎn)換內(nèi)存地址空間，而線程切換沒有這個動作，所以線程切換比進程切換代價要小得多。
協(xié)程：
想要簡單，又要性能高，協(xié)程就可以達到我們的目的，它是用戶視角的一種抽象，操作系統(tǒng)并沒有這個概念，主要思想是在用戶態(tài)實現(xiàn)調(diào)度算法，用少量線程完成大量任務的調(diào)度。
Goroutine是GO語言實現(xiàn)的協(xié)程，其特點是在語言層面就支持，使用起來十分方便，它的核心是MPG調(diào)度模型：M即內(nèi)核線程;P即處理器，用來執(zhí)行Goroutine，它維護了本地可運行隊列;G即Goroutine，代碼和數(shù)據(jù)結(jié)構(gòu);S及調(diào)度器，維護M和P的信息。
Goroutine調(diào)度是一個很復雜的機制，下面嘗試用簡單的語言描述一下Goroutine調(diào)度機制，想要對其有更深入的了解可以去研讀一下源碼。
首先介紹一下GMP什么意思：
G ----------- goroutine: 即Go協(xié)程，每個go關(guān)鍵字都會創(chuàng)建一個協(xié)程。
M ---------- thread內(nèi)核級線程，所有的G都要放在M上才能運行。
P ----------- processor處理器，調(diào)度G到M上，其維護了一個隊列，存儲了所有需要它來調(diào)度的G。
Goroutine 調(diào)度器P和 OS 調(diào)度器是通過 M 結(jié)合起來的，每個 M 都代表了 1 個內(nèi)核線程，OS 調(diào)度器負責把內(nèi)核線程分配到 CPU 的核上執(zhí)行
模型圖：
避免頻繁的創(chuàng)建、銷毀線程，而是對線程的復用。
1）work stealing機制
當本線程無可運行的G時，嘗試從其他線程綁定的P偷取G，而不是銷毀線程。
2）hand off機制
當本線程M0因為G0進行系統(tǒng)調(diào)用阻塞時，線程釋放綁定的P，把P轉(zhuǎn)移給其他空閑的線程執(zhí)行。進而某個空閑的M1獲取P，繼續(xù)執(zhí)行P隊列中剩下的G。而M0由于陷入系統(tǒng)調(diào)用而進被阻塞，M1接替M0的工作，只要P不空閑，就可以保證充分利用CPU。M1的來源有可能是M的緩存池，也可能是新建的。當G0系統(tǒng)調(diào)用結(jié)束后，根據(jù)M0是否能獲取到P，將會將G0做不同的處理：
如果有空閑的P，則獲取一個P，繼續(xù)執(zhí)行G0。
如果沒有空閑的P，則將G0放入全局隊列，等待被其他的P調(diào)度。然后M0將進入緩存池睡眠。
如下圖
GOMAXPROCS設置P的數(shù)量，最多有GOMAXPROCS個線程分布在多個CPU上同時運行
在Go中一個goroutine最多占用CPU 10ms，防止其他goroutine被餓死。
具體可以去看另一篇文章
【Golang詳解】go語言調(diào)度機制 搶占式調(diào)度
當創(chuàng)建一個新的G之后優(yōu)先加入本地隊列，如果本地隊列滿了，會將本地隊列的G移動到全局隊列里面，當M執(zhí)行work stealing從其他P偷不到G時，它可以從全局G隊列獲取G。
協(xié)程經(jīng)歷過程
我們創(chuàng)建一個協(xié)程 go func()經(jīng)歷過程如下圖：
說明：
這里有兩個存儲G的隊列，一個是局部調(diào)度器P的本地隊列、一個是全局G隊列。新創(chuàng)建的G會先保存在P的本地隊列中，如果P的本地隊列已經(jīng)滿了就會保存在全局的隊列中；處理器本地隊列是一個使用數(shù)組構(gòu)成的環(huán)形鏈表，它最多可以存儲 256 個待執(zhí)行任務。
G只能運行在M中，一個M必須持有一個P，M與P是1：1的關(guān)系。M會從P的本地隊列彈出一個可執(zhí)行狀態(tài)的G來執(zhí)行，如果P的本地隊列為空，就會想其他的MP組合偷取一個可執(zhí)行的G來執(zhí)行；
一個M調(diào)度G執(zhí)行的過程是一個循環(huán)機制；會一直從本地隊列或全局隊列中獲取G
上面說到P的個數(shù)默認等于CPU核數(shù)，每個M必須持有一個P才可以執(zhí)行G，一般情況下M的個數(shù)會略大于P的個數(shù)，這多出來的M將會在G產(chǎn)生系統(tǒng)調(diào)用時發(fā)揮作用。類似線程池，Go也提供一個M的池子，需要時從池子中獲取，用完放回池子，不夠用時就再創(chuàng)建一個。
work-stealing調(diào)度算法：當M執(zhí)行完了當前P的本地隊列隊列里的所有G后，P也不會就這么在那躺尸啥都不干，它會先嘗試從全局隊列隊列尋找G來執(zhí)行，如果全局隊列為空，它會隨機挑選另外一個P，從它的隊列里中拿走一半的G到自己的隊列中執(zhí)行。
如果一切正常，調(diào)度器會以上述的那種方式順暢地運行，但這個世界沒這么美好，總有意外發(fā)生，以下分析goroutine在兩種例外情況下的行為。
Go runtime會在下面的goroutine被阻塞的情況下運行另外一個goroutine：
用戶態(tài)阻塞/喚醒
當goroutine因為channel操作或者network I/O而阻塞時（實際上golang已經(jīng)用netpoller實現(xiàn)了goroutine網(wǎng)絡I/O阻塞不會導致M被阻塞，僅阻塞G，這里僅僅是舉個栗子），對應的G會被放置到某個wait隊列(如channel的waitq)，該G的狀態(tài)由_Gruning變?yōu)開Gwaitting，而M會跳過該G嘗試獲取并執(zhí)行下一個G，如果此時沒有可運行的G供M運行，那么M將解綁P，并進入sleep狀態(tài)；當阻塞的G被另一端的G2喚醒時（比如channel的可讀/寫通知），G被標記為，嘗試加入G2所在P的runnext（runnext是線程下一個需要執(zhí)行的 Goroutine。）， 然后再是P的本地隊列和全局隊列。
系統(tǒng)調(diào)用阻塞
當M執(zhí)行某一個G時候如果發(fā)生了阻塞操作，M會阻塞，如果當前有一些G在執(zhí)行，調(diào)度器會把這個線程M從P中摘除，然后再創(chuàng)建一個新的操作系統(tǒng)的線程(如果有空閑的線程可用就復用空閑線程)來服務于這個P。當M系統(tǒng)調(diào)用結(jié)束時候，這個G會嘗試獲取一個空閑的P執(zhí)行，并放入到這個P的本地隊列。如果獲取不到P，那么這個線程M變成休眠狀態(tài)， 加入到空閑線程中，然后這個G會被放入全局隊列中。
隊列輪轉(zhuǎn)
可見每個P維護著一個包含G的隊列，不考慮G進入系統(tǒng)調(diào)用或IO操作的情況下，P周期性的將G調(diào)度到M中執(zhí)行，執(zhí)行一小段時間，將上下文保存下來，然后將G放到隊列尾部，然后從隊列中重新取出一個G進行調(diào)度。
除了每個P維護的G隊列以外，還有一個全局的隊列，每個P會周期性地查看全局隊列中是否有G待運行并將其調(diào)度到M中執(zhí)行，全局隊列中G的來源，主要有從系統(tǒng)調(diào)用中恢復的G。之所以P會周期性地查看全局隊列，也是為了防止全局隊列中的G被餓死。
除了每個P維護的G隊列以外，還有一個全局的隊列，每個P會周期性地查看全局隊列中是否有G待運行并將其調(diào)度到M中執(zhí)行，全局隊列中G的來源，主要有從系統(tǒng)調(diào)用中恢復的G。之所以P會周期性地查看全局隊列，也是為了防止全局隊列中的G被餓死。
M0
M0是啟動程序后的編號為0的主線程，這個M對應的實例會在全局變量rutime.m0中，不需要在heap上分配，M0負責執(zhí)行初始化操作和啟動第一個G，在之后M0就和其他的M一樣了
G0
G0是每次啟動一個M都會第一個創(chuàng)建的goroutine，G0僅用于負責調(diào)度G，G0不指向任何可執(zhí)行的函數(shù)，每個M都會有一個自己的G0，在調(diào)度或系統(tǒng)調(diào)用時會使用G0的?？臻g，全局變量的G0是M0的G0
一個G由于調(diào)度被中斷，此后如何恢復？
中斷的時候?qū)⒓拇嫫骼锏臈Ｐ畔?，保存到自己的G對象里面。當再次輪到自己執(zhí)行時，將自己保存的棧信息復制到寄存器里面，這樣就接著上次之后運行了。
我這里只是根據(jù)自己的理解進行了簡單的介紹，想要詳細了解有關(guān)GMP的底層原理可以去看Go調(diào)度器 G-P-M 模型的設計者的文檔或直接看源碼
參考： ()
()
一般命令 所謂一般命令，就是在一定時間內(nèi)會執(zhí)行完的命令。比如 grep, cat 等等。 執(zhí)行命令的步驟是：連接，執(zhí)行，獲取結(jié)果 連接 連接包含了認證，可以使用 password 或者 sshkey 2種方式來認證。下面的示例為了簡單，使用了密碼認證的方式來完.
基本設計思路：
類型轉(zhuǎn)換、類型斷言、動態(tài)派發(fā)。iface，eface。
反射對象具有的方法：
編譯優(yōu)化：
內(nèi)部實現(xiàn)：
實現(xiàn) Context 接口有以下幾個類型（空實現(xiàn)就忽略了）：
互斥鎖的控制邏輯：
設計思路：
（以上為寫被讀阻塞，下面是讀被寫阻塞）
總結(jié)，讀寫鎖的設計還是非常巧妙的：
設計思路：
WaitGroup 有三個暴露的函數(shù):
部件：
設計思路：
結(jié)構(gòu)：
Once 只暴露了一個方法：
實現(xiàn)：
三個關(guān)鍵點：
細節(jié)：
讓多協(xié)程任務的開始執(zhí)行時間可控（按順序或歸一）。（Context 是控制結(jié)束時間）
設計思路： 通過一個鎖和內(nèi)置的 notifyList 隊列實現(xiàn)，Wait() 會生成票據(jù)，并將等待協(xié)程信息加入鏈表中，等待控制協(xié)程中發(fā)送信號通知一個（Signal()）或所有（Boardcast()）等待者（內(nèi)部實現(xiàn)是通過票據(jù)通知的）來控制協(xié)程解除阻塞。
暴露四個函數(shù)：
實現(xiàn)細節(jié)：
部件：
包： golang.org/x/sync/errgroup
作用：開啟 func() error 函數(shù)簽名的協(xié)程，在同 Group 下協(xié)程并發(fā)執(zhí)行過程并收集首次 err 錯誤。通過 Context 的傳入，還可以控制在首次 err 出現(xiàn)時就終止組內(nèi)各協(xié)程。
設計思路：
結(jié)構(gòu)：
暴露的方法：
實現(xiàn)細節(jié)：
注意問題：
包： "golang.org/x/sync/semaphore"
作用：排隊借資源（如錢，有借有還）的一種場景。此包相當于對底層信號量的一種暴露。
設計思路：有一定數(shù)量的資源 Weight，每一個 waiter 攜帶一個 channel 和要借的數(shù)量 n。通過隊列排隊執(zhí)行借貸。
結(jié)構(gòu)：
暴露方法：
細節(jié)：
部件：
細節(jié)：
包： "golang.org/x/sync/singleflight"
作用：防擊穿。瞬時的相同請求只調(diào)用一次，response 被所有相同請求共享。
設計思路：按請求的 key 分組（一個 *call 是一個組，用 map 映射存儲組），每個組只進行一次訪問，組內(nèi)每個協(xié)程會獲得對應結(jié)果的一個拷貝。
結(jié)構(gòu)：
邏輯：
細節(jié)：
部件：
如有錯誤，請批評指正。
重慶分公司
重慶分公司
