本教程介紹了 Go 中模糊測試的基礎(chǔ)知識(shí)。通過模糊測試，隨機(jī)數(shù)據(jù)會(huì)針對(duì)您的測試運(yùn)行，以嘗試找出漏洞或?qū)е卤罎⒌妮斎??？梢酝ㄟ^模糊測試發(fā)現(xiàn)的一些漏洞示例包括 SQL 注入、緩沖區(qū)溢出、拒絕服務(wù)和跨站點(diǎn)腳本攻擊。
創(chuàng)新互聯(lián)公司長期為成百上千家客戶提供的網(wǎng)站建設(shè)服務(wù)，團(tuán)隊(duì)從業(yè)經(jīng)驗(yàn)10年，關(guān)注不同地域、不同群體，并針對(duì)不同對(duì)象提供差異化的產(chǎn)品和服務(wù)；打造開放共贏平臺(tái)，與合作伙伴共同營造健康的互聯(lián)網(wǎng)生態(tài)環(huán)境。為邢臺(tái)縣企業(yè)提供專業(yè)的網(wǎng)站設(shè)計(jì)制作、成都做網(wǎng)站，邢臺(tái)縣網(wǎng)站改版等技術(shù)服務(wù)。擁有十載豐富建站經(jīng)驗(yàn)和眾多成功案例,為您定制開發(fā)。
在本教程中，您將為一個(gè)簡單的函數(shù)編寫一個(gè)模糊測試，運(yùn)行 go 命令，并調(diào)試和修復(fù)代碼中的問題。
首先，為您要編寫的代碼創(chuàng)建一個(gè)文件夾。
1、打開命令提示符并切換到您的主目錄。
在 Linux 或 Mac 上：
在 Windows 上：
2、在命令提示符下，為您的代碼創(chuàng)建一個(gè)名為 fuzz 的目錄。
3、創(chuàng)建一個(gè)模塊來保存您的代碼。
運(yùn)行g(shù)o mod init命令，為其提供新代碼的模塊路徑。
接下來，您將添加一些簡單的代碼來反轉(zhuǎn)字符串，稍后我們將對(duì)其進(jìn)行模糊測試。
在此步驟中，您將添加一個(gè)函數(shù)來反轉(zhuǎn)字符串。
a.使用您的文本編輯器，在 fuzz 目錄中創(chuàng)建一個(gè)名為 main.go 的文件。
獨(dú)立程序（與庫相反）始終位于 package 中main。
此函數(shù)將接受string，使用byte進(jìn)行循環(huán) ，并在最后返回反轉(zhuǎn)的字符串。
此函數(shù)將運(yùn)行一些Reverse操作，然后將輸出打印到命令行。這有助于查看運(yùn)行中的代碼，并可能有助于調(diào)試。
e.該main函數(shù)使用 fmt 包，因此您需要導(dǎo)入它。
第一行代碼應(yīng)如下所示：
從包含 main.go 的目錄中的命令行，運(yùn)行代碼。
可以看到原來的字符串，反轉(zhuǎn)它的結(jié)果，然后再反轉(zhuǎn)它的結(jié)果，就相當(dāng)于原來的了。
現(xiàn)在代碼正在運(yùn)行，是時(shí)候測試它了。
在這一步中，您將為Reverse函數(shù)編寫一個(gè)基本的單元測試。
a.使用您的文本編輯器，在 fuzz 目錄中創(chuàng)建一個(gè)名為 reverse_test.go 的文件。
b.將以下代碼粘貼到 reverse_test.go 中。
這個(gè)簡單的測試將斷言列出的輸入字符串將被正確反轉(zhuǎn)。
使用運(yùn)行單元測試go test
接下來，您將單元測試更改為模糊測試。
單元測試有局限性，即每個(gè)輸入都必須由開發(fā)人員添加到測試中。模糊測試的一個(gè)好處是它可以為您的代碼提供輸入，并且可以識(shí)別您提出的測試用例沒有達(dá)到的邊緣用例。
在本節(jié)中，您將單元測試轉(zhuǎn)換為模糊測試，這樣您就可以用更少的工作生成更多的輸入！
請(qǐng)注意，您可以將單元測試、基準(zhǔn)測試和模糊測試保存在同一個(gè) *_test.go 文件中，但對(duì)于本示例，您將單元測試轉(zhuǎn)換為模糊測試。
在您的文本編輯器中，將 reverse_test.go 中的單元測試替換為以下模糊測試。
Fuzzing 也有一些限制。在您的單元測試中，您可以預(yù)測Reverse函數(shù)的預(yù)期輸出，并驗(yàn)證實(shí)際輸出是否滿足這些預(yù)期。
例如，在測試用例Reverse("Hello, world")中，單元測試將返回指定為"dlrow ,olleH".
模糊測試時(shí)，您無法預(yù)測預(yù)期輸出，因?yàn)槟鸁o法控制輸入。
但是，Reverse您可以在模糊測試中驗(yàn)證函數(shù)的一些屬性。在這個(gè)模糊測試中檢查的兩個(gè)屬性是：
（1）將字符串反轉(zhuǎn)兩次保留原始值
（2）反轉(zhuǎn)的字符串將其狀態(tài)保留為有效的 UTF-8。
注意單元測試和模糊測試之間的語法差異：
（3）確保新包unicode/utf8已導(dǎo)入。
隨著單元測試轉(zhuǎn)換為模糊測試，是時(shí)候再次運(yùn)行測試了。
a.在不進(jìn)行模糊測試的情況下運(yùn)行模糊測試，以確保種子輸入通過。
如果您在該文件中有其他測試，您也可以運(yùn)行g(shù)o test -run=FuzzReverse，并且您只想運(yùn)行模糊測試。
b.運(yùn)行FuzzReverse模糊測試，查看是否有任何隨機(jī)生成的字符串輸入會(huì)導(dǎo)致失敗。這是使用go test新標(biāo)志-fuzz執(zhí)行的。
模糊測試時(shí)發(fā)生故障，導(dǎo)致問題的輸入被寫入將在下次運(yùn)行的種子語料庫文件中g(shù)o test，即使沒有-fuzz標(biāo)志也是如此。要查看導(dǎo)致失敗的輸入，請(qǐng)?jiān)谖谋揪庉嬈髦写蜷_寫入 testdata/fuzz/FuzzReverse 目錄的語料庫文件。您的種子語料庫文件可能包含不同的字符串，但格式相同。
語料庫文件的第一行表示編碼版本。以下每一行代表構(gòu)成語料庫條目的每種類型的值。由于 fuzz target 只需要 1 個(gè)輸入，因此版本之后只有 1 個(gè)值。
c.運(yùn)行沒有-fuzz標(biāo)志的go test； 新的失敗種子語料庫條目將被使用：
由于我們的測試失敗，是時(shí)候調(diào)試了。
2021-11-10
列表是一種非連續(xù)的存儲(chǔ)容器，有多個(gè)節(jié)點(diǎn)組成，節(jié)點(diǎn)通過一些變量記錄彼此之間的關(guān)系
單鏈表和雙鏈表就是列表的兩種方法。
原理：A、B、C三個(gè)人，B懂A的電話，C懂B的電話只是單方知道號(hào)碼，這樣就形成了一個(gè)單鏈表結(jié)構(gòu)。
如果C把自己的號(hào)碼給B，B把自己的號(hào)碼給A，因?yàn)槭请p方都知道對(duì)方的號(hào)碼，這樣就形成了一個(gè)雙鏈表結(jié)構(gòu)
如果B換號(hào)碼了，他需要通知AC，把自己的號(hào)碼刪了，這個(gè)過程就是列表的刪除操作。
在Go語言中，列表使用 container/list 包來實(shí)現(xiàn)，內(nèi)部的實(shí)現(xiàn)原理是雙鏈表，列表能夠高效地進(jìn)行任意位置的元素插入和刪除操作。
列表初始化的兩種辦法
列表沒有給出具體的元素類型的限制，所以列表的元素可以是任意類型的，
例如給列表中放入了一個(gè) interface{} 類型的值，取出值后，如果要將 interface{} 轉(zhuǎn)換為其他類型將會(huì)發(fā)生宕機(jī)。
雙鏈表支持從隊(duì)列前方或后方插入元素，分別對(duì)應(yīng)的方法是 PushFront 和 PushBack。
列表插入函數(shù)的返回值會(huì)提供一個(gè) *list.Element 結(jié)構(gòu)，這個(gè)結(jié)構(gòu)記錄著列表元素的值以及與其他節(jié)點(diǎn)之間的關(guān)系等信息，從列表中刪除元素時(shí)，需要用到這個(gè)結(jié)構(gòu)進(jìn)行快速刪除。
遍歷完也能看到最后的結(jié)果
學(xué)習(xí)地址：
1, 最簡單的方法, 用一個(gè)指針遍歷鏈表, 每遇到一個(gè)節(jié)點(diǎn)就把他的內(nèi)存地址(java中可以用object.hashcode())做為key放在一個(gè)hashtable中. 這樣當(dāng)hashtable中出現(xiàn)重復(fù)key的時(shí)候說明此鏈表上有環(huán). 這個(gè)方法的時(shí)間復(fù)雜度為O(n), 空間同樣為O(n).
2, 使用反轉(zhuǎn)指針的方法, 每過一個(gè)節(jié)點(diǎn)就把該節(jié)點(diǎn)的指針反向:
Boolean reverse(Node *head) {
Node *curr = head;
Node *next = head-next;
curr-next = NULL;
while(next!=NULL) {
if(next == head) { /* go back to the head of the list, so there is a loop */
next-next = curr;
return TRUE;
}
Node *temp = curr;
curr = next;
next = next-next;
curr-next = temp;
}
/* at the end of list, so there is no loop, let's reverse the list back */
next = curr-next;
curr -next = NULL;
while(next!=NULL) {
Node *temp = curr;
curr = next;
next = next-next;
curr-next = temp;
}
return FALSE;
}
看上去這是一種奇怪的方法: 當(dāng)有環(huán)的時(shí)候反轉(zhuǎn)next指針會(huì)最終走到鏈表頭部; 當(dāng)沒有環(huán)的時(shí)候反轉(zhuǎn)next指針會(huì)破壞鏈表結(jié)構(gòu)(使鏈表反向), 所以需要最后把鏈表再反向一次. 這種方法的空間復(fù)雜度是O(1), 實(shí)事上我們使用了3個(gè)額外指針;而時(shí)間復(fù)雜度是O(n), 我們最多2次遍歷整個(gè)鏈表(當(dāng)鏈表中沒有環(huán)的時(shí)候).
這個(gè)方法的最大缺點(diǎn)是在多線程情況下不安全, 當(dāng)多個(gè)線程都在讀這個(gè)鏈表的時(shí)候, 檢查環(huán)的線程會(huì)改變鏈表的狀態(tài), 雖然最后我們恢復(fù)了鏈表本身的結(jié)構(gòu), 但是不能保證其他線程能得到正確的結(jié)果.
3, 這是一般面試官所預(yù)期的答案: 快指針和慢指針
Boolean has_loop(Node *head) {
Node *pf = head; /* fast pointer */
Node *ps = head; /* slow pointer */
while(true) {
if(pf pf-next)
pf = pf-next-next;
else
return FALSE;
ps = ps-next;
if(ps == pf)
return TRUE;
}
}
需要說明的是, 當(dāng)慢指針(ps)進(jìn)入環(huán)之后, 最多會(huì)走n-1步就能和快指針(pf)相遇, 其中n是環(huán)的長度. 也就是說快指針在環(huán)能不會(huì)跳過慢指針, 這個(gè)性質(zhì)可以簡單的用歸納法來證明. (1)當(dāng)ps在環(huán)中位置i, 而pf在環(huán)中位置i-1, 則在下一個(gè)iteration, ps會(huì)和pf在i+1相遇.
(2)當(dāng)ps在環(huán)中位置i, 而pf在環(huán)中位置i-2, 則在下一個(gè)iteration, ps在i+1, pf在i, 于是在下一個(gè)iteration ps和pf會(huì)相遇在i+2位置
(3)和上面推理過程類似, 當(dāng)ps在i, pf在i+1, 則他們會(huì)經(jīng)過n-1個(gè)iteration在i+n-1的位置相遇. 于是慢指針的步數(shù)不會(huì)超過n-1.
擴(kuò)展:
這個(gè)問題還有一些擴(kuò)展, 例如, 如何找到環(huán)的開始節(jié)點(diǎn)? 如何解開這個(gè)環(huán)? 這些問題的本質(zhì)就是如何找到有"回邊"的那個(gè)節(jié)點(diǎn).
我們可以利用方法3的一個(gè)變形來解決這個(gè)問題:
Boolean has_loop(Node *head) {
Node *pf = head; /* fast pointer */
Node *ps = head; /* slow pointer */
while(true) { /* step 1, is there a loop? */
if(pf pf-next)
pf = pf-next-next;
else
return FALSE;
ps = ps-next;
if(ps == pf)
break;
}
/* step 2, how long is the loop */
int i = 0;
do {
ps = ps-next;
pf = pf-next-next;
i++;
} while(ps!=pf)
/* step 3, use 2 addtional pointers with distance i to break the loop */
ps = head;
pf = head;
int j;
for(j=0; ji; j++) { pf = pf-next; }
j = 0;
while(ps!=pf) {
ps = ps-next;
pf = pf-next;
j++;
}
printf("loop begins at position %d, node address is %x", j, ps);
/*step 4, break the loop*/
for(j=0; j=i; j++) { ps = ps-next; } //step i-1 in the loop from loop beginning
ps-next = NULL; // break the loop
return TRUE;
Goroutine調(diào)度是一個(gè)很復(fù)雜的機(jī)制，下面嘗試用簡單的語言描述一下Goroutine調(diào)度機(jī)制，想要對(duì)其有更深入的了解可以去研讀一下源碼。
首先介紹一下GMP什么意思：
G ----------- goroutine: 即Go協(xié)程，每個(gè)go關(guān)鍵字都會(huì)創(chuàng)建一個(gè)協(xié)程。
M ---------- thread內(nèi)核級(jí)線程，所有的G都要放在M上才能運(yùn)行。
P ----------- processor處理器，調(diào)度G到M上，其維護(hù)了一個(gè)隊(duì)列，存儲(chǔ)了所有需要它來調(diào)度的G。
Goroutine 調(diào)度器P和 OS 調(diào)度器是通過 M 結(jié)合起來的，每個(gè) M 都代表了 1 個(gè)內(nèi)核線程，OS 調(diào)度器負(fù)責(zé)把內(nèi)核線程分配到 CPU 的核上執(zhí)行
模型圖：
避免頻繁的創(chuàng)建、銷毀線程，而是對(duì)線程的復(fù)用。
1）work stealing機(jī)制
當(dāng)本線程無可運(yùn)行的G時(shí)，嘗試從其他線程綁定的P偷取G，而不是銷毀線程。
2）hand off機(jī)制
當(dāng)本線程M0因?yàn)镚0進(jìn)行系統(tǒng)調(diào)用阻塞時(shí)，線程釋放綁定的P，把P轉(zhuǎn)移給其他空閑的線程執(zhí)行。進(jìn)而某個(gè)空閑的M1獲取P，繼續(xù)執(zhí)行P隊(duì)列中剩下的G。而M0由于陷入系統(tǒng)調(diào)用而進(jìn)被阻塞，M1接替M0的工作，只要P不空閑，就可以保證充分利用CPU。M1的來源有可能是M的緩存池，也可能是新建的。當(dāng)G0系統(tǒng)調(diào)用結(jié)束后，根據(jù)M0是否能獲取到P，將會(huì)將G0做不同的處理：
如果有空閑的P，則獲取一個(gè)P，繼續(xù)執(zhí)行G0。
如果沒有空閑的P，則將G0放入全局隊(duì)列，等待被其他的P調(diào)度。然后M0將進(jìn)入緩存池睡眠。
如下圖
GOMAXPROCS設(shè)置P的數(shù)量，最多有GOMAXPROCS個(gè)線程分布在多個(gè)CPU上同時(shí)運(yùn)行
在Go中一個(gè)goroutine最多占用CPU 10ms，防止其他goroutine被餓死。
具體可以去看另一篇文章
【Golang詳解】go語言調(diào)度機(jī)制 搶占式調(diào)度
當(dāng)創(chuàng)建一個(gè)新的G之后優(yōu)先加入本地隊(duì)列，如果本地隊(duì)列滿了，會(huì)將本地隊(duì)列的G移動(dòng)到全局隊(duì)列里面，當(dāng)M執(zhí)行work stealing從其他P偷不到G時(shí)，它可以從全局G隊(duì)列獲取G。
協(xié)程經(jīng)歷過程
我們創(chuàng)建一個(gè)協(xié)程 go func()經(jīng)歷過程如下圖：
說明：
這里有兩個(gè)存儲(chǔ)G的隊(duì)列，一個(gè)是局部調(diào)度器P的本地隊(duì)列、一個(gè)是全局G隊(duì)列。新創(chuàng)建的G會(huì)先保存在P的本地隊(duì)列中，如果P的本地隊(duì)列已經(jīng)滿了就會(huì)保存在全局的隊(duì)列中；處理器本地隊(duì)列是一個(gè)使用數(shù)組構(gòu)成的環(huán)形鏈表，它最多可以存儲(chǔ) 256 個(gè)待執(zhí)行任務(wù)。
G只能運(yùn)行在M中，一個(gè)M必須持有一個(gè)P，M與P是1：1的關(guān)系。M會(huì)從P的本地隊(duì)列彈出一個(gè)可執(zhí)行狀態(tài)的G來執(zhí)行，如果P的本地隊(duì)列為空，就會(huì)想其他的MP組合偷取一個(gè)可執(zhí)行的G來執(zhí)行；
一個(gè)M調(diào)度G執(zhí)行的過程是一個(gè)循環(huán)機(jī)制；會(huì)一直從本地隊(duì)列或全局隊(duì)列中獲取G
上面說到P的個(gè)數(shù)默認(rèn)等于CPU核數(shù)，每個(gè)M必須持有一個(gè)P才可以執(zhí)行G，一般情況下M的個(gè)數(shù)會(huì)略大于P的個(gè)數(shù)，這多出來的M將會(huì)在G產(chǎn)生系統(tǒng)調(diào)用時(shí)發(fā)揮作用。類似線程池，Go也提供一個(gè)M的池子，需要時(shí)從池子中獲取，用完放回池子，不夠用時(shí)就再創(chuàng)建一個(gè)。
work-stealing調(diào)度算法：當(dāng)M執(zhí)行完了當(dāng)前P的本地隊(duì)列隊(duì)列里的所有G后，P也不會(huì)就這么在那躺尸啥都不干，它會(huì)先嘗試從全局隊(duì)列隊(duì)列尋找G來執(zhí)行，如果全局隊(duì)列為空，它會(huì)隨機(jī)挑選另外一個(gè)P，從它的隊(duì)列里中拿走一半的G到自己的隊(duì)列中執(zhí)行。
如果一切正常，調(diào)度器會(huì)以上述的那種方式順暢地運(yùn)行，但這個(gè)世界沒這么美好，總有意外發(fā)生，以下分析goroutine在兩種例外情況下的行為。
Go runtime會(huì)在下面的goroutine被阻塞的情況下運(yùn)行另外一個(gè)goroutine：
用戶態(tài)阻塞/喚醒
當(dāng)goroutine因?yàn)閏hannel操作或者network I/O而阻塞時(shí)（實(shí)際上golang已經(jīng)用netpoller實(shí)現(xiàn)了goroutine網(wǎng)絡(luò)I/O阻塞不會(huì)導(dǎo)致M被阻塞，僅阻塞G，這里僅僅是舉個(gè)栗子），對(duì)應(yīng)的G會(huì)被放置到某個(gè)wait隊(duì)列(如channel的waitq)，該G的狀態(tài)由_Gruning變?yōu)開Gwaitting，而M會(huì)跳過該G嘗試獲取并執(zhí)行下一個(gè)G，如果此時(shí)沒有可運(yùn)行的G供M運(yùn)行，那么M將解綁P，并進(jìn)入sleep狀態(tài)；當(dāng)阻塞的G被另一端的G2喚醒時(shí)（比如channel的可讀/寫通知），G被標(biāo)記為，嘗試加入G2所在P的runnext（runnext是線程下一個(gè)需要執(zhí)行的 Goroutine。）， 然后再是P的本地隊(duì)列和全局隊(duì)列。
系統(tǒng)調(diào)用阻塞
當(dāng)M執(zhí)行某一個(gè)G時(shí)候如果發(fā)生了阻塞操作，M會(huì)阻塞，如果當(dāng)前有一些G在執(zhí)行，調(diào)度器會(huì)把這個(gè)線程M從P中摘除，然后再創(chuàng)建一個(gè)新的操作系統(tǒng)的線程(如果有空閑的線程可用就復(fù)用空閑線程)來服務(wù)于這個(gè)P。當(dāng)M系統(tǒng)調(diào)用結(jié)束時(shí)候，這個(gè)G會(huì)嘗試獲取一個(gè)空閑的P執(zhí)行，并放入到這個(gè)P的本地隊(duì)列。如果獲取不到P，那么這個(gè)線程M變成休眠狀態(tài)， 加入到空閑線程中，然后這個(gè)G會(huì)被放入全局隊(duì)列中。
隊(duì)列輪轉(zhuǎn)
可見每個(gè)P維護(hù)著一個(gè)包含G的隊(duì)列，不考慮G進(jìn)入系統(tǒng)調(diào)用或IO操作的情況下，P周期性的將G調(diào)度到M中執(zhí)行，執(zhí)行一小段時(shí)間，將上下文保存下來，然后將G放到隊(duì)列尾部，然后從隊(duì)列中重新取出一個(gè)G進(jìn)行調(diào)度。
除了每個(gè)P維護(hù)的G隊(duì)列以外，還有一個(gè)全局的隊(duì)列，每個(gè)P會(huì)周期性地查看全局隊(duì)列中是否有G待運(yùn)行并將其調(diào)度到M中執(zhí)行，全局隊(duì)列中G的來源，主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會(huì)周期性地查看全局隊(duì)列，也是為了防止全局隊(duì)列中的G被餓死。
除了每個(gè)P維護(hù)的G隊(duì)列以外，還有一個(gè)全局的隊(duì)列，每個(gè)P會(huì)周期性地查看全局隊(duì)列中是否有G待運(yùn)行并將其調(diào)度到M中執(zhí)行，全局隊(duì)列中G的來源，主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會(huì)周期性地查看全局隊(duì)列，也是為了防止全局隊(duì)列中的G被餓死。
M0
M0是啟動(dòng)程序后的編號(hào)為0的主線程，這個(gè)M對(duì)應(yīng)的實(shí)例會(huì)在全局變量rutime.m0中，不需要在heap上分配，M0負(fù)責(zé)執(zhí)行初始化操作和啟動(dòng)第一個(gè)G，在之后M0就和其他的M一樣了
G0
G0是每次啟動(dòng)一個(gè)M都會(huì)第一個(gè)創(chuàng)建的goroutine，G0僅用于負(fù)責(zé)調(diào)度G，G0不指向任何可執(zhí)行的函數(shù)，每個(gè)M都會(huì)有一個(gè)自己的G0，在調(diào)度或系統(tǒng)調(diào)用時(shí)會(huì)使用G0的?？臻g，全局變量的G0是M0的G0
一個(gè)G由于調(diào)度被中斷，此后如何恢復(fù)？
中斷的時(shí)候?qū)⒓拇嫫骼锏臈Ｐ畔ⅲ４娴阶约旱腉對(duì)象里面。當(dāng)再次輪到自己執(zhí)行時(shí)，將自己保存的棧信息復(fù)制到寄存器里面，這樣就接著上次之后運(yùn)行了。
我這里只是根據(jù)自己的理解進(jìn)行了簡單的介紹，想要詳細(xì)了解有關(guān)GMP的底層原理可以去看Go調(diào)度器 G-P-M 模型的設(shè)計(jì)者的文檔或直接看源碼
參考： ()
()
重慶分公司
重慶分公司
