#include stdio.h
創(chuàng)新互聯(lián)-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設、高性價比陽高網(wǎng)站開發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫,直接使用。一站式陽高網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設找我們,業(yè)務覆蓋陽高地區(qū)。費用合理售后完善,十余年實體公司更值得信賴。
#include stdlib.h
#include time.h //用到了time函數(shù)
int main()
{ int i,number;
srand((unsigned) time(NULL)); //用時間做種,每次產生隨機數(shù)不一樣
for (i=0; i50; i++)
{
number = rand() % 101; //產生0-100的隨機數(shù)
printf("%d ", number);
}
return 0;
}
Prometheus有4大指標類型(Metrics Type),分別是Counter(計數(shù)器)、Gauge(儀表盤)、Histogram(直方圖)和Summary(摘要)。
這是在Prometheus客戶端(目前主要有Go、Java、Python、Ruby等語言版本)中提供的4種核心指標類型,但是Prometheus的服務端并不區(qū)分指標類型,而是簡單地把這些指標統(tǒng)一視為無類型的時間序列。
注意:
font color=red上面這句話應該這么理解,四個指標類型,實際上就是客戶端采集數(shù)據(jù)的四個維度,采集這四個維度的指標數(shù)據(jù),但是最終匯總到服務端那里,則是對這四個維度無感的,只是簡單的作為時間序列存儲起來。/font
?計數(shù)器表示一種單調遞增的指標,除非發(fā)生重置的情況下下只增不減,其樣本值應該是不斷增大的。例如,可以使用Counter類型的指標來表示服務的請求數(shù)、已完成的任務數(shù)、錯誤發(fā)生的次數(shù)等。
?但是,計數(shù)器計算的總數(shù)對用戶來說大多沒有什么用,大家千萬不要將計數(shù)器類型應用于樣本數(shù)據(jù)非單調遞增的指標上,比如當前運行的進程數(shù)量、當前登錄的用戶數(shù)量等應該使用儀表盤類型。
為了能夠更直觀地表示樣本數(shù)據(jù)的變化情況,往往需要計算樣本的增長速率,這時候通常使用PromQL的rate、topk、increase和irate等函數(shù),如下所示:
如上所示,速率的輸出rate(v range-vector)也應該用儀表盤來承接結果。
在上面的案例中,如果有一個標簽是Device,那么在統(tǒng)計每臺機器每秒接受的HTTP請求數(shù)時,可以用如下的例子進行操作。
補充
?這背后與rate()的實現(xiàn)方式有關,rate()在設計上假定對應的指標是一個計數(shù)器,也就是只有font color=redincr(增加)和reset(歸零)/font兩種行為。而執(zhí)行了sum()或其他聚合操作之后,得到的就不再是一個計數(shù)器了。舉個例子,比如sum()的計算對象中有一個歸零了,那整體的和會下降,而不是歸零,這會影響rate()中判斷reset(歸零)的邏輯,從而導致錯誤的結果。
?increase(v range-vector)函數(shù)傳遞的參數(shù)是一個區(qū)間向量,increase函數(shù)獲取區(qū)間向量中的第一個和最后一個樣本并返回其增長量。下面的例子可以查詢Counter類型指標的增長速率,可以獲取http_requests_total在最近5分鐘內的平均樣本,其中300代表300秒。
?rate和increase函數(shù)計算的增長速率容易陷入font color=red長尾效應中/font。比如在 某一個由于訪問量或者其他問題導致CPU占用100%的情況中,通過計算在時間窗口內的平均增長速率是無法反映出該問題的 。
?為什么監(jiān)控和性能測試中,我們更關注p95/p99位?就是因為長尾效應。由于個別請求的響應時間需要1秒或者更久,font color=red傳統(tǒng)的響應時間的平均值就體現(xiàn)不出響應時間中的尖刺了/font,去尖刺也是數(shù)據(jù)采集中一個很重要的工序,這就是所謂的長尾效應。p95/p99就是長尾效應的分割線,如表示99%的請求在XXX范圍內,或者是1%的請求在XXX范圍之外。99%是一個范圍,意思是99%的請求在某一延遲內,剩下的1%就在延遲之外了。只是正推與逆推而已,是一種概念的兩種不同描述。
?irate(v range-vector)是PromQL針對長尾效應專門提供的靈敏度更高的函數(shù)。irate同樣用于計算區(qū)間向量的增長速率,但是其反映出的是瞬時增長速率。irate函數(shù)是通過區(qū)間向量中最后兩個樣本數(shù)據(jù)來計算區(qū)間向量的增長速率的。這種方式可以避免在時間窗口范圍內的“長尾問題”,并且體現(xiàn)出更好的靈敏度。通過irate函數(shù)繪制的圖標能夠更好地反映樣本數(shù)據(jù)的瞬時變化狀態(tài)。irate的調用命令如下所示。
?irate函數(shù)相比于rate函數(shù)提供了更高的靈敏度,不過分析長期趨勢時或者在告警規(guī)則中,irate的這種靈敏度反而容易造成干擾。因此,在長期趨勢分析或者告警中更推薦使用rate函數(shù)。
?儀表盤類型代表一種font color=red樣本數(shù)據(jù)可以任意變化的指標,即可增可減/font。它可以理解為狀態(tài)的快照,Gauge通常用于表示溫度或者內存使用率這種指標數(shù)據(jù),也可以表示能隨時增加或減少的“總數(shù)”,例如當前并發(fā)請求的數(shù)量node_memory_MemFree(主機當前空閑的內容大小)、node_memory_MemAvailable(可用內存大?。┑取T谑褂肎auge時,用戶往往希望使用它們font color=red求和、取平均值、最小值、最大值/font等。
?以Prometheus經典的Node Exporter的指標node_filesystem_size_bytes為例,它可以報告從node_filesystem_size_bytes采集來的文件系統(tǒng)大小,包含device、fstype和mountpoint等標簽。如果想要對每一臺機器上的總文件系統(tǒng)大小求和(sum),可以使用如下PromQL語句。
?without可以讓sum指令根據(jù)相同的標簽進行求和,但是忽略without涵蓋的標簽。如果在實際工作中需要忽略更多標簽,可以根據(jù)實際情況在without里傳遞更多指標。
補充 :
node_filesystem_size_bytes指標查詢
device, fstype, mountpoint都是他的標簽。
sum without(device, fstype, mountpoint)(node_filesystem_size_bytes)查詢
?如果要根據(jù)Node Exporter的指標node_filesystem_size_bytes計算每臺機器上最大的文件安裝系統(tǒng)大小,只需要將上述案例中的sum函數(shù)改為max函數(shù),如下所示。
?除了求和、求最大值等,利用Gauge的函數(shù)求最小值和平均值等原理是類似的。除了基本的操作外,Gauge經常結合PromQL的predict_linear和delta函數(shù)使用。
?predict_linear(v range-vector,t scalar)函數(shù)可以預測時間序列v在t秒后的值,就是使用線性回歸的方式,預測樣本數(shù)據(jù)的Gauge變化趨勢。例如,基于2小時的樣本數(shù)據(jù),預測未來24小時內磁盤是否會滿,如下所示:
PromQL還有一個內置函數(shù)delta(),它可以獲取樣本在一段時間內的變化情況,也通常作用于Gauge。例如,計算磁盤空間在2小時內的差異,如下所示。
Histogram是一個對數(shù)據(jù)分布情況的圖形表示,由一系列高度不等的長條圖(bar)或線段表示,用于展示單個測度得知的分布。
[圖片上傳失敗...(image-3e55f2-1622153155462)]
上邊界、樣本值總和、樣本總數(shù)
例子
這三個查詢一起看
所有樣本值的總和,命名為basename_sum。
prometheus_http_request_duration_seconds_sum{handler="/targets",instance="192.168.16.134:9090",job="prometheus"}0.405075955 表示12 次http請求的總響應時間是0.405075955
命名為basename_count,其值和basename_bucket{le="+Inf"}相同(所有)。
prometheus_http_request_duration_seconds_count{handler="/targets",instance="192.168.16.134:9090",job="prometheus"}12 表示總共發(fā)生了12次請求
?sum函數(shù)和count函數(shù)相除,可以得到一些平均值,比如Prometheus一天內的平均壓縮時間,可由查詢結果除以instance標簽數(shù)量得到,如下所示。
?除了Prometheus內置的壓縮時間,prometheus_local_storage_series_chunks_persisted表示Prometheus中每個時序需要存儲的chunk數(shù)量,也可以用于計算待持久化的數(shù)據(jù)的分位數(shù)。
?Histogram可以用于觀察樣本數(shù)據(jù)的分布情況。Histogram的分位數(shù)計算需要通過histogram_quantile(φfloat,b instant-vector)函數(shù)進行計算,但是histogram_quantile計算所得并非精確值。其中,φ(0φ1)表示需要計算的分位數(shù)(這個值主要是通過prometheus_http_request_duration_seconds_bucket和prometheus_http_request_duration_seconds_sum兩個指標得到的,是一個近似值)。
例子如下。
?與Histogram類型類似,摘要用于表示一段時間內的數(shù)據(jù)采樣的結果(通常是請求持續(xù)時間或響應大小等),但它直接存儲了分位數(shù)(通過客戶端計算,然后展示出來),而非通過區(qū)間來計算(Histogram的分位數(shù)需要通過histogram_quantile(φfloat,b instant-vector)函數(shù)計算得到)。因此,對于分位數(shù)的計算,Summary在通過PromQL進行查詢時有更好的性能表現(xiàn),而Histogram則會消耗更多的資源。反之,對于客戶端而言,Histogram消耗的資源更少。在選擇這兩種方式時,用戶應該根據(jù)自己的實際場景選擇。
Histogram是在服務端計算的,Summary是在客戶端計算的。
?安裝并啟動Prometheus后,在訪問 時可以看到Prometheus自帶的一些Summary信息,這些信息和Histogram一樣在注釋中(#HELP和#TYPE)也會顯示,如下所示。
?在上述例子中,可以看到基于Go語言編寫的Prometheus的gc總次數(shù)是1907,耗時0.193642882s,其中中位數(shù)(quantile=0.5)計算的耗時為4.8366e-05s,代表1907次中50%的次數(shù)是小于4.8366e-05s的。
Summary類型的樣本也會提供3種指標,假設指標名稱為basename。
Summary和Histogram的異同
Summary的強大之處就是可以利用除法去計算時間的平均值。如果要從Histogram和Summary中計算最近5分鐘內的平均請求持續(xù)時間http_request_duration_seconds,可以用如下表達式進行。
count本質上是一個計數(shù)器,sum通常情況下也會像計數(shù)器那樣工作。但是font color=redSummary和Histogram可能觀察到負值,比如溫度(-20℃),這種情況下會導致觀察的總量下降,無法再使用rate函數(shù)/font。
比如下面的例子就可以計算過去5分鐘內每次響應中返回的平均字節(jié)數(shù)。
關于這個例子,我們需要注意幾點。
·因為http_response_size_bytes_count和http_response_size_bytes_sum是計數(shù)器類型,所以必須在計算前先使用rate等函數(shù)。
·因為Prometheus的API會有很多handler,所以可以使用without過濾掉handler的返回值。
·PromQL要先執(zhí)行rate()再執(zhí)行sum(),不能先執(zhí)行sum()再執(zhí)行rate()。
·在統(tǒng)計學上,尤其是計算平均值時,要先進行sum等求和運算再做除法。對一個平均值再求平均是不正確的,如下所示。
count的例子
案例一:計算所有的實例CPU核心數(shù)。
count by (instance) ( count by (instance,cpu) (node_cpu_seconds_total{mode=
"system"}) )
案例二:計算單個實例192.168.1.1的CPU核心數(shù)。
count by (instance) ( count by (instance,cpu) (node_cpu_seconds_total{mode="system",
instance="192.168.1.1"})
?? 當讀取91.2 MB文件時,read1耗時43ms,read2耗時99ms。
查看源碼:
讀取文件主要是通過 Read(p []byte) (n int, err error) :
官方文檔中關于該接口方法的說明:
結論:
??ReadFile(filename string)方法之所以速度快的原因就是先計算出file文件的size,在初始化對應size大小的buff,傳入ReadRead(p []byte) 來讀取字節(jié)流
就目前來看還是很有前景,因為越來越火了,不過他的應用領域還是局限在高并發(fā)處理和網(wǎng)站開發(fā),畢竟是后起之秀所以在其他桌面程序領域沒那么容易普及和超越c++,找工作就不推薦學go
前言
最近工作中遇到的一個場景,php項目中需要使用一個第三方的功能,而恰好有一個用Golang寫好的類庫。那么問題就來了,要如何實現(xiàn)不同語言之間的通信呢?下面就來一起看看吧。
常規(guī)的方案
1、 用Golang寫一個http/TCP服務,php通過http/TCP與Golang通信
2、將Golang經過較多封裝,做為php擴展。
3、PHP通過系統(tǒng)命令,調取Golang的可執(zhí)行文件
存在的問題
1、http請求,網(wǎng)絡I/O將會消耗大量時間
2、需要封裝大量代碼
3、PHP每調取一次Golang程序,就需要一次初始化,時間消耗很多
優(yōu)化目標
1、Golang程序只初始化一次(因為初始化很耗時)
2、所有請求不需要走網(wǎng)絡
3、盡量不大量修改代碼
解決方案
1、簡單的Golang封裝,將第三方類庫編譯生成為一個可執(zhí)行文件
2、PHP與Golang通過雙向管道通信
使用雙向管道通信優(yōu)勢
1:只需要對原有Golang類庫進行很少的封裝
2:性能最佳 (IPC通信是進程間通信的最佳途徑)
3:不需要走網(wǎng)絡請求,節(jié)約大量時間
4:程序只需初始化一次,并一直保持在內存中
具體實現(xiàn)步驟
1:類庫中的原始調取demo
package main
import (
"fmt"
"github.com/yanyiwu/gojieba"
"strings"
)
func main() {
x := gojieba.NewJieba()
defer x.Free()
s := "小明碩士畢業(yè)于中國科學院計算所,后在日本京都大學深造"
words := x.CutForSearch(s, true)
fmt.Println(strings.Join(words, "/"))
}
保存文件為main.go,就可以運行
2:調整后代碼為:
package main
import (
"bufio"
"fmt"
"github.com/yanyiwu/gojieba"
"io"
"os"
"strings"
)
func main() {
x := gojieba.NewJieba(
"/data/tmp/jiebaDict/jieba.dict.utf8",
"/data/tmp/jiebaDict/hmm_model.utf8",
"/data/tmp/jiebaDict/user.dict.utf8"
)
defer x.Free()
inputReader := bufio.NewReader(os.Stdin)
for {
s, err := inputReader.ReadString('\n')
if err != nil err == io.EOF {
break
}
s = strings.TrimSpace(s)
if s != "" {
words := x.CutForSearch(s, true)
fmt.Println(strings.Join(words, " "))
} else {
fmt.Println("get empty \n")
}
}
}
只需要簡單的幾行調整,即可實現(xiàn):從標準輸入接收字符串,經過分詞再輸出
測試:
# go build test
# ./test
# //等待用戶輸入,輸入”這是一個測試“
# 這是 一個 測試 //程序
3:使用cat與Golang通信做簡單測試
//準備一個title.txt,每行是一句文本
# cat title.txt | ./test
正常輸出,表示cat已經可以和Golang正常交互了
4:PHP與Golang通信
以上所示的cat與Golang通信,使用的是單向管道。即:只能從cat向Golang傳入數(shù)據(jù),Golang輸出的數(shù)據(jù)并沒有傳回給cat,而是直接輸出到屏幕。但文中的需求是:php與Golang通信。即php要傳數(shù)據(jù)給Golang,同時Golang也必須把執(zhí)行結果返回給php。因此,需要引入雙向管道。
在PHP中管道的使用:popen("/path/test") ,具體就不展開說了,因為此方法解決不了文中的問題。
雙向管道:
$descriptorspec = array(
0 = array("pipe", "r"),
1 = array("pipe", "w")
);
$handle = proc_open(
'/webroot/go/src/test/test',
$descriptorspec,
$pipes
);
fwrite($pipes['0'], "這是一個測試文本\n");
echo fgets($pipes[1]);
解釋:使用proc_open打開一個進程,調用Golang程序。同時返回一個雙向管道pipes數(shù)組,php向$pipe['0']中寫數(shù)據(jù),從$pipe['1']中讀數(shù)據(jù)。
好吧,也許你已經發(fā)現(xiàn),我是標題檔,這里重點要講的并不只是PHP與Golang如何通信。而是在介紹一種方法: 通過雙向管道讓任意語言通信。(所有語言都會實現(xiàn)管道相關內容)
測試:
通過對比測試,計算出各個流程占用的時間。下面提到的title.txt文件,包含100萬行文本,每行文本是從b2b平臺取的商品標題
1: 整體流程耗時
time cat title.txt | ./test /dev/null
耗時:14.819秒,消耗時間包含:
進程cat讀出文本
通過管道將數(shù)據(jù)傳入Golang
Golang處理數(shù)據(jù),將結果返回到屏幕
2:計算分詞函數(shù)耗時。方案:去除分詞函數(shù)的調取,即:注釋掉Golang源代碼中的調取分詞那行的代碼
time cat title.txt | ./test /dev/null
耗時:1.817秒時間,消耗時間包含:
進程cat讀出文本
通過管道將數(shù)據(jù)傳入Golang
Golang處理數(shù)據(jù),將結果返回到屏幕
分詞耗時 = (第一步耗時) - (以上命令所耗時)
分詞耗時 : 14.819 - 1.817 = 13.002秒
3:測試cat進程與Golang進程之間通信所占時間
time cat title.txt /dev/null
耗時:0.015秒,消耗時間包含:
進程cat讀出文本
通過管道將數(shù)據(jù)傳入Golang
go處理數(shù)據(jù),將結果返回到屏幕
管道通信耗時:(第二步耗時) - (第三步耗時)
管道通信耗時: 1.817 - 0.015 = 1.802秒
4:PHP與Golang通信的時間消耗
編寫簡單的php文件:
?php
$descriptorspec = array(
0 = array("pipe", "r"),
1 = array("pipe", "w")
);
$handle = proc_open(
'/webroot/go/src/test/test',
$descriptorspec,
$pipes
);
$fp = fopen("title.txt", "rb");
while (!feof($fp)) {
fwrite($pipes['0'], trim(fgets($fp))."\n");
echo fgets($pipes[1]);
}
fclose($pipes['0']);
fclose($pipes['1']);
proc_close($handle);
流程與上面基本一致,讀出title.txt內容,通過雙向管道傳入Golang進程分詞后,再返回給php (比上面的測試多一步:數(shù)據(jù)再通過管道返回)
time php popen.php /dev/null
耗時:24.037秒,消耗時間包含:
進程PHP讀出文本
通過管道將數(shù)據(jù)傳入Golang
Golang處理數(shù)據(jù)
Golang將返回結果再寫入管道,PHP通過管道接收數(shù)據(jù)
將結果返回到屏幕
結論:
1 :整個分詞過程中的耗時分布
使用cat控制邏輯耗時: 14.819 秒
使用PHP控制邏輯耗時: 24.037 秒(比cat多一次管道通信)
單向管道通信耗時: 1.8 秒
Golang中的分詞函數(shù)耗時: 13.002 秒
2:分詞函數(shù)的性能: 單進程,100萬商品標題分詞,耗時13秒
以上時間只包括分詞時間,不包括詞典載入時間。但在本方案中,詞典只載入一次,所以載入詞典時間可以忽略(1秒左右)
3:PHP比cat慢 (這結論有點多余了,呵呵)
語言層面慢: (24.037 - 1.8 - 14.819) / 14.819 = 50%
單進程對比測試的話,應該不會有哪個語言比cat更快。
相關問題:
1:以上Golang源碼中寫的是一個循環(huán),也就是會一直從管道中讀數(shù)據(jù)。那么存在一個問題:是不是php進程結束后,Golang的進程還會一直存在?
管道機制自身可解決此問題。管道提供兩個接口:讀、寫。當寫進程結束或者意外掛掉時,讀進程也會報錯,以上Golang源代碼中的err邏輯就會執(zhí)行,Golang進程結束。
但如果PHP進程沒有結束,只是暫時沒有數(shù)據(jù)傳入,此時Golang進程會一直等待。直到php結束后,Golang進程才會自動結束。
2:能否多個php進程并行讀寫同一個管道,Golang進程同時為其服務?
不可以。管道是單向的,如果多個進程同時向管道中寫,那Golang的返回值就會錯亂。
可以多開幾個Golang進程實現(xiàn),每個php進程對應一個Golang進程。
最后,上面都是瞎扯的。如果你了解管道、雙向管道,上面的解釋對你基本沒啥用。但如果你不了解管道,調試上面的代碼沒問題,但稍有修改就有可能掉坑里。
package main
import (
"fmt"
"os"
)
func main() {
if len(os.Args) 2 {
fmt.Println("Please Input File Name!")
return
}
file, err := os.Open(os.Args[1])
if err != nil {
return
}
buff := make([]byte, 1000)
_, err = file.Read(buff)
if err != nil {
return
}
a, c, d, e, _ := Sum(buff)
fmt.Printf("a c d e \n%d %d %d %d\n", a, c, d, e)
}
func Sum(buff []byte) (a, c, d, e, def int) {
for i := 0; i len(buff); i++ {
switch buff[i] {
case 'a':
a++
case 'c':
c++
case 'd':
d++
case 'e':
e++
default:
def++
}
}
return
}