網(wǎng)關(guān)=反向代理+負(fù)載均衡+各種策略,技術(shù)實(shí)現(xiàn)也有多種多樣,有基于 nginx 使用 lua 的實(shí)現(xiàn),比如 openresty、kong;也有基于 zuul 的通用網(wǎng)關(guān);還有就是 golang 的網(wǎng)關(guān),比如 tyk。
十載專(zhuān)注成都網(wǎng)站制作,成都企業(yè)網(wǎng)站定制,個(gè)人網(wǎng)站制作服務(wù),為大家分享網(wǎng)站制作知識(shí)、方案,網(wǎng)站設(shè)計(jì)流程、步驟,成功服務(wù)上千家企業(yè)。為您提供網(wǎng)站建設(shè),網(wǎng)站制作,網(wǎng)頁(yè)設(shè)計(jì)及定制高端網(wǎng)站建設(shè)服務(wù),專(zhuān)注于成都企業(yè)網(wǎng)站定制,高端網(wǎng)頁(yè)制作,對(duì)玻璃隔斷等多個(gè)行業(yè),擁有豐富的營(yíng)銷(xiāo)推廣經(jīng)驗(yàn)。
這篇文章主要是講如何基于 golang 實(shí)現(xiàn)一個(gè)簡(jiǎn)單的網(wǎng)關(guān)。
轉(zhuǎn)自: troy.wang/docs/golang/posts/golang-gateway/
整理:go語(yǔ)言鐘文文檔:
啟動(dòng)兩個(gè)后端 web 服務(wù)(代碼)
這里使用命令行工具進(jìn)行測(cè)試
具體代碼
直接使用基礎(chǔ)庫(kù) httputil 提供的NewSingleHostReverseProxy即可,返回的reverseProxy對(duì)象實(shí)現(xiàn)了serveHttp方法,因此可以直接作為 handler。
具體代碼
director中定義回調(diào)函數(shù),入?yún)?http.Request,決定如何構(gòu)造向后端的請(qǐng)求,比如 host 是否向后傳遞,是否進(jìn)行 url 重寫(xiě),對(duì)于 header 的處理,后端 target 的選擇等,都可以在這里完成。
director在這里具體做了:
modifyResponse中定義回調(diào)函數(shù),入?yún)?http.Response,用于修改響應(yīng)的信息,比如響應(yīng)的 Body,響應(yīng)的 Header 等信息。
最終依舊是返回一個(gè)ReverseProxy,然后將這個(gè)對(duì)象作為 handler 傳入即可。
參考 2.2 中的NewSingleHostReverseProxy,只需要實(shí)現(xiàn)一個(gè)類(lèi)似的、支持多 targets 的方法即可,具體實(shí)現(xiàn)見(jiàn)后面。
作為一個(gè)網(wǎng)關(guān)服務(wù),在上面 2.3 的基礎(chǔ)上,需要支持必要的負(fù)載均衡策略,比如:
隨便 random 一個(gè)整數(shù)作為索引,然后取對(duì)應(yīng)的地址即可,實(shí)現(xiàn)比較簡(jiǎn)單。
具體代碼
使用curIndex進(jìn)行累加計(jì)數(shù),一旦超過(guò) rss 數(shù)組的長(zhǎng)度,則重置。
具體代碼
輪詢(xún)帶權(quán)重,如果使用計(jì)數(shù)遞減的方式,如果權(quán)重是5,1,1那么后端 rs 依次為a,a,a,a,a,b,c,a,a,a,a…,其中 a 后端會(huì)瞬間壓力過(guò)大;參考 nginx 內(nèi)部的加權(quán)輪詢(xún),或者應(yīng)該稱(chēng)之為平滑加權(quán)輪詢(xún),思路是:
后端真實(shí)節(jié)點(diǎn)包含三個(gè)權(quán)重:
操作步驟:
具體代碼
一致性 hash 算法,主要是用于分布式 cache 熱點(diǎn)/命中問(wèn)題;這里用于基于某 key 的 hash 值,路由到固定后端,但是只能是基本滿(mǎn)足流量綁定,一旦后端目標(biāo)節(jié)點(diǎn)故障,會(huì)自動(dòng)平移到環(huán)上最近的那么個(gè)節(jié)點(diǎn)。
實(shí)現(xiàn):
具體代碼
每一種不同的負(fù)載均衡算法,只需要實(shí)現(xiàn)添加以及獲取的接口即可。
然后使用工廠方法,根據(jù)傳入的參數(shù),決定使用哪種負(fù)載均衡策略。
具體代碼
作為網(wǎng)關(guān),中間件必不可少,這類(lèi)包括請(qǐng)求響應(yīng)的模式,一般稱(chēng)作洋蔥模式,每一層都是中間件,一層層進(jìn)去,然后一層層出來(lái)。
中間件的實(shí)現(xiàn)一般有兩種,一種是使用數(shù)組,然后配合 index 計(jì)數(shù);一種是鏈?zhǔn)秸{(diào)用。
具體代碼
基本設(shè)計(jì)思路:
類(lèi)型轉(zhuǎn)換、類(lèi)型斷言、動(dòng)態(tài)派發(fā)。iface,eface。
反射對(duì)象具有的方法:
編譯優(yōu)化:
內(nèi)部實(shí)現(xiàn):
實(shí)現(xiàn) Context 接口有以下幾個(gè)類(lèi)型(空實(shí)現(xiàn)就忽略了):
互斥鎖的控制邏輯:
設(shè)計(jì)思路:
(以上為寫(xiě)被讀阻塞,下面是讀被寫(xiě)阻塞)
總結(jié),讀寫(xiě)鎖的設(shè)計(jì)還是非常巧妙的:
設(shè)計(jì)思路:
WaitGroup 有三個(gè)暴露的函數(shù):
部件:
設(shè)計(jì)思路:
結(jié)構(gòu):
Once 只暴露了一個(gè)方法:
實(shí)現(xiàn):
三個(gè)關(guān)鍵點(diǎn):
細(xì)節(jié):
讓多協(xié)程任務(wù)的開(kāi)始執(zhí)行時(shí)間可控(按順序或歸一)。(Context 是控制結(jié)束時(shí)間)
設(shè)計(jì)思路: 通過(guò)一個(gè)鎖和內(nèi)置的 notifyList 隊(duì)列實(shí)現(xiàn),Wait() 會(huì)生成票據(jù),并將等待協(xié)程信息加入鏈表中,等待控制協(xié)程中發(fā)送信號(hào)通知一個(gè)(Signal())或所有(Boardcast())等待者(內(nèi)部實(shí)現(xiàn)是通過(guò)票據(jù)通知的)來(lái)控制協(xié)程解除阻塞。
暴露四個(gè)函數(shù):
實(shí)現(xiàn)細(xì)節(jié):
部件:
包: golang.org/x/sync/errgroup
作用:開(kāi)啟 func() error 函數(shù)簽名的協(xié)程,在同 Group 下協(xié)程并發(fā)執(zhí)行過(guò)程并收集首次 err 錯(cuò)誤。通過(guò) Context 的傳入,還可以控制在首次 err 出現(xiàn)時(shí)就終止組內(nèi)各協(xié)程。
設(shè)計(jì)思路:
結(jié)構(gòu):
暴露的方法:
實(shí)現(xiàn)細(xì)節(jié):
注意問(wèn)題:
包: "golang.org/x/sync/semaphore"
作用:排隊(duì)借資源(如錢(qián),有借有還)的一種場(chǎng)景。此包相當(dāng)于對(duì)底層信號(hào)量的一種暴露。
設(shè)計(jì)思路:有一定數(shù)量的資源 Weight,每一個(gè) waiter 攜帶一個(gè) channel 和要借的數(shù)量 n。通過(guò)隊(duì)列排隊(duì)執(zhí)行借貸。
結(jié)構(gòu):
暴露方法:
細(xì)節(jié):
部件:
細(xì)節(jié):
包: "golang.org/x/sync/singleflight"
作用:防擊穿。瞬時(shí)的相同請(qǐng)求只調(diào)用一次,response 被所有相同請(qǐng)求共享。
設(shè)計(jì)思路:按請(qǐng)求的 key 分組(一個(gè) *call 是一個(gè)組,用 map 映射存儲(chǔ)組),每個(gè)組只進(jìn)行一次訪問(wèn),組內(nèi)每個(gè)協(xié)程會(huì)獲得對(duì)應(yīng)結(jié)果的一個(gè)拷貝。
結(jié)構(gòu):
邏輯:
細(xì)節(jié):
部件:
如有錯(cuò)誤,請(qǐng)批評(píng)指正。
創(chuàng)建 PayPal 的目的是使金融服務(wù)民主化,并使個(gè)人和企業(yè)能夠加入并在全球經(jīng)濟(jì)中蓬勃發(fā)展。這項(xiàng)工作的核心是 PayPal 的支付平臺(tái),該平臺(tái)使用專(zhuān)有技術(shù)和第三方技術(shù)的組合來(lái)高效、安全地促進(jìn)全球數(shù)百萬(wàn)商家和消費(fèi)者之間的交易。隨著支付平臺(tái)變得越來(lái)越大、越來(lái)越復(fù)雜,PayPal 尋求對(duì)其系統(tǒng)進(jìn)行現(xiàn)代化改造并縮短新應(yīng)用程序的上市時(shí)間。
Go 在生成干凈、高效的代碼方面的有著極高的價(jià)值。這些代碼可以隨著軟件部署的擴(kuò)展而輕松擴(kuò)展,這使得該語(yǔ)言非常適合支持 PayPal 的目標(biāo)。
支付處理平臺(tái)的核心是 PayPal 用 C++ 開(kāi)發(fā)的專(zhuān)有 NoSQL 數(shù)據(jù)庫(kù)。然而,代碼的復(fù)雜性大大降低了開(kāi)發(fā)人員發(fā)展平臺(tái)的能力。Go 的簡(jiǎn)單代碼布局、goroutine(輕量級(jí)執(zhí)行線程)和通道(用作連接并發(fā) goroutine 的管道)使 Go 成為 NoSQL 開(kāi)發(fā)團(tuán)隊(duì)簡(jiǎn)化和現(xiàn)代化平臺(tái)的自然選擇。
作為概念驗(yàn)證,一個(gè)開(kāi)發(fā)團(tuán)隊(duì)花了六個(gè)月的時(shí)間學(xué)習(xí) Go 并在 Go 中從頭開(kāi)始重新實(shí)現(xiàn) NoSQL 系統(tǒng),在此期間,他們還提供了有關(guān)如何在 PayPal 更廣泛地實(shí)施 Go 的見(jiàn)解。截至今天,已遷移 30% 的集群以使用新的 NoSQL 數(shù)據(jù)庫(kù)。
隨著 PayPal 的平臺(tái)變得越來(lái)越復(fù)雜,Go 提供了一種輕松簡(jiǎn)化大規(guī)模創(chuàng)建和運(yùn)行軟件的復(fù)雜性的方法。該語(yǔ)言為 PayPal 提供了出色的庫(kù)和快速工具,以及并發(fā)、垃圾收集和類(lèi)型安全。
借助 Go,PayPal 使其開(kāi)發(fā)人員能夠?qū)⒏鄷r(shí)間從 C++ 和 Java 開(kāi)發(fā)的噪音中解放出來(lái),從而能夠花更多時(shí)間查看代碼和進(jìn)行戰(zhàn)略性思考。
在這個(gè)新改寫(xiě)的 NoSQL 系統(tǒng)取得成功后,PayPal 內(nèi)更多的平臺(tái)和內(nèi)容團(tuán)隊(duì)開(kāi)始采用 Go。Natarajan 目前的團(tuán)隊(duì)負(fù)責(zé) PayPal 的構(gòu)建、測(cè)試和發(fā)布管道——所有這些都是在 Go 中構(gòu)建的。該公司擁有一個(gè)大型構(gòu)建和測(cè)試農(nóng)場(chǎng),它使用 Go 基礎(chǔ)設(shè)施進(jìn)行完全管理,以支持整個(gè)公司的開(kāi)發(fā)人員的構(gòu)建即服務(wù)(和測(cè)試即服務(wù))。
憑借 PayPal 所需的分布式計(jì)算能力,Go 是刷新系統(tǒng)的正確語(yǔ)言。PayPal 需要并發(fā)和并行的編程,為高性能和高度可移植性而編譯,并為開(kāi)發(fā)人員帶來(lái)模塊化、可組合的開(kāi)源架構(gòu)的好處——Go 已經(jīng)提供了所有這些以及更多幫助 PayPal 對(duì)其系統(tǒng)進(jìn)行現(xiàn)代化改造。
安全性和可支持性是 PayPal 的關(guān)鍵問(wèn)題,該公司的運(yùn)營(yíng)管道越來(lái)越多地由 Go 主導(dǎo),因?yàn)樵撜Z(yǔ)言的簡(jiǎn)潔性和模塊化幫助他們實(shí)現(xiàn)了這些目標(biāo)。PayPal 對(duì) Go 的部署為開(kāi)發(fā)人員提供了一個(gè)創(chuàng)意平臺(tái),使他們能夠?yàn)?PayPal 的全球市場(chǎng)大規(guī)模生產(chǎn)簡(jiǎn)單、高效和可靠的軟件。
隨著 PayPal 繼續(xù)使用 Go 對(duì)其軟件定義網(wǎng)絡(luò) (SDN) 基礎(chǔ)設(shè)施進(jìn)行現(xiàn)代化改造,除了更易于維護(hù)的代碼外,他們還看到了性能優(yōu)勢(shì)。例如,Go 現(xiàn)在為路由器、負(fù)載平衡和越來(lái)越多的生產(chǎn)系統(tǒng)提供動(dòng)力。
作為一家全球性企業(yè),PayPal 需要其開(kāi)發(fā)團(tuán)隊(duì)有效管理兩種規(guī)模:生產(chǎn)規(guī)模,尤其是與許多其他服務(wù)器(如云服務(wù))交互的并發(fā)系統(tǒng);和開(kāi)發(fā)規(guī)模,尤其是由許多程序員協(xié)同開(kāi)發(fā)的大型代碼庫(kù)(如開(kāi)源開(kāi)發(fā))
PayPal 利用 Go 來(lái)解決這些規(guī)模問(wèn)題。該公司的開(kāi)發(fā)人員受益于 Go 將解釋型動(dòng)態(tài)類(lèi)型語(yǔ)言的編程易用性與靜態(tài)類(lèi)型編譯語(yǔ)言的效率和安全性相結(jié)合的能力。隨著 PayPal 對(duì)其系統(tǒng)進(jìn)行現(xiàn)代化改造,對(duì)網(wǎng)絡(luò)和多核計(jì)算的支持至關(guān)重要。Go 不僅提供了這種支持,而且提供的速度很快——在單臺(tái)計(jì)算機(jī)上編譯一個(gè)大型可執(zhí)行文件最多需要幾秒鐘。
PayPal 目前有 100 多名 Go 開(kāi)發(fā)人員,未來(lái)選擇采用 Go 的開(kāi)發(fā)人員將更容易獲得該語(yǔ)言的批準(zhǔn),這要?dú)w功于公司已經(jīng)在生產(chǎn)中的許多成功實(shí)現(xiàn)。
最重要的是,PayPal 開(kāi)發(fā)人員使用 Go 提高了他們的生產(chǎn)力。Go 的并發(fā)機(jī)制使得編寫(xiě)充分利用 PayPal 的多核和聯(lián)網(wǎng)機(jī)器的程序變得很容易。使用 Go 的開(kāi)發(fā)人員還受益于它可以快速編譯為機(jī)器代碼的事實(shí),并且他們的應(yīng)用程序獲得了垃圾收集的便利和運(yùn)行時(shí)反射的強(qiáng)大功能。
今天 PayPal 的第一類(lèi)語(yǔ)言是 Java 和 Node,Go 主要用作基礎(chǔ)設(shè)施語(yǔ)言。雖然 Go 可能永遠(yuǎn)不會(huì)在某些應(yīng)用程序中取代 Node.js,但 Natarajan 正在推動(dòng)讓 Go 成為 PayPal 的第一類(lèi)語(yǔ)言。
通過(guò)他的努力,PayPal 還在評(píng)估遷移到 Google Kubernetes Engine (GKE) 以加快其新產(chǎn)品的上市時(shí)間。GKE 是一個(gè)用于部署容器化應(yīng)用程序的托管、生產(chǎn)就緒環(huán)境,并帶來(lái)了 Google 在開(kāi)發(fā)人員生產(chǎn)力、自動(dòng)化操作和開(kāi)源靈活性方面的最新創(chuàng)新。
對(duì)于 PayPal 而言,部署到 GKE 將使 PayPal 更容易部署、更新和管理其應(yīng)用程序和服務(wù),從而實(shí)現(xiàn)快速開(kāi)發(fā)和迭代。此外,PayPal 會(huì)發(fā)現(xiàn)更容易運(yùn)行機(jī)器學(xué)習(xí)、通用 GPU、高性能計(jì)算和其他受益于 GKE 支持的專(zhuān)用硬件加速器的工作負(fù)載。
對(duì) PayPal 來(lái)說(shuō)最重要的是,Go 開(kāi)發(fā)和 GKE 的結(jié)合使公司能夠輕松擴(kuò)展以滿(mǎn)足需求,因?yàn)?Kubernetes 自動(dòng)擴(kuò)展將使 PayPal 能夠處理用戶(hù)對(duì)服務(wù)不斷增長(zhǎng)的需求——在最重要的時(shí)候保持它們可用,然后在安靜的時(shí)間來(lái)省錢(qián)。
我們可以看到 gorilla/websocket中的examples中有一個(gè)聊天室的demo。
我們進(jìn)入該項(xiàng)目可以看到里面有這樣的一些內(nèi)容
按照官方的運(yùn)行方式來(lái)運(yùn)行這個(gè)項(xiàng)目
在瀏覽器中打開(kāi)8080端口,可以看到該項(xiàng)目可以被成功運(yùn)行了。
就是這樣一個(gè)簡(jiǎn)單的demo。
然后我們?nèi)タ匆幌滤木唧w實(shí)現(xiàn)。
在這個(gè)項(xiàng)目中首先定義了一個(gè)hub的結(jié)構(gòu)體:
這個(gè)結(jié)構(gòu)體中,clients代表所有已經(jīng)注冊(cè)的用戶(hù),broadcast管道會(huì)存儲(chǔ)客戶(hù)端發(fā)送來(lái)的信息。 register是一個(gè)*Client類(lèi)型的管道,用于存儲(chǔ)新注冊(cè)的用戶(hù),unregister管道反之。
我們打開(kāi)main.go,main函數(shù)的源碼為:
在這里首先會(huì)新開(kāi)一個(gè)goroutine,去跑hub的run方法,run方法中一個(gè)死循環(huán),不停地去輪詢(xún)hub中的內(nèi)容
如果取到了新用戶(hù),就加入到clients中,如果取到了信息,就循環(huán)所有的client,將信息寫(xiě)到client.send中。
我們看到在請(qǐng)求路徑為根的時(shí)候,它會(huì)請(qǐng)求一個(gè)函數(shù),而這個(gè)函數(shù)就是將home.html發(fā)送到客戶(hù)端。
而在請(qǐng)求路徑為“/ws”的時(shí)候,他會(huì)執(zhí)行一個(gè)serveWS的函數(shù)。
每當(dāng)一個(gè)新的用戶(hù)進(jìn)來(lái)之后,首先將連接升級(jí)為長(zhǎng)連接,然后將當(dāng)前的client寫(xiě)到register中,由hub.run函數(shù)去做處理。然后開(kāi)啟兩個(gè)goroutine,一個(gè)去讀client中發(fā)送來(lái)的數(shù)據(jù),一個(gè)將數(shù)據(jù)寫(xiě)入到所有的client中,去發(fā)送給用戶(hù)。
這就是整個(gè)聊天室的實(shí)現(xiàn)原理。