限流算法目前程序開發(fā)過程常用的限流算法有兩個:漏桶算法和令牌桶算法。
創(chuàng)新互聯(lián)是一家專注于成都網(wǎng)站建設(shè)、成都網(wǎng)站設(shè)計與策劃設(shè)計,睢寧縣網(wǎng)站建設(shè)哪家好?創(chuàng)新互聯(lián)做網(wǎng)站,專注于網(wǎng)站建設(shè)十載,網(wǎng)設(shè)計領(lǐng)域的專業(yè)建站公司;建站業(yè)務(wù)涵蓋:睢寧縣等地區(qū)。睢寧縣做網(wǎng)站價格咨詢:13518219792
漏桶算法
漏桶算法的原理比較簡單,請求進(jìn)入到漏桶中,漏桶以一定的速率漏水。當(dāng)請求過多時,水直接溢出??梢钥闯觯┩八惴梢詮?qiáng)制限制數(shù)據(jù)的傳輸速度。如圖所示,把請求比作是水滴,水先滴到桶里,通過漏洞并以限定的速度出水,當(dāng)水來得過猛而出水不夠快時就會導(dǎo)致水直接溢出,即拒絕服務(wù)。
圖片來自網(wǎng)絡(luò)
漏桶的出水速度是恒定的,那么意味著如果瞬時大流量的話,將有大部分請求被丟棄掉(也就是所謂的溢出)。
令牌桶算法
令牌桶算法的原理是系統(tǒng)以一定速率向桶中放入令牌,如果有請求時,請求會從桶中取出令牌,如果能取到令牌,則可以繼續(xù)完成請求,否則等待或者拒絕服務(wù)。這種算法可以應(yīng)對突發(fā)程度的請求,因此比漏桶算法好。
圖片來自網(wǎng)絡(luò)
漏桶算法和令牌桶算法的選擇
兩者的主要區(qū)別漏桶算法能夠強(qiáng)行限制處理數(shù)據(jù)的速率,不論系統(tǒng)是否空閑。而令牌桶算法能夠在限制數(shù)據(jù)的平均處理速率的同時還允許某種程度的突發(fā)流量。如何理解上面的含義呢?漏桶算法,比如系統(tǒng)吞吐量是 120/s,業(yè)務(wù)請求 130/s,使用漏斗限流 100/s,起到限流的作用,多余的請求將產(chǎn)生等待或者丟棄。對于令牌桶算法,每秒產(chǎn)生 100 個令牌,系統(tǒng)容量 200 個令牌。正常情況下,業(yè)務(wù)請求 100/s 時,請求能被正常被處理。當(dāng)有突發(fā)流量過來比如 200 個請求時,因為系統(tǒng)容量有 200 個令牌可以同一時刻處理掉這 200 個請求。如果是漏桶算法,則只能處理 100 個請求,其他的請求等待或者被丟棄。
php 高并發(fā)解決思路解決方案,如何應(yīng)對網(wǎng)站大流量高并發(fā)情況。本文為大家總結(jié)了常用的處理方式,但不是細(xì)節(jié),后續(xù)一系列細(xì)節(jié)教程給出。希望大家喜歡。
一 高并發(fā)的概念
在互聯(lián)網(wǎng)時代,并發(fā),高并發(fā)通常是指并發(fā)訪問。也就是在某個時間點(diǎn),有多少個訪問同時到來。
二 高并發(fā)架構(gòu)相關(guān)概念
1、QPS (每秒查詢率) : 每秒鐘請求或者查詢的數(shù)量,在互聯(lián)網(wǎng)領(lǐng)域,指每秒響應(yīng)請求數(shù)(指 HTTP 請求)
2、PV(Page View):綜合瀏覽量,即頁面瀏覽量或者點(diǎn)擊量,一個訪客在 24 小時內(nèi)訪問的頁面數(shù)量
--注:同一個人瀏覽你的網(wǎng)站的同一頁面,只記做一次 pv
3、吞吐量(fetches/sec) :單位時間內(nèi)處理的請求數(shù)量 (通常由 QPS 和并發(fā)數(shù)決定)
4、響應(yīng)時間:從請求發(fā)出到收到響應(yīng)花費(fèi)的時間
5、獨(dú)立訪客(UV):一定時間范圍內(nèi),相同訪客多次訪問網(wǎng)站,只計算為 1 個獨(dú)立訪客
6、帶寬:計算帶寬需關(guān)注兩個指標(biāo),峰值流量和頁面的平均大小
7、日網(wǎng)站帶寬: PV/統(tǒng)計時間(換算到秒) * 平均頁面大?。╧b)* 8
三 需要注意點(diǎn):
1、QPS 不等于并發(fā)連接數(shù)(QPS 是每秒 HTTP 請求數(shù)量,并發(fā)連接數(shù)是系統(tǒng)同時處理的請求數(shù)量)
2、峰值每秒請求數(shù)(QPS)= (總 PV 數(shù)*80%)/ (六小時秒數(shù)*20%)【代表 80%的訪問量都集中在 20%的時間內(nèi)】
3、壓力測試: 測試能承受的最大并發(fā)數(shù) 以及測試最大承受的 QPS 值
4、常用的性能測試工具【ab,wrk,httpload,Web Bench,Siege,Apache JMeter】
四 優(yōu)化
1、當(dāng) QPS 小于 50 時
優(yōu)化方案:為一般小型網(wǎng)站,不用考慮優(yōu)化
2、當(dāng) QPS 達(dá)到 100 時,遇到數(shù)據(jù)查詢瓶頸
優(yōu)化方案: 數(shù)據(jù)庫緩存層,數(shù)據(jù)庫的負(fù)載均衡
3、當(dāng) QPS 達(dá)到 800 時, 遇到帶寬瓶頸
優(yōu)化方案:CDN 加速,負(fù)載均衡
4、當(dāng) QPS 達(dá)到 1000 時
優(yōu)化方案: 做 html 靜態(tài)緩存
5、當(dāng) QPS 達(dá)到 2000 時
優(yōu)化方案: 做業(yè)務(wù)分離,分布式存儲
五、高并發(fā)解決方案案例:
1、流量優(yōu)化
防盜鏈處理(去除惡意請求)
2、前端優(yōu)化
(1) 減少 HTTP 請求[將 css,js 等合并]
(2) 添加異步請求(先不將所有數(shù)據(jù)都展示給用戶,用戶觸發(fā)某個事件,才會異步請求數(shù)據(jù))
(3) 啟用瀏覽器緩存和文件壓縮
(4) CDN 加速
(5) 建立獨(dú)立的圖片服務(wù)器(減少 I/O)
3、服務(wù)端優(yōu)化
(1) 頁面靜態(tài)化
(2) 并發(fā)處理
(3) 隊列處理
4、數(shù)據(jù)庫優(yōu)化
(1) 數(shù)據(jù)庫緩存
(2) 分庫分表,分區(qū)
(3) 讀寫分離
(4) 負(fù)載均衡
5、web 服務(wù)器優(yōu)化
(1) nginx 反向代理實(shí)現(xiàn)負(fù)載均衡
(2) lvs 實(shí)現(xiàn)負(fù)載均衡
并發(fā)指的是:相同的時間內(nèi),能處理更多的請求。
所以,解決方案就是優(yōu)化請求的響應(yīng)時間。
一般來說,最慢的在數(shù)據(jù)庫處理。首先優(yōu)化數(shù)據(jù)庫sql、其次優(yōu)化數(shù)據(jù)庫結(jié)構(gòu)設(shè)計、再次優(yōu)化程序代碼邏輯、最后優(yōu)化業(yè)務(wù)邏輯。
這些搞定之后,就需要其他東西配合。比如nosql,將數(shù)據(jù)庫熱查詢放入內(nèi)存緩存,將數(shù)據(jù)庫并發(fā)寫入用隊列。
最后就是硬件了,數(shù)據(jù)庫主從差不多了。