一、消息隊(duì)列概述

目前成都創(chuàng)新互聯(lián)公司已為1000多家的企業(yè)提供了網(wǎng)站建設(shè)、域名、虛擬主機(jī)、網(wǎng)站運(yùn)營(yíng)、企業(yè)網(wǎng)站設(shè)計(jì)、土默特右旗網(wǎng)站維護(hù)等服務(wù)，公司將堅(jiān)持客戶導(dǎo)向、應(yīng)用為本的策略，正道將秉承"和諧、參與、激情"的文化，與客戶和合作伙伴齊心協(xié)力一起成長(zhǎng)，共同發(fā)展。

消息隊(duì)列中間件是分布式系統(tǒng)中重要的組件，主要解決應(yīng)用解耦，異步消息，流量削鋒等問(wèn)題，實(shí)現(xiàn)高性能，高可用，可伸縮和最終一致性架構(gòu)。目前使用較多的消息隊(duì)列有ActiveMQ，RabbitMQ，ZeroMQ，Kafka，MetaMQ，RocketMQ。

二、消息隊(duì)列應(yīng)用場(chǎng)景

以下介紹消息隊(duì)列在實(shí)際應(yīng)用中常用的使用場(chǎng)景。異步處理，應(yīng)用解耦，流量削鋒和消息通訊四個(gè)場(chǎng)景。

2.1異步處理

場(chǎng)景說(shuō)明：用戶注冊(cè)后，需要發(fā)注冊(cè)郵件和注冊(cè)短信。傳統(tǒng)的做法有兩種 1.串行的方式;2.并行方式

a、串行方式：將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后，發(fā)送注冊(cè)郵件，再發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)全部完成后，返回給客戶端。

b、并行方式：將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后，發(fā)送注冊(cè)郵件的同時(shí)，發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)完成后，返回給客戶端。與串行的差別是，并行的方式可以提高處理的時(shí)間

假設(shè)三個(gè)業(yè)務(wù)節(jié)點(diǎn)每個(gè)使用50毫秒鐘，不考慮網(wǎng)絡(luò)等其他開(kāi)銷，則串行方式的時(shí)間是150毫秒，并行的時(shí)間可能是100毫秒。

因?yàn)镃PU在單位時(shí)間內(nèi)處理的請(qǐng)求數(shù)是一定的，假設(shè)CPU1秒內(nèi)吞吐量是100次。則串行方式1秒內(nèi)CPU可處理的請(qǐng)求量是7次(1000/150)。并行方式處理的請(qǐng)求量是10次(1000/100)

小結(jié)：如以上案例描述，傳統(tǒng)的方式系統(tǒng)的性能(并發(fā)量，吞吐量，響應(yīng)時(shí)間)會(huì)有瓶頸。如何解決這個(gè)問(wèn)題呢?

引入消息隊(duì)列，將不是必須的業(yè)務(wù)邏輯，異步處理。改造后的架構(gòu)如下：

按照以上約定，用戶的響應(yīng)時(shí)間相當(dāng)于是注冊(cè)信息寫入數(shù)據(jù)庫(kù)的時(shí)間，也就是50毫秒。注冊(cè)郵件，發(fā)送短信寫入消息隊(duì)列后，直接返回，因此寫入消息隊(duì)列的速度很快，基本可以忽略，因此用戶的響應(yīng)時(shí)間可能是50毫秒。因此架構(gòu)改變后，系統(tǒng)的吞吐量提高到每秒20 QPS。比串行提高了3倍，比并行提高了兩倍。

2.2應(yīng)用解耦

場(chǎng)景說(shuō)明：用戶下單后，訂單系統(tǒng)需要通知庫(kù)存系統(tǒng)。傳統(tǒng)的做法是，訂單系統(tǒng)調(diào)用庫(kù)存系統(tǒng)的接口。如下圖：

傳統(tǒng)模式的缺點(diǎn)：假如庫(kù)存系統(tǒng)無(wú)法訪問(wèn)，則訂單減庫(kù)存將失敗，從而導(dǎo)致訂單失敗，訂單系統(tǒng)與庫(kù)存系統(tǒng)耦合

如何解決以上問(wèn)題呢?引入應(yīng)用消息隊(duì)列后的方案，如下圖：

訂單系統(tǒng)：用戶下單后，訂單系統(tǒng)完成持久化處理，將消息寫入消息隊(duì)列，返回用戶訂單下單成功

庫(kù)存系統(tǒng)：訂閱下單的消息，采用拉/推的方式，獲取下單信息，庫(kù)存系統(tǒng)根據(jù)下單信息，進(jìn)行庫(kù)存操作

假如：在下單時(shí)庫(kù)存系統(tǒng)不能正常使用。也不影響正常下單，因?yàn)橄聠魏?，訂單系統(tǒng)寫入消息隊(duì)列就不再關(guān)心其他的后續(xù)操作了。實(shí)現(xiàn)訂單系統(tǒng)與庫(kù)存系統(tǒng)的應(yīng)用解耦

2.3流量削峰

流量削鋒也是消息隊(duì)列中的常用場(chǎng)景，一般在秒殺或團(tuán)搶活動(dòng)中使用廣泛。

應(yīng)用場(chǎng)景：秒殺活動(dòng)，一般會(huì)因?yàn)榱髁窟^(guò)大，導(dǎo)致流量暴增，應(yīng)用掛掉。為解決這個(gè)問(wèn)題，一般需要在應(yīng)用前端加入消息隊(duì)列。

a、可以控制活動(dòng)的人數(shù)

b、可以緩解短時(shí)間內(nèi)高流量壓垮應(yīng)用

用戶的請(qǐng)求，服務(wù)器接收后，首先寫入消息隊(duì)列。假如消息隊(duì)列長(zhǎng)度超過(guò)最大數(shù)量，則直接拋棄用戶請(qǐng)求或跳轉(zhuǎn)到錯(cuò)誤頁(yè)面。

秒殺業(yè)務(wù)根據(jù)消息隊(duì)列中的請(qǐng)求信息，再做后續(xù)處理。

2.4日志處理

日志處理是指將消息隊(duì)列用在日志處理中，比如Kafka的應(yīng)用，解決大量日志傳輸?shù)膯?wèn)題。架構(gòu)簡(jiǎn)化如下：

日志采集客戶端，負(fù)責(zé)日志數(shù)據(jù)采集，定時(shí)寫受寫入Kafka隊(duì)列。

Kafka消息隊(duì)列，負(fù)責(zé)日志數(shù)據(jù)的接收，存儲(chǔ)和轉(zhuǎn)發(fā)。

日志處理應(yīng)用：訂閱并消費(fèi)kafka隊(duì)列中的日志數(shù)據(jù)。

2.5消息通訊

消息通訊是指，消息隊(duì)列一般都內(nèi)置了高效的通信機(jī)制，因此也可以用在純的消息通訊。比如實(shí)現(xiàn)點(diǎn)對(duì)點(diǎn)消息隊(duì)列，或者聊天室等。

點(diǎn)對(duì)點(diǎn)通訊：

客戶端A和客戶端B使用同一隊(duì)列，進(jìn)行消息通訊。

聊天室通訊：

客戶端A，客戶端B，客戶端N訂閱同一主題，進(jìn)行消息發(fā)布和接收。實(shí)現(xiàn)類似聊天室效果。

以上實(shí)際是消息隊(duì)列的兩種消息模式，點(diǎn)對(duì)點(diǎn)或發(fā)布訂閱模式。模型為示意圖，供參考。

三、消息中間件示例

3.1電商系統(tǒng)

消息隊(duì)列采用高可用，可持久化的消息中間件。比如Active MQ，Rabbit MQ，Rocket Mq。

應(yīng)用將主干邏輯處理完成后，寫入消息隊(duì)列。消息發(fā)送是否成功可以開(kāi)啟消息的確認(rèn)模式。(消息隊(duì)列返回消息接收成功狀態(tài)后，應(yīng)用再返回，這樣保障消息的完整性)

擴(kuò)展流程(發(fā)短信，配送處理)訂閱隊(duì)列消息。采用推或拉的方式獲取消息并處理。

消息將應(yīng)用解耦的同時(shí)，帶來(lái)了數(shù)據(jù)一致性問(wèn)題，可以采用最終一致性方式解決。比如主數(shù)據(jù)寫入數(shù)據(jù)庫(kù)，擴(kuò)展應(yīng)用根據(jù)消息隊(duì)列，并結(jié)合數(shù)據(jù)庫(kù)方式實(shí)現(xiàn)基于消息隊(duì)列的后續(xù)處理。

3.2日志收集系統(tǒng)

分為Zookeeper注冊(cè)中心，日志收集客戶端，Kafka集群和Storm集群(OtherApp)四部分組成。

Zookeeper注冊(cè)中心，提出負(fù)載均衡和地址查×××

日志收集客戶端，用于采集應(yīng)用系統(tǒng)的日志，并將數(shù)據(jù)推送到kafka隊(duì)列

Kafka集群：接收，路由，存儲(chǔ)，轉(zhuǎn)發(fā)等消息處理

Storm集群：與OtherApp處于同一級(jí)別，采用拉的方式消費(fèi)隊(duì)列中的數(shù)據(jù)

MQ選型對(duì)比文檔

綜合選擇RabbitMq

Kafka是linkedin開(kāi)源的MQ系統(tǒng)，主要特點(diǎn)是基于Pull的模式來(lái)處理消息消費(fèi)，追求高吞吐量，一開(kāi)始的目的就是用于日志收集和傳輸，0.8開(kāi)始支持復(fù)制，不支持事務(wù)，適合產(chǎn)生大量數(shù)據(jù)的互聯(lián)網(wǎng)服務(wù)的數(shù)據(jù)收集業(yè)務(wù)。

RabbitMQ是使用Erlang語(yǔ)言開(kāi)發(fā)的開(kāi)源消息隊(duì)列系統(tǒng)，基于AMQP協(xié)議來(lái)實(shí)現(xiàn)。AMQP的主要特征是面向消息、隊(duì)列、路由(包括點(diǎn)對(duì)點(diǎn)和發(fā)布/訂閱)、可靠性、安全。AMQP協(xié)議更多用在企業(yè)系統(tǒng)內(nèi)，對(duì)數(shù)據(jù)一致性、穩(wěn)定性和可靠性要求很高的場(chǎng)景，對(duì)性能和吞吐量的要求還在其次。

RocketMQ是阿里開(kāi)源的消息中間件，它是純Java開(kāi)發(fā)，具有高吞吐量、高可用性、適合大規(guī)模分布式系統(tǒng)應(yīng)用的特點(diǎn)。RocketMQ思路起源于Kafka，但并不是Kafka的一個(gè)Copy，它對(duì)消息的可靠傳輸及事務(wù)性做了優(yōu)化，目前在阿里集團(tuán)被廣泛應(yīng)用于交易、充值、流計(jì)算、消息推送、日志流式處理、binglog分發(fā)等場(chǎng)景。

ZeroMQ只是一個(gè)網(wǎng)絡(luò)編程的Pattern庫(kù)，將常見(jiàn)的網(wǎng)絡(luò)請(qǐng)求形式(分組管理，鏈接管理，發(fā)布訂閱等)模式化、組件化，簡(jiǎn)而言之socket之上、MQ之下。對(duì)于MQ來(lái)說(shuō)，網(wǎng)絡(luò)傳輸只是它的一部分，更多需要處理的是消息存儲(chǔ)、路由、Broker服務(wù)發(fā)現(xiàn)和查找、事務(wù)、消費(fèi)模式(ack、重投等)、集群服務(wù)等。

RabbitMQ/Kafka/ZeroMQ 都能提供消息隊(duì)列服務(wù)，但有很大的區(qū)別。

在面向服務(wù)架構(gòu)中通過(guò)消息代理(比如 RabbitMQ / Kafka等)，使用生產(chǎn)者-消費(fèi)者模式在服務(wù)間進(jìn)行異步通信是一種比較好的思想。

因?yàn)榉?wù)間依賴由強(qiáng)耦合變成了松耦合。消息代理都會(huì)提供持久化機(jī)制，在消費(fèi)者負(fù)載高或者掉線的情況下會(huì)把消息保存起來(lái)，不會(huì)丟失。就是說(shuō)生產(chǎn)者和消費(fèi)者不需要同時(shí)在線，這是傳統(tǒng)的請(qǐng)求-應(yīng)答模式比較難做到的，需要一個(gè)中間件來(lái)專門做這件事。其次消息代理可以根據(jù)消息本身做簡(jiǎn)單的路由策略，消費(fèi)者可以根據(jù)這個(gè)來(lái)做負(fù)載均衡，業(yè)務(wù)分離等。

缺點(diǎn)也有，就是需要額外搭建消息代理集群(但優(yōu)點(diǎn)是大于缺點(diǎn)的 ) 。

ZeroMQ 和 RabbitMQ/Kafka 不同，它只是一個(gè)異步消息庫(kù)，在套接字的基礎(chǔ)上提供了類似于消息代理的機(jī)制。使用 ZeroMQ 的話，需要對(duì)自己的業(yè)務(wù)代碼進(jìn)行改造，不利于服務(wù)解耦。

RabbitMQ 支持 AMQP(二進(jìn)制)，STOMP(文本)，MQTT(二進(jìn)制)，HTTP(里面包裝其他協(xié)議)等協(xié)議。Kafka 使用自己的協(xié)議。

Kafka 自身服務(wù)和消費(fèi)者都需要依賴 Zookeeper。

RabbitMQ 在有大量消息堆積的情況下性能會(huì)下降，Kafka不會(huì)。畢竟AMQP設(shè)計(jì)的初衷不是用來(lái)持久化海量消息的，而Kafka一開(kāi)始是用來(lái)處理海量日志的。

總的來(lái)說(shuō)，RabbitMQ 和 Kafka 都是十分優(yōu)秀的分布式的消息代理服務(wù)，只要合理部署，不作，基本上可以滿足生產(chǎn)條件下的任何需求。

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持創(chuàng)新互聯(lián)。