RocketMQ保姆級教程

RocketMQ是阿里巴巴旗下一款開源的MQ框架,經歷過雙十一考驗、Java編程語言實現,有非常好完整生態系統。RocketMQ作為一款純java、分布式、隊列模型的開源消息中間件,支持事務消息、順序消息、批量消息、定時消息、消息回溯等,總之就是葛大爺的一句話

圖片

整篇文章可以大致分為三個部分,第一部分屬于一些核心概念和工作流程的講解;第二部分就是純手動搭建了一套環境;第三部分是基于環境進行測試和集成到SpringBoot,因為整個過程講的比較細,所以我稱之為“保姆級教程”。

好了,廢話補多少,直接進入主題。

核心概念

  • NameServer:可以理解為是一個注冊中心,主要是用來保存topic路由信息,管理Broker。在NameServer的集群中,NameServer與NameServer之間是沒有任何通信的。

  • Broker:核心的一個角色,主要是用來保存topic的信息,接受生產者產生的消息,持久化消息。在一個Broker集群中,相同的BrokerName可以稱為一個Broker組,一個Broker組中,BrokerId為0的為主節點,其它的為從節點。BrokerName和BrokerId是可以在Broker啟動時通過配置文件配置的。每個Broker組只存放一部分消息。

  • 生產者:生產消息的一方就是生產者

  • 生產者組:一個生產者組可以有很多生產者,只需要在創建生產者的時候指定生產者組,那么這個生產者就在那個生產者組

  • 消費者:用來消費生產者消息的一方

  • 消費者組:跟生產者一樣,每個消費者都有所在的消費者組,一個消費者組可以有很多的消費者,不同的消費者組消費消息是互不影響的。

  • topic(主題):可以理解為一個消息的集合的名字,生產者在發送消息的時候需要指定發到哪個topic下,消費者消費消息的時候也需要知道自己消費的是哪些topic底下的消息。

  • Tag(子主題):比topic低一級,可以用來區分同一topic下的不同業務類型的消息,發送消息的時候也需要指定。

這里有組的概念是因為可以用來做到不同的生產者組或者消費者組有不同的配置,這樣就可以使得生產者或者消費者更加靈活。

工作流程

說完核心概念,再來說一下核心的工作流程,這里我先畫了一張圖。

圖片

通過這張圖就可以很清楚的知道,RocketMQ大致的工作流程:

  • Broker啟動的時候,會往每臺NameServer(因為NameServer之間不通信,所以每臺都得注冊)注冊自己的信息,這些信息包括自己的ip和端口號,自己這臺Broker有哪些topic等信息。

  • Producer在啟動之后會跟會NameServer建立連接,定期從NameServer中獲取Broker的信息,當發送消息的時候,會根據消息需要發送到哪個topic去找對應的Broker地址,如果有的話,就向這臺Broker發送請求;沒有找到的話,就看根據是否允許自動創建topic來決定是否發送消息。

  • Broker在接收到Producer的消息之后,會將消息存起來,持久化,如果有從節點的話,也會主動同步給從節點,實現數據的備份

  • Consumer啟動之后也會跟會NameServer建立連接,定期從NameServer中獲取Broker和對應topic的信息,然后根據自己需要訂閱的topic信息找到對應的Broker的地址,然后跟Broker建立連接,獲取消息,進行消費

就跟上面的圖一樣,整體的工作流程還是比較簡單的,這里我簡化了很多概念,主要是為了好理解。

環境搭建

終于講完了一些簡單的概念,接下來就來搭建一套RocketMQ的環境。

通過上面分析,我們知道,在RocketMQ中有NameServer、Broker、生產者、消費者四種角色。而生產者和消費者實際上就是業務系統,所以這里不需要搭建,真正要搭建的就是NameServer和Broker,但是為了方便RocketMQ數據的可視化,這里我多搭建一套可視化的服務。

搭建過程比較簡單,按照步驟一步一步來就可以完成,如果提示一些命令不存在,那么直接通過yum安裝這些命令就行。

一、準備

需要準備一個linux服務器,需要先安裝好JDK

關閉防火墻

systemctl?stop?firewalld
systemctl?disable?firewalld
下載并解壓RocketMQ
1、創建一個目錄,用來存放rocketmq相關的東西
mkdir?/usr/rocketmq
cd?/usr/rocketmq
2、下載并解壓rocketmq

下載

wget?https://archive.apache.org/dist/rocketmq/4.7.1/rocketmq-all-4.7.1-bin-release.zip

解壓

unzip?rocketmq-all-4.7.1-bin-release.zip

看到這一個文件夾就完成了

圖片

然后進入rocketmq-all-4.7.1-bin-release文件夾

cd?rocketmq-all-4.7.1-bin-release

RocketMQ的東西都在這了

圖片

二、搭建NameServer

修改jvm參數

在啟動NameServer之前,強烈建議修改一下啟動時的jvm參數,因為默認的參數都比較大,為了避免內存不夠,建議修改小,當然,如果你的內存足夠大,可以忽略。

vi?bin/runserver.sh

修改畫圈的這一行

圖片

這里你可以直接修改成跟我一樣的

-server -Xms512m -Xmx512m -Xmn256m -XX:MetaspaceSize=32m -XX:MaxMetaspaceSize=50m
啟動NameServer

修改完之后,執行如下命令就可以啟動NameServer了

nohup?sh?bin/mqnamesrv?&

查看NameServer日志

tail?-f?~/logs/rocketmqlogs/namesrv.log

如果看到如下的日志,就說明啟動成功了

圖片

NameServer日志

三、搭建Broker

這里啟動單機版的Broker

修改jvm參數

跟啟動NameServer一樣,也建議去修改jvm參數

vi?bin/runbroker.sh

將畫圈的地方設置小點,當然也別太小啊

圖片

當然你還是可以跟我設置的一樣

-server?-Xms1g?-Xmx1g?-Xmn512m
修改Broker配置文件broker.conf

這里需要改一下Broker配置文件,需要指定NameServer的地址,因為需要Broker需要往NameServer注冊

vi?conf/broker.conf

Broker配置文件

圖片

Broker配置文件

這里就能看出Broker的配置了,什么Broker集群的名稱啊,Broker的名稱啊,Broker的id啊,都跟前面說的對上了。

在文件末尾追加地址

namesrvAddr?=?localhost:9876

因為NameServer跟Broker在同一臺機器,所以是localhost,NameServer端口默認的是9876。

不過這里我還建議再修改一處信息,因為Broker向NameServer進行注冊的時候,帶過去的ip如果不指定就會自動獲取,但是自動獲取的有個坑,就是有可能你的電腦無法訪問到這個自動獲取的ip,所以我建議手動指定你的電腦可以訪問到的服務器ip。

我的虛擬機的ip是192.168.200.143,所以就指定為192.168.200.143,如下

brokerIP1?=?192.168.200.143
brokerIP2?=?192.168.200.143

如果以上都配置的話,最終的配置文件應該如下,紅圈的為新加的

圖片

啟動Broker
nohup?sh?bin/mqbroker?-c?conf/broker.conf?&

-c 參數就是指定配置文件

查看日志

tail?-f?~/logs/rocketmqlogs/broker.log

當看到如下日志就說明啟動成功了

圖片

四、搭建可視化控制臺

其實前面NameServer和Broker搭建完成之后,就可以用來收發消息了,但是為了更加直觀,可以搭一套可視化的服務。

可視化服務其實就是一個jar包,啟動就行了。

jar包可以從這獲取

鏈接:https://pan.baidu.com/s/16s1qwY2qzE2bxR81t5Wm6w
提取碼:s0sd

將jar包上傳到服務器,放到/usr/rocketmq的目錄底下,當然放哪都無所謂,這里只是為了方便,因為rocketmq的東西都在這里

然后進入/usr/rocketmq下,執行如下命名

nohup?java?-jar?-server?-Xms256m?-Xmx256m?-Drocketmq.config.namesrvAddr=localhost:9876?-Dserver.port=8088?rocketmq-console-ng-1.0.1.jar?&

rocketmq.config.namesrvAddr就是用來指定NameServer的地址的

查看日志

tail?-f?~/logs/consolelogs/rocketmq-console.log

當看到如下日志,就說明啟動成功了

圖片

然后在瀏覽器中輸入http://linux服務器的ip:8088/就可以看到控制臺了,如果無法訪問,可以看看防火墻有沒有關閉

圖片

右上角可以把語言切換成中文

圖片

Broker集群信息

圖片

topic信息

通過控制臺可以查看生產者、消費者、Broker集群等信息,非常直觀。

功能很多,這里就不一一介紹了。

測試

環境搭好之后,就可以進行測試了。

引入依賴
<dependency><groupId>org.apache.rocketmq</groupId><artifactId>rocketmq-client</artifactId><version>4.7.1</version>
</dependency>
生產者發送消息
public?class?Producer?{public?static?void?main(String[]?args)?throws?Exception?{//創建一個生產者,指定生產者組為sanyouProducerDefaultMQProducer?producer?=?new?DefaultMQProducer("sanyouProducer");//?指定NameServer的地址producer.setNamesrvAddr("192.168.200.143:9876");//?第一次發送可能會超時,我設置的比較大producer.setSendMsgTimeout(60000);//?啟動生產者producer.start();//?創建一條消息//?topic為?sanyouTopic//?消息內容為?三友的java日記//?tags?為?TagAMessage?msg?=?new?Message("sanyouTopic",?"TagA",?"三友的java日記?".getBytes(RemotingHelper.DEFAULT_CHARSET));//?發送消息并得到消息的發送結果,然后打印SendResult?sendResult?=?producer.send(msg);System.out.printf("%s%n",?sendResult);//?關閉生產者producer.shutdown();}}
  • 構建一個消息生產者DefaultMQProducer實例,然后指定生產者組為sanyouProducer;

  • 指定NameServer的地址:服務器的ip:9876,因為需要從NameServer拉取Broker的信息

  • producer.start() 啟動生產者

  • 構建一個內容為三友的java日記的消息,然后指定這個消息往sanyouTopic這個topic發送

  • producer.send(msg):發送消息,打印結果

  • 關閉生產者

運行結果如下

SendResult?[sendStatus=SEND_OK,?msgId=C0A81FAF54F818B4AAC2475FD2010000,?offsetMsgId=C0A8C88F00002A9F000000000009AE55,?messageQueue=MessageQueue?[topic=sanyouTopic,?brokerName=broker-a,?queueId=0],?queueOffset=0]

sendStatus=SEND_OK 說明發送成功了,此時就能后控制臺看到未消費的消息了。

圖片

到控制臺看到消息那塊,然后選定發送的topic,查詢的時間范圍手動再選一下,不選就查不出來(我懷疑這是個bug),然后查詢就能看到了一條消息。

然后點擊一下MESSAGE DETAIL就能夠看到詳情。

圖片

這里就能看到發送消息的詳細信息。

左下角消息的消費的消費,因為我們還沒有消費者訂閱這個topic,所以左下角沒數據。

消費者消費消息
public?class?Consumer?{public?static?void?main(String[]?args)?throws?InterruptedException,?MQClientException?{//?通過push模式消費消息,指定消費者組DefaultMQPushConsumer?consumer?=?new?DefaultMQPushConsumer("sanyouConsumer");//?指定NameServer的地址consumer.setNamesrvAddr("192.168.200.143:9876");//?訂閱這個topic下的所有的消息consumer.subscribe("sanyouTopic",?"*");//?注冊一個消費的監聽器,當有消息的時候,會回調這個監聽器來消費消息consumer.registerMessageListener(new?MessageListenerConcurrently()?{@Overridepublic?ConsumeConcurrentlyStatus?consumeMessage(List<MessageExt>?msgs,ConsumeConcurrentlyContext?context)?{for?(MessageExt?msg?:?msgs)?{System.out.printf("消費消息:%s",?new?String(msg.getBody())?+?"\n");}return?ConsumeConcurrentlyStatus.CONSUME_SUCCESS;}});//?啟動消費者consumer.start();System.out.printf("Consumer?Started.%n");}
}
  • 創建一個消費者實例對象,指定消費者組為sanyouConsumer

  • 指定NameServer的地址:服務器的ip:9876

  • 訂閱 sanyouTopic 這個topic的所有信息

  • consumer.registerMessageListener ,這個很重要,是注冊一個監聽器,這個監聽器是當有消息的時候就會回調這個監聽器,處理消息,所以需要用戶實現這個接口,然后處理消息。

  • 啟動消費者

啟動之后,消費者就會消費剛才生產者發送的消息,于是控制臺就打印出如下信息

Consumer?Started.
消費消息:三友的java日記?

此時再去看控制臺

圖片

發現被sanyouConsumer這個消費者組給消費了。

SpringBoot環境下集成RocketMQ

集成

在實際項目中肯定不會像上面測試那樣用,都是集成SpringBoot的。

1、引入依賴
<dependency><groupId>org.apache.rocketmq</groupId><artifactId>rocketmq-spring-boot-starter</artifactId><version>2.1.1</version>
</dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-test</artifactId><version>2.1.1.RELEASE</version>
</dependency>
2、yml配置
rocketmq:producer:group:?sanyouProducername-server:?192.168.200.143:9876
3、創建消費者

SpringBoot底下只需要實現RocketMQListener接口,然后加上@RocketMQMessageListener注解即可

@Component
@RocketMQMessageListener(consumerGroup?=?"sanyouConsumer",?topic?=?"sanyouTopic")
public?class?SanYouTopicListener?implements?RocketMQListener<String>?{@Overridepublic?void?onMessage(String?msg)?{System.out.println("處理消息:"?+?msg);}}

@RocketMQMessageListener需要指定消費者屬于哪個消費者組,消費哪個topic,NameServer的地址已經通過yml配置文件配置類

4、測試
@SpringBootTest(classes?=?RocketMQApplication.class)
@RunWith(SpringRunner.class)
public?class?RocketMQTest?{@Autowiredprivate?RocketMQTemplate?template;@Testpublic?void?send()?throws?InterruptedException?{template.convertAndSend("sanyouTopic",?"三友的java日記");Thread.sleep(60000);}}

直接注入一個RocketMQTemplate,然后通過RocketMQTemplate發送消息。

運行結果如下:

處理消息:三友的java日記

的確消費到消息了。

原理

其實原理是一樣的,只不過在SpringBoot中給封裝了一層,讓使用起來更加簡單。

1、RocketMQTemplate構造代碼

圖片

所以從這可以看出,最終在構造RocketMQTemplate的時候,傳入了一個DefaultMQProducer,所以可想而知,最終RocketMQTemplate發送消息也是通過DefaultMQProducer發送的。

2、@RocketMQMessageListener 注解處理

圖片

從這可以看出,會為每一個加了@RocketMQMessageListener注解的對象創建一個DefaultMQPushConsumer,所以最終也是通過DefaultMQPushConsumer消費消息的。

至于監聽器,是在這

圖片

遍歷每條消息,然后調用handleMessage,最終會調用實現了RocketMQListener的對象處理消息。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/163151.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/163151.shtml
英文地址,請注明出處:http://en.pswp.cn/news/163151.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

為Oracle鏈接服務器使用分布式事務

1 現象 在SQL Server中創建指向Oracle的鏈接服務器&#xff0c;SQL語句在事務中向鏈接服務器插入數據。返回鏈接服務器無法啟動分布式事務的報錯。 2 解決 在Windows平臺下&#xff0c;SQL Server依賴分布式事務協調器&#xff08;MSDTC&#xff09;來使用分布式事務&#xff0…

關于APP備案的通知以及APP備案的常見問題

前言 眾所周知今年8月份&#xff0c;工信部出臺了《工業和信息化部關于開展移動互聯網應用程序備案工作的通知》&#xff0c;APP開發者的影晌是顯而易見的。開發者需要按照要求提交相關材料進行備案&#xff0c;這無疑增加了開發者的時間和精力成本。雖然備案制度會增加開發者…

深度學習之基于Tensorflow卷積神經網絡鳥類目標識別檢測系統

歡迎大家點贊、收藏、關注、評論啦 &#xff0c;由于篇幅有限&#xff0c;只展示了部分核心代碼。 文章目錄 一項目簡介 二、功能三、系統四. 總結 一項目簡介 基于Tensorflow的卷積神經網絡&#xff08;Convolutional Neural Networks&#xff0c;CNN&#xff09;在鳥類目標識…

MAX/MSP SDK學習06:內存管理

提供兩種內存分配方式&#xff1a;①簡單指針&#xff0c;②句柄&#xff08;二級指針&#xff09;&#xff1b;官方文檔建議使用前者。 // 簡單指針 char *ptr; ptr sysmem_newptr(2000); post("I have a pointer %lx and it is %ld bytes in size",ptr, sysmem_p…

opencv-分水嶺算法分割

原理 任何一副灰度圖像都可以被看成拓撲平面&#xff0c;灰度值高的區域可以被看成是山峰&#xff0c;灰度值低的區域可以被看成是山谷。我們向每一個山谷中灌不同顏色的水。隨著水的位的升高&#xff0c;不同山谷的水就會相遇匯合&#xff0c;為了防止不同山谷的水匯合&#x…

ios(swiftui) 畫中畫

一、環境 要實現畫中畫 ios系統必須是 iOS14 本文開發環境 xcode14.2 二、權限配置 在項目導航器中單擊項目&#xff0c;然后單擊Signing & Capabilities。單擊 Capabilit搜索Background Modes&#xff0c;然后雙擊將其添加為功能。在新添加的Background Modes部分&a…

前端——設計模式

0 設計模式分類 創建型&#xff1a;幫助創建對象&#xff08;工廠模式、單例模式、建造者模式、原型模式&#xff09;結構型&#xff1a;幫助設計代碼結構&#xff08;適配器模式、裝飾者模式、享元模式&#xff09;行為型&#xff1a;幫助組織模塊行為&#xff08;策略模式、…

Pyqt5實現多線程程序

主從架構 Pyqt常常使用**主從架構&#xff08;Master-Workers 架構&#xff09;**來避免界面卡死的情況。 Master-Workers 架構就像它的名字&#xff0c;一個master統領著幾個workers一起干活。其中某個worker倒下了不會導致整體任務失敗。matser不用干活&#xff0c;因此可以…

分布式鎖之基于redis實現分布式鎖(二)

2. 基于redis實現分布式鎖 2.1. 基本實現 借助于redis中的命令setnx(key, value)&#xff0c;key不存在就新增&#xff0c;存在就什么都不做。同時有多個客戶端發送setnx命令&#xff0c;只有一個客戶端可以成功&#xff0c;返回1&#xff08;true&#xff09;&#xff1b;其他…

市場是變化的?這種悖論fpmarkets澳福一秒打破

你是不是始終認為市場是經常變化的&#xff0c;其實這是不對的&#xff0c;這種認識fpmarkets澳福今天一秒打破。 市場經常變化嗎?眾多投資者無需過多思考&#xff0c;就認為答案是肯定的。因為無論是在互聯網的哪個角落&#xff0c;都可以看到這樣的信息。即使我們沒有深入研…

NLP基本知識

NLP基本知識 詞嵌入&詞向量 詞嵌入&#xff08;Word Embedding&#xff09;是一種將單詞或文本轉化為向量表示的技術&#xff0c;它在自然語言處理&#xff08;NLP&#xff09;中廣泛應用。詞嵌入的目標是將文本數據映射到一個低維度的向量空間中&#xff0c;以便計算機可…

Python---函數的嵌套(一個函數里面又調用了另外一個函數)詳解

函數嵌套調用------就是一個函數里面又調用了另外一個函數。 基本語法&#xff1a; # 定義 函數B def funcB():print(這是funcB函數的函數體部分...)# 定義 函數A def funcA():print(- * 80) # 這一行為了更好區分print(這是funcA函數的函數體部分...)# 假設我們在調用funcA…

設計模式-Adapter

定義 適配器設計模式是一種結構型設計模式&#xff0c;用于將一個類的接口變換成客戶端所期待的另一種接口&#xff0c;從而使原本因接口不匹配而無法在一起工作的兩個類能夠在一起工作。 適配器模式包括三種形式&#xff1a;類適配器模式、對象適配器模式、接口適配器模式&a…

Ubuntu18 Opencv3.4.12 viz 3D顯示安裝、編譯、使用、移植

Opencv3.*主模塊默認包括兩個3D庫 calib3d用于相機校準和三維重建 &#xff0c;viz用于三維圖像顯示&#xff0c;其中viz是cmake選配。 參考&#xff1a; https://docs.opencv.org/3.4.12/index.html 下載linux版本的源碼 sources。 查看cmake apt list --installed | grep…

App Cleaner Uninstaller Pro 一鍵清理,徹底卸載Mac應用

隨著科技的不斷發展&#xff0c;Mac電腦已經成為許多用戶工作和娛樂的首選。然而&#xff0c;隨著時間的推移&#xff0c;我們的Mac電腦上可能會堆積大量的無效文件和冗余數據&#xff0c;這不僅占用了寶貴的磁盤空間&#xff0c;還可能影響到系統的運行速度。為了解決這一問題…

基于51單片機zigbee溫室大棚監控系統

**單片機設計介紹&#xff0c;基于51單片機zigbee溫室大棚監控系統 文章目錄 一 概要二、功能設計設計思路 三、 軟件設計原理圖 五、 程序六、 文章目錄 一 概要 基于51單片機和Zigbee技術的溫室大棚監控系統是一種用于監測和控制溫室大棚環境的設備。以下是一個基本的設計介…

STM32 CAN通信自定義數據包多幀連發亂序問題

場景&#xff1a; can標準幀中每一幀只能傳輸8字節&#xff0c;而應用中傳輸一包的內容往往超過8字節&#xff0c;因此需要把一個包拆成多個幀發送&#xff0c;接收端才把收到的多幀重新組裝成一個完整的包 問題描述 在一問一答的兩塊板間通信&#xff0c;多幀連發是能夠按照…

UDP分片和丟包與TCP效果對比

UDP 分片 與 丟包&#xff0c;UDP 真的比 TCP 高效嗎&#xff1f; UDP&#xff08;用戶數據報協議&#xff09;和TCP&#xff08;傳輸控制協議&#xff09;在很多方面都有顯著的區別。總體來說&#xff0c;TCP更適合需要可靠傳輸的應用&#xff0c;例如網頁瀏覽、電子郵件等&a…

信創系列之大數據,分布式數據庫產業鏈跟蹤梳理筆記…

并購優塾 投行界的大叔&#xff0c;大叔界的投行 【產業鏈地圖&#xff0c;版權、內容與免責聲明】1&#xff09;版權&#xff1a;版權所有&#xff0c;違者必究&#xff0c;未經許可不得翻版、摘編、拷貝、復制、傳播。2&#xff09;尊重原創&#xff1a;如有引用未標注來源…

CentOS 7啟動時報“Started Crash recovery kernel arming.....shutdown....”問題處理過程

有臺虛擬機由于CPU負載過高而宕機&#xff0c;宕機重啟后停在“Started Crash recovery kernel arming…shutdown…”階段&#xff0c;如下所示&#xff1a; 重置虛擬機&#xff0c;進入grub菜單&#xff0c;按e編輯啟動選項&#xff0c;在linux16 行末&#xff0c;加上&…