消息隊列常見的 5 個應用場景

消息隊列中間件是分布式系統中重要的組件,主要解決應用耦合,異步消息,流量削鋒等問題,實現高性能、高可用、可伸縮和最終一致性架構。使用較多的消息隊列有ActiveMQ、RabbitMQ、ZeroMQ、Kafka、MetaMQ、RocketMQ。

消息隊列應用場景

以下介紹消息隊列在實際應用中常用的使用場景:異步處理,應用解耦,流量削鋒和消息通訊四個場景。

1、異步處理

場景說明:用戶注冊后,需要發注冊郵件和注冊短信。傳統的做法有兩種:串行的方式和并行方式。

串行方式:將注冊信息寫入數據庫成功后,發送注冊郵件,再發送注冊短信。以上三個任務全部完成后,返回給客戶。

并行方式:將注冊信息寫入數據庫成功后,發送注冊郵件的同時,發送注冊短信。以上三個任務完成后,返回給客戶端。與串行的差別是,并行的方式可以提高處理的時間。

假設三個業務節點每個使用50毫秒鐘,不考慮網絡等其他開銷,則串行方式的時間是150毫秒,并行的時間可能是100毫秒。

因為CPU在單位時間內處理的請求數是一定的,假設CPU1秒內吞吐量是100次。則串行方式1秒內CPU可處理的請求量是7次(1000/150)。并行方式處理的請求量是10次(1000/100)。

小結:如以上案例描述,傳統的方式系統的性能(并發量,吞吐量,響應時間)會有瓶頸。如何解決這個問題呢?

引入消息隊列,將不是必須的業務邏輯,異步處理。改造后的架構如下:

按照以上約定,用戶的響應時間相當于是注冊信息寫入數據庫的時間,也就是50毫秒。注冊郵件,發送短信寫入消息隊列后,直接返回,因此寫入消息隊列的速度很快,基本可以忽略,因此用戶的響應時間可能是50毫秒。因此架構改變后,系統的吞吐量提高到每秒20QPS。比串行提高了3倍,比并行提高了兩倍!

2、應用解耦

場景說明:用戶下單后,訂單系統需要通知庫存系統。傳統的做法是,訂單系統調用庫存系統的接口。如下圖:

傳統模式的缺點

假如庫存系統無法訪問,則訂單減庫存將失敗,從而導致訂單失敗,訂單系統與庫存系統耦合。

如何解決以上問題呢?引入應用消息隊列后的方案,如下圖:

訂單系統:用戶下單后,訂單系統完成持久化處理,將消息寫入消息隊列,返回用戶訂單下單成功

庫存系統:訂閱下單的消息,采用拉/推的方式,獲取下單信息,庫存系統根據下單信息,進行庫存操作

假如:在下單時庫存系統不能正常使用。也不影響正常下單,因為下單后,訂單系統寫入消息隊列就不再關心其他的后續操作了。實現訂單系統與庫存系統的應用解耦。

3、流量削鋒

流量削鋒也是消息隊列中的常用場景,一般在秒殺或團搶活動中使用廣泛!

應用場景:秒殺活動,一般會因為流量過大,導致流量暴增,應用掛掉。為解決這個問題,一般需要在應用前端加入消息隊列。

可以控制活動的人數,可以緩解短時間內高流量壓垮應用。

用戶的請求,服務器接收后,首先寫入消息隊列。假如消息隊列長度超過最大數量,則直接拋棄用戶請求或跳轉到錯誤頁面。

秒殺業務根據消息隊列中的請求信息,再做后續處理。

4、日志處理

日志處理是指將消息隊列用在日志處理中,比如Kafka的應用,解決大量日志傳輸的問題。架構簡化如下:

日志采集客戶端,負責日志數據采集,定時寫受寫入Kafka隊列;Kafka消息隊列,負責日志數據的接收,存儲和轉發;日志處理應用:訂閱并消費kafka隊列中的日志數據。

以下是新浪kafka日志處理應用案例:

Kafka:接收用戶日志的消息隊列;

Logstash:做日志解析,統一成JSON輸出給Elasticsearch;

Elasticsearch:實時日志分析服務的核心技術,一個schemaless,實時的數據存儲服務,通過index組織數據,兼具強大的搜索和統計功能;

Kibana:基于Elasticsearch的數據可視化組件,超強的數據可視化能力是眾多公司選擇ELK stack的重要原因。

5、消息通訊

消息通訊是指,消息隊列一般都內置了高效的通信機制,因此也可以用在純的消息通訊。比如實現點對點消息隊列,或者聊天室等。

點對點通訊

客戶端A和客戶端B使用同一隊列,進行消息通訊。

聊天室通訊

客戶端A,客戶端B,客戶端N訂閱同一主題,進行消息發布和接收。實現類似聊天室效果。

以上實際是消息隊列的兩種消息模式,點對點或發布訂閱模式。模型為示意圖,供參考。

除了這些,針對當前互聯網公司的技術需求以及結合主流技術,我自己整理了一套系統的架構技術體系,當你技術過硬的時候,能夠解決技術問題才會服眾。不少公司都很重視高并發高可用的技術,特別是一線互聯網公司,分布式、JVM、spring源碼分析、微服務等知識點已是面試的必考題,這些東西可能你們平時在工作中接觸過,但是缺少的全面系統的學習,加入后端開發群:943918498,或是關注微信公眾號:Java資訊庫,回復“架構”,免費領取架構資料。

消息中間件示例

1、電商系統

消息隊列采用高可用,可持久化的消息中間件,比如Active MQ,Rabbit MQ,Rocket Mq。

應用將主干邏輯處理完成后,寫入消息隊列,消息發送是否成功可以開啟消息的確認模式。(消息隊列返回消息接收成功狀態后,應用再返回,這樣保障消息的完整性);

擴展流程(發短信,配送處理)訂閱隊列消息,

采用推或拉的方式獲取消息并處理;

消息將應用解耦的同時,帶來了數據一致性問題,可以采用最終一致性方式解決。比如主數據寫入數據庫,擴展應用根據消息隊列,并結合數據庫方式實現基于消息隊列的后續處理;

2、日志收集系統

分為Zookeeper注冊中心,日志收集客戶端,Kafka集群和Storm集群(OtherApp)四部分組成。

1.Zookeeper注冊中心,提出負載均衡和地址查找服務;

2.日志收集客戶端,用于采集應用系統的日志,并將數據推送到kafka隊列;

3.Kafka集群:接收,路由,存儲,轉發等消息處理;

4.Storm集群:與OtherApp處于同一級別,采用拉的方式消費隊列中的數據;

原文出處:blog.csdn.net/qq_42894896…

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/252958.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/252958.shtml
英文地址,請注明出處:http://en.pswp.cn/news/252958.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Leetcode之二叉樹(前200道)

持續更新... github鏈接:https://github.com/x2mercy/Leetcode_Solution 為什么括號200道呢!因為準備按照200道這樣的周期刷,每200道刷兩遍,第一遍按難度刷,第二遍按類別刷! 先整理binarytree這一類別也是因…

在ARM Linux下使用GPIO模擬SPI時序詳解

Author:楊正 Data:2016.1.1 Mail:yz2012wwgmail.com一、 概述 SPI是英文SerialPeripheral Interface的縮寫,顧名思義就是串行外圍設備接口。SPI是一種高速、全雙工、同步通信總線,標準的SPI有4個引腳&#xff…

git clone時出現 error:inflate:data stream error(incorrect data check)

git clone時出現 error:inflate:data stream error(incorrect data check) fatal:serrious inflate inconsistency fatal:index-pack failed 經了解,此問題是遺留問題,之前是因為公司對gitlab服務器進行數據遷移而引起這種git clone失敗的原因&#xff0…

CentOS 7.5 使用 yum 安裝 Kubernetes 集群(二)

一、安裝方式介紹 1、yum 安裝 目前CentOS官方已經把Kubernetes源放入到自己的默認 extras 倉庫里面,使用 yum 安裝,好處是簡單,壞處也很明顯,需要官方更新 yum 源才能獲得最新版本的軟件,而所有軟件的依賴又不能自己指…

zbb20171108 tomcat 性能優化

原文地址http://www.cnblogs.com/NiceTime/p/6665416.html 1)內存優化(調整配置堆的大小,修改文件:catalina.sh) JAVA_OPTS"-Djava.awt.headlesstrue -Dfile.encodingUTF-8 -server -XX:MinHeapFreeRatio80 -XX:MaxHeapFreeRatio80 -XX:ThreadStack…

深入理解pthread_cond_wait、pthread_cond_signal

man pthread_cond_wait的解釋 LINUX環境下多線程編程肯定會遇到需要條件變量的情況,此時必然要使用pthread_cond_wait()函數。但這個函數的執行過程比較難于理解。 pthread_cond_wait()的工作流程如下(以MAN中的EXAMPLE為例):…

LeetCode算法題-Factorial Trailing Zeroes(Java實現)

這是悅樂書的第183次更新,第185篇原創 01 看題和準備 今天介紹的是LeetCode算法題中Easy級別的第42題(順位題號是172)。給定一個整數n,返回n!中的尾隨零數。例如: 輸入:3 輸出:0 說明…

JavaWeb基礎—JS學習小結

JavaScript是一種運行在瀏覽器中的解釋型的編程語言 推薦:菜鳥教程一、簡介js:javascript是基于對象【哪些基本對象呢】和和事件驅動【哪些主要事件呢】的語言,應用在客戶端(注意與面向對象的區分) js的三大特點:  交…

Asp.Net 設計模式 之 “簡單工廠”模式

主要思想:public static Operation CreateFactory(string ope) { //實例化空父類,讓父類指向子類 Operation op null; switch (ope) { case "": op …

UBuntu國內鏡像地址下載

http://www.oschina.net/p/ubuntu http://releases.ubuntu.com/ http://mirrors.163.com/ubuntu-releases/14.04/

Effective_STL 學習筆記(十九) 了解相等和等價的區別

find 算法和 set 的 insert 成員函數是很多必須判斷兩個值是否相同的函數代表&#xff0c; find 對 “相同” 的定義是相等&#xff0c;基于 operator &#xff0c; set::insert 對 “相同” 的定義是等價&#xff0c;通常基于 operator< 。 操作上來說&#xff0c;相等的概…

判斷是否獲取到手機相機權限

實際運用場景&#xff1a; 上傳圖片&#xff0c;查看相機設備&#xff0c;使用相機 在做這些操作的時候先調用這段話 AVAuthorizationStatus authStatus [AVCaptureDevice authorizationStatusForMediaType:AVMediaTypeVideo]; if (authStatus AVAuthorizationStatusRestric…

事物筆記

什么是事務&#xff1a; 一件事情有N個組成單元&#xff0c;執行之后要么同時成功&#xff0c;要么同時失敗。 MySQL是一條默認的事務&#xff0c;一條sql語句就是一條事務。------------------------------------------------------------MySQL事務&#xff1a; 1、開啟一個事…

Python Socket通信黏包問題分析及解決方法

參考&#xff1a;http://www.cnblogs.com/Eva-J/articles/8244551.html#_label5 1.黏包的表現(以客戶端遠程操作服務端命令為例) 注&#xff1a;只有在TCP協議通信的情況下&#xff0c;才會產生黏包問題 基于TCP協議實現的黏包 #!/usr/bin/env python # -*- coding: utf-8 -*- …

Django 路由

定義&#xff1a; URL配置(URLconf)就像Django 所支撐網站的目錄。它的本質是URL與要為該URL調用的視圖函數之間的映射表&#xff1b;你就是以這種方式告訴Django&#xff0c;對于這個URL調用這段代碼&#xff0c;對于那個URL調用那段代碼。 URL配置格式&#xff1a; urlpatter…

Ubuntu默認不進入圖形界面

修改 /etc/X11/default-display-manager如果值為/usr/sbin/gdm&#xff0c;(ubuntu12.04 為/usr/sbin/lightdm)則進入圖形界面 如果值為false&#xff0c;則進入控制臺&#xff08;命令行方式&#xff09;。如果想從控制臺進入圖形界面&#xff0c;可以在控制臺上輸入命令 sudo…

讀《構建之法》的心得體會

前段時間&#xff0c;我看了《構建之法》的一些內容&#xff0c;有了一些心得體會。 軟件工程所討論的是代碼量巨大、涉及人數眾多、項目需求多變時所要解決的問題。而在校學生根本就沒有這樣的環境。而鄒欣老師的《構建之法》是我讀過的書中最淺顯易懂的軟件工程書。 在緒論中…

2440內存管理

title: 2440內存管理 tags: ARM date: 2018-10-17 19:08:49 --- 2440內存管理 特性 大/小端&#xff08;通過軟件選擇&#xff09;地址空間&#xff1a;每個 Bank 有 128M 字節(總共 1G/8 個 Bank)除了 BANK0&#xff08;16/32 位&#xff09;之外【引導ROM&#xff0c;其總線寬…

C#設計模式之十二代理模式(Proxy Pattern)【結構型】

一、引言 今天我們要講【結構型】設計模式的第七個模式&#xff0c;也是“結構型”設計模式中的最后一個模式&#xff0c;該模式是【代理模式】&#xff0c;英文名稱是&#xff1a;Proxy Pattern。還是老套路&#xff0c;先從名字上來看看。“代理”可以理解為“代替”&#…

IPv6檢測

1&#xff09;判斷服務器是否支持IPv6 &#xff1a; http://ipv6-test.com/validate.php 2&#xff09;檢測當前設備打開網站的連接方式是IPv4還是IPv6&#xff1a; http://ipv6.sjtu.edu.cn/ 轉載于:https://www.cnblogs.com/superbobo/p/6687605.html