一步一步寫線程之十三隊列間的消息通知

一、線程和分布式的通信

隨著技術的不斷發展,多線程和分布式通信愈發的普及。那么在這種場景下的如何進行數據的通信,便成為了一個非常典型的問題。無論是多線程還是分布式,其實其抽象出來的通信機制都是類似的。或者說換句話,多線程和分布式被普及的原因是一樣的,那就是如何解決大數據量的快速交互,即解決生產者和消費者的問題。
這種通信機制有很多種,在前面也分別的進行過闡述,比如常見的事件、管道、網絡、消息等等。這些通信機制,各有各的優點和適用場景,當然也存在著各種各樣的問題和缺點。這就需要開發者能夠靈活的綜合運用這些技術來解決問題。

二、生產者和消費者的平衡

回到最常見的生產者消費者的問題,即生產隊列和消費隊列的最優的動態平衡。生產者的線程和消費者的線程要匹配,既不能生產的過多,導致消費隊列的積壓甚至因此而崩潰,也不能因為生產者的產出太少,導致消費者隊列的等待。
一般在這種情況下,可能很多開發者會選擇使用線程同步來解決問題,也可能會使用一些消息框架來解決這類問題。可同步帶來的性能損失,如何降低到最低?那如果使用無鎖編程呢?會不會帶來效率的顯著提升?

三、問題和解決

從上面的分析可以判斷出,其實無論哪種方式,都需要處理同步的粒度的問題。舉一個簡單的例子,一個生產者和一個消費者,生產者在把消息壓入隊列后就進行一個同步的通知(不管是使用事件還是條件變量等),還是等到某種條件下再進行同步通知效率更高呢?也就是說,不用每次生產后都進行通知,而在某種情況下才會通知。由于同步事件的通知會導致線程的切換和上下文的處理,所以基本上可以判定,后者會更優。但優多少需要實際的場景進行驗證。只是從理論上看,這種情況是占有優勢的。
在無鎖隊列中,如果生產者速度比較慢,消費者比較快,CAS的原理是占用CPU進行自旋等待,那設計上肯定不能讓消費者沒事總那兒旋轉占用著CPU,一般會有一個機制在多長時間后進行等待機制讓出CPU。或者在突傳情況下,CAS自旋就非常有意義,但在突傳過后,CAS一定要讓出CPU。所以就可以基本得出一個結論,在消費者讓出CPU休眠時,再進行同步通知進行喚醒,此時的效果肯定是最佳的。
這種機制不光是推理出來,在實踐中也是如此,比如使用一些開源框架中即是進行這樣設計的。一些開源的無鎖隊列,經過測試發現,連續通知和休眠后通知,其實效率還是差不少的。這也是一個非常明顯的例證。
那么如何進行線程間狀態的判斷呢?這個有很多種方法,一般來說可以設置一個雙方都需要讀寫操作的變量,而CAS正是擅長對這種固定值的判斷的,通過固定值與隊列間的某種特定的條件,即可判斷互相的狀態。

四、總結

其實隊列的處理,不光有這種細節需要處理,包括內存大小的處理,是否提前處理,都是需要考慮的。正如前面所說,一個隊列的設計,不僅僅是一個算法的問題,可能涉及到很多的技術知識和相關的難點。如何能夠綜合運用這些知識適配開發場景,就是對設計師的一個考驗了。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/bicheng/20112.shtml
繁體地址,請注明出處:http://hk.pswp.cn/bicheng/20112.shtml
英文地址,請注明出處:http://en.pswp.cn/bicheng/20112.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

java檢測字符串是否包含數字和字母

在Java中,要檢測一個字符串是否同時包含數字和字母,我們可以使用正則表達式(regex)或者通過遍歷字符串并檢查每個字符來實現。以下是兩種方法的詳細代碼示例: 1.方法一:使用正則表達式 import java.util.…

【AI+知識庫問答】沉浸式體驗了解 AI知識庫問答fastGPT

之前寫過一篇文章 【AI本地知識庫】個人整理的幾種常見本地知識庫技術方案 , 由于當時主要是針對AI本地知識庫, 所以沒列fastGPT。 最近經常刷到fastGPT,這里單獨水一篇。 FastGPT 是一個基于 LLM 大語言模型的知識庫問答系統,…

Github 2024-06-01 開源項目日報Top10

根據Github Trendings的統計,今日(2024-06-01統計)共有10個項目上榜。根據開發語言中項目的數量,匯總情況如下: 開發語言項目數量Python項目5Jupyter Notebook項目2TypeScript項目1Go項目1Shell項目1Lua項目1Kong:云原生API網關與AI能力 創建周期:3482 天開發語言:Lua協議…

如何確保績效目標執行到位?

很多企業在實施績效過程中,盡管制定好了績效目標,但是沒有執行下去,管理者將原因歸咎于“員工低效”、“體制機制”等問題,那么在人力資源管理方面,企業應該如何確保制定的績效目標執行到位?如何提高低效能…

云原生架構相關技術_4.服務網格

1.技術特點 服務網格(ServiceMesh)是分布式應用在微服務軟件架構之上發展起來的新技術,旨在將那些微服務間的連接、安全、流量控制和可觀測等通用功能下沉為平臺基礎設施,實現應用與平臺基礎設施的解耦。這個解耦意味著開發者無需…

React@16.x(14)context 舉例 - Form 表單

目錄 1,目標2,實現2.1,index.js2.2,context.js2.2,Form.Input2.3,Form.Button 3,使用 1,目標 上篇文章說到,context 上下文一般用于第3方組件庫,因為使用場景…

Chisel入門——在windows下vscode搭建|部署Scala2.13.3開發環境|用Chisel點亮FPGA小燈等實驗

文章目錄 前言一、vscode搭建scala開發環境1.1 安裝Scala官方插件1.2 創建hello_world.scala文件1.3 確認java的版本(博主使用的是1.8)1.4 下載Scala Windows版本的二進制文件1.5 配置環境變量1.6 交互模式測試一下1.7 vscode運行scala 二、windows安裝sbt2.1 下載sbt2.2 設置環…

函數遞歸及具體例子(持續更新)

遞歸就是函數自己調用自己 求n的階乘 n! n * (n - 1)! 直到n為1或者0的時候為止 舉個例子 int Fun(int n) {if (n < 0){return 1;}else{return n * Fun(n - 1);} }int main() {int n 0;scanf("%d", &n);int ret Fun(n);printf("%d\n", ret…

安裝Kubernetes v3 ----以docker的方式部署

以docker的方式部署 docker run -d \ --restartunless-stopped \ --namekuboard \ -p 80:80/tcp \ -p 10081:10081/tcp \ -e KUBOARD_ENDPOINT"http://192.168.136.55:80" \ -e KUBOARD_AGENT_SERVER_TCP_PORT"10081" \ -v /root/kuboard-data:/data \ e…

springboot中抽象類無法注入到ioc容器

1、背景 在寫代碼時&#xff0c;發現service接口有兩個實現類&#xff0c;并且兩個實現類中沒有對類名重命名&#xff0c;屬性注入的時候也沒有使用byName或Qualifier&#xff0c;正確情況下會發生多實現報錯的問題&#xff0c;以前對這個問題進行解析過。 2、調試過程 我想…

【設計模式】創建型-建造者模式

前言 在面向對象的軟件開發中&#xff0c;構建復雜對象時經常會遇到許多挑戰。一種常見的解決方案是使用設計模式&#xff0c;其中建造者模式是一個強大而靈活的選擇。本文將深入探討建造者模式的原理、結構、優點以及如何在實際項目中應用它。 一、復雜的對象 public class…

飛凌嵌入式FET3568/3568J-C核心板現已適配OpenHarmony4.1

近日&#xff0c;飛凌嵌入式為FET3568/3568J-C核心板適配了OpenHarmony4.1系統&#xff0c;新系統的加持使核心板在兼容性、穩定性與安全性等方面都得到進一步提升&#xff0c;不僅為FET3568/3568J-C核心板賦予了更強大的功能&#xff0c;也為開發者們提供了更加廣闊的創新空間…

每日一練編程題:今天是【接口,多態】

設計程序 : 電腦類的屬性USB接口數組 : 有3個usb插口電腦類的功能 : 通過接口插入外設 (u盤,麥克風,鍵盤等) addUSB(USB usb) { }開機 要求: 電腦開機前,先啟動外設關機 要求: 電腦關機前,先關閉外設 外設類(u盤,麥克風,鍵盤等) 功能 : 啟動 關閉 USB接口 定義usb設備的統一…

python多種方式 保留小數點位數(附Demo)

目錄 前言1. 字符串格式2. round函數3. Decimal模塊4. numpy庫5. Demo 前言 在Python中&#xff0c;保留小數點后特定位數可以通過多種方式實現 以下是幾種常見的方法&#xff0c;并附上相應的代碼示例&#xff1a; 使用字符串格式化&#xff08;String Formatting&#xff…

IDE集成開發環境

IDE集成開發環境&#xff0c;全稱“Integrated Development Environment” 介紹 定義&#xff1a; IDE是用于提供程序開發環境的應用程序&#xff0c;它集成了代碼編寫功能、分析功能、編譯功能、調試功能等一體化的開發軟件服務套。 組成部分&#xff1a; IDE通常包括代碼編…

Ubuntu20.04 Mysql基本操作知識

#Mysql基本知識 運行環境Ubuntu20.04 1.開啟mysql服務 sytemctl start mysql不然&#xff0c;命令行進入myql交互行提交命令后&#xff0c;就會出現4200錯誤。 2.顯示所有數據庫 SHOW DATABASES;注意復數s&#xff0c;畢竟很多數據庫 3.新建數據庫test CREATE DATABASE …

【學習筆記】計算機組成原理(九+十)

控制單元的功能 文章目錄 控制單元的功能9.1 微操作命令的分析9.1.1 取指周期9.1.2 間址周期9.1.3 執行周期9.1.4 中斷周期 9.2 控制單元的功能9.2.1 控制單元的外特性9.2.2 控制信號舉例9.2.3 多級時序系統9.2.4 控制方式 控制單元的設計10.1 組合邏輯設計10.1.1 組合邏輯控制…

LabVIEW與Simulink的通信及調用方式

LabVIEW和Simulink可以通過多種方式進行通信和集成&#xff0c;實現數據交互和功能調用。常見的通信方式包括TCP/IP、UDP、共享內存等&#xff0c;此外還可以利用MATLAB Script Node和S-Function等直接調用對方的功能。這些方法使得LabVIEW和Simulink能夠協同工作&#xff0c;充…

[Algorithm][動態規劃][子序列問題][最長遞增子序列的個數][最長數對鏈]詳細講解

目錄 1.最長遞增子序列的個數1.題目鏈接2.算法原理詳解3.代碼實現 2.最長數對鏈1.題目鏈接2.算法原理詳解3.代碼實現 1.最長遞增子序列的個數 1.題目鏈接 最長遞增子序列的個數 2.算法原理詳解 注意&#xff1a;本題思路和思維方式及用到的方法很值得考究&#xff0c;個人感…

dubbo復習:(18)服務端Filter

用來在服務響應返回到客戶端之前進行額外處理。 一、定義Filter package cn.edu.tju.config;import org.apache.dubbo.rpc.Filter; import org.apache.dubbo.rpc.Result; import org.apache.dubbo.rpc.Invoker; import org.apache.dubbo.rpc.Invocation; import org.apache.du…