RPS和QPS

簡介

這是系統設計中兩個最核心且容易混淆的性能指標。簡單來說:
? RPS 是 “每秒請求數”,是從客戶端或負載均衡器的視角看,服務器每秒接收到的請求數量
? QPS 是 “每秒查詢數”,通常是從數據庫或特定服務的視角看,其每秒執行的查詢操作數量

1. 詳細說明

1.1 RPS (Requests Per Second) - 每秒請求數

衡量服務器、服務或系統每秒接收到的外部請求(Request)的總數。一個來自用戶瀏覽器、手機App或其他服務的HTTP調用,就算一個“請求”。 一個請求可能非常復雜,它可能觸發了后端大量的工作,比如:

  • 調用多個微服務
  • 執行多次數據庫查詢
  • 進行復雜的計算
  • 訪問緩存

用戶訪問CSDN首頁的這個動作,向服務器發送了一個HTTP請求,這就算 1 RPS。但這個請求背后,服務器可能去數據庫查詢了10條用戶關注的熱帖、5條廣告、3條消息通知,總共產生了 18次數據庫查詢。

1.2 QPS (Queries Per Second) - 每秒查詢數

衡量數據庫(如MySQL、Redis)或某個特定服務每秒執行的查詢(Query)操作數量。關注的是對數據存儲層的訪問頻率,通常指一次簡單的數據操作,比如:

SELECT * FROM users WHERE id = 1;1次查詢)
UPDATE posts SET likes = likes + 1 WHERE id = 123;1次查詢)
Redis GET user:123:profile (1次查詢)

如上所述,處理那1個用戶訪問首頁的請求(1 RPS),數據庫需要執行18次SELECT操作,那么數據庫的負載就是 18 QPS。

2. 總結

可以把二者看作一種 “因果關系”:1個來自外部的 RPS,通常會在系統內部產生 N次 QPS(以及其他操作)。

# 用一個簡單的公式來理解
總 QPS ≈ RPS ×(每個請求平均產生的查詢次數)

補充

最近在一篇博客中看到這樣一句話:

“寫入吞吐量為 100K RPS,數據庫僅支持 10K RPS”

這里的表述其實不夠精確,它的意思是:

  1. 應用服務器(Application Server)每秒能接收和處理 10萬個寫入請求(100K RPS)。
  2. 但數據庫(如MySQL)每秒最多只能安全地執行 1萬次寫入查詢(10K QPS)。這里的“RPS”被博客作者用來指代數據庫的寫入操作速率,嚴格來說用“QPS”或“WPS(Writes Per Second)”更準確。

這就產生了一個矛盾: 應用層每秒接100k個請求,但數據庫每秒只能處理1萬個。如果不做任何處理,數據庫會瞬間被壓垮。如何解決這種差距?系統設計的一個重要目標,就是處理這種不匹配。下面是一些常用策略:

  1. 寫緩沖(Write Buffering) & 異步處理
    使用消息隊列(如Kafka, RocketMQ)。應用服務器收到請求(100K RPS)后,立即返回“成功”給用戶,同時將寫操作任務扔進消息隊列。后臺的Worker服務再以數據庫能承受的速度(10K QPS)從隊列里取出任務,慢慢寫入數據庫,也就是常說的異步處理。

  2. 批量寫(Batching)
    不要來一個請求就寫一次數據庫。可以將多個請求合并成一個批量操作。100個寫入請求可以合并成1個INSERT … VALUES (…), (…), …語句。這能將100 QPS降低到1 QPS,極大減輕數據庫壓力。

  3. 緩存(Caching)
    對于讀多寫少的場景,使用緩存(如Redis)來抵擋絕大部分的讀請(QPS),讓請求不直接到達數據庫。

  4. 分庫分表
    如果一個數據庫實例只能處理10K QPS,那就用10個數據庫實例,每個實例處理10 K QPS。通過將數據分散到不同的數據庫節點上,來水平擴展整體的寫入能力。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/920155.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/920155.shtml
英文地址,請注明出處:http://en.pswp.cn/news/920155.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

如何將用戶反饋轉化為可執行需求

用戶反饋是企業優化產品、改進服務的重要依據。將用戶反饋轉化為可執行需求的核心在于通過系統化的流程對反饋進行收集、分析和分類,并結合企業的戰略目標與技術能力,制定出具體的執行方案。這一過程不僅要求企業深入理解用戶需求,還需要跨部…

ry-vue docker部署

目錄 整體架構概覽 創建 Docker 自定義網絡 Redis 部署(緩存服務) redis.conf修改 啟動 Redis 容器 測試 啟動 MySQL 容器 允許 root 用戶遠程訪問(%) 初始化數據庫(可選) RuoYi-Admin 后端服務部…

Redis之Keys命令和Scan命令

序言 網上看到的面試題:Redis有1億個key,其中10w個key是以某個固定的前綴開頭,如何將它們全部找出來?一般有兩種命令可以實現: Keys命令Scan命令 下面具體分析一下兩種命令 Keys命令 Keys pattern如下圖所示&…

【小沐學GIS】基于Godot繪制三維數字地球Earth(Godot)

🍺三維數字地球GIS系列相關文章(C)如下🍺:1【小沐學GIS】基于C繪制三維數字地球Earth(OpenGL、glfw、glut)第一期2【小沐學GIS】基于C繪制三維數字地球Earth(OpenGL、glfw、glut&…

day62 Floyd 算法 A * 算法

Floyd 算法本題是經典的多源最短路問題.Floyd 算法對邊的權值正負沒有要求,都可以處理。Floyd算法核心思想是動態規劃。例如我們再求節點1 到 節點9 的最短距離,用二維數組來表示即:grid[1][9],如果最短距離是10 ,那就…

【軟考論文】論可觀測性架構技術的應用

🎁 考高級架構師的小伙伴注意了!📢 軟考架構論文示例 2025年11月軟考架構論文預測👍 一、歷年論文題目 無!!! 二、考情分析 “可觀測性技術”這一論題,目前在高級架構師與高級系統分…

軟件測試:測試分類(一)

常用測試分類1.功能測試(人對功能的確定,保證某個功能可以正常進行)如驗證你輸入正確的手機號碼和密碼是否登錄成功。手機號碼不存在是否有提示,密碼不正確是否有提示等2.自動化測試(如jmeter,屬于黑盒測試…

BigFoot (Method Raid Tools)[MRT] (Event Alert Mod)[EAM]

檢查法術技能ID,需要EAM命令,所以要先安裝EAM BigFoot EventAlertMod lua-CSDN博客 /eam lookup 冰封之韌 同時我們發現一個糟糕的問題,為什么會有這么多ID呢,默認第一個 還有一種法子就是讓別人開了技能告訴你ID,最…

【Scrapy-Redis】分布式爬蟲實戰(非常詳細)

一、概要 1.分布式爬蟲概念 分布式爬蟲是一種利用多臺機器協同工作的網絡爬蟲系統,通過任務分解、并行處理和資源共享,高效抓取并處理海量網頁數據。其核心在于將爬取任務分配到不同節點,避免單點性能瓶頸,同時支持動態擴展和容錯…

基于51單片機智能化交通紅綠燈堵車流量紅外設計

1 系統功能介紹 本設計題目為 基于51單片機智能化交通紅綠燈堵車流量紅外設計,主要用于十字路口交通信號智能控制,通過紅外避障檢測車流量,自動調節紅綠燈時間,緩解擁堵。該系統由單片機、LED燈、紅外避障傳感器、LCD1602液晶顯示…

VsCode 上的Opencv(C++)環境配置(Linux)

1.下載Opencv1.新建文件demo_cpp,在demo_cpp中新建third_parties文件2.OPENCV官網下載OpenCV-4.12.03.將下載好的opencv-4.12.0.zip壓縮包在third_parties中解壓,//以下均無特殊說明,均在vscode里的TERMINAL中輸入 sudo apt-get install unzip//用于解壓.zip文件 cd third_part…

sql xml模板

<?xml version"1.0" encoding"UTF-8" ?> <!DOCTYPE mapperPUBLIC "-//mybatis.org//DTD Mapper 3.0//EN""http://mybatis.org/dtd/mybatis-3-mapper.dtd"><mapper namespace"com.example.mapper.UserMapper&quo…

docker在自定義網絡中安裝ElasticSearch和Kibana

創建自定義網絡 創建一個名為 es-net 的橋接網絡。這將作為 Elasticsearch 和 Kibana 的私有通信通道。 # 創建網絡 docker network create es-net # 查看網絡是否創建成功 docker network ls啟動 Elasticsearch 容器 安裝命令 docker run -d \--name elasticsearch \--net…

基于51單片機射頻RFID停車刷卡計時收費系統設計

1 系統功能介紹 本設計題目為 基于51單片機射頻RFID停車刷卡計時收費系統設計&#xff0c;旨在實現停車場車輛的刷卡計時和收費管理。系統通過單片機控制&#xff0c;結合 RFID 射頻識別技術、LCD1602 顯示以及蜂鳴器報警&#xff0c;實現停車時間的智能計時、累加及超時提醒功…

Netty源碼—性能優化和設計模式

1.Netty的兩大性能優化工具 (1)FastThreadLocal FastThreadLocal的作用與ThreadLocal相當&#xff0c;但比ThreadLocal更快。ThreadLocal的作用是多線程訪問同一變量時能夠通過線程本地化的方式避免多線程競爭、實現線程隔離。 Netty的FastThreadLocal重新實現了JDK的ThreadLoc…

Linux網絡設備分析

?? Linux 網絡設備驅動深入分析 本文將詳細分析 Linux 網絡設備驅動的工作原理、實現機制和代碼框架,并通過一個虛擬網卡實例展示其實現,最后介紹常用的工具和調試手段。 1?? Linux 網絡設備驅動概述 Linux 網絡設備驅動是內核中負責管理網絡硬件(如以太網卡、Wi-Fi …

計算機視覺:從 “看見” 到 “理解”,解鎖機器感知世界的密碼

早上醒來&#xff0c;你拿起手機&#xff0c;人臉識別瞬間解鎖屏幕&#xff1b;開車上班時&#xff0c;車載系統通過攝像頭實時識別車道線&#xff0c;提醒你不要偏離&#xff1b;去醫院做檢查&#xff0c;醫生用 AI 輔助的醫學影像系統快速定位肺部微小結節&#xff1b;逛超市…

深入了解linux系統—— 線程封裝

C11線程庫 C11也提供了對應的線程庫&#xff0c;在頭文件<thread>中&#xff1b;C11將其封裝成thread類&#xff0c;通過類實例化出對象&#xff0c;調用類內成員方法進行線程控制。 #include <iostream> #include <thread> #include <unistd.h> using…

安全防御-SCDN如何保護網站安全

隨著互聯網的快速發展&#xff0c;越來越多的企業依賴在線服務來運行其核心業務。與此同時&#xff0c;網絡攻擊的頻率和復雜性也在不斷增加&#xff0c;惡意流量成為許多企業頭疼的問題。為了有效地提高網站的安全性和穩定性&#xff0c;德迅云安全加速SCDN被許多用戶關注。今…

運籌優化(OR)-在機器學習(ML)浪潮中何去何從?

在如今機器學習的浪潮中&#xff0c;機器學習相關的崗位日益增多&#xff0c;而運籌優化的崗位卻相對較少。這是今年我秋招過程中看到的現象。企業越來越希望候選人不僅能建模求解&#xff0c;還能理解如何用數據驅動優化。需要我們有一個完整的技術棧。那么我們就來看看OR與ML…