架構思維:構建高并發讀服務_使用懶加載架構實現高性能讀服務

文章目錄

  • 一、引言
  • 二、讀服務的功能性需求
  • 三、兩大基本設計原則
    • 1. 架構盡量不要分層
    • 2. 代碼盡可能簡單
  • 四、實戰方案:懶加載架構及其四大挑戰
  • 五、改進思路
  • 六、總結與思考題

在這里插入圖片描述


一、引言

在任何后臺系統設計中,「讀多寫少」的業務場景占據主流:瀏覽商品、刷資訊、訪問用戶畫像……相比寫操作,讀操作的并發壓力更大、對性能的要求也更苛刻。為此,我們需要從 讀服務(或稱讀接口/讀業務)的角度,系統地探討如何在高可用、高性能和超高 QPS(上萬~百萬峰值)的場景下構建穩健的架構。

接下來我們將圍繞讀服務的功能特點、兩大基本設計原則,以及行業中常見的懶加載架構及其四大挑戰,快速掌握實戰思路。


二、讀服務的功能性需求

讀服務在執行流程上,基本是 無狀態無副作用 的:

  1. 從持久層(數據庫、Redis、Elasticsearch 等)獲取原始數據;
  2. 簡單加工或直接返回給前端。

因此,讀服務必須滿足三大指標:

  • 高可用:任何業務都需保證持續在線;
  • 高性能:TP999 必須控制在 100ms 以內;
  • 超高 QPS 支撐:滿足上萬至百萬級峰值請求。

只有確保這三點,才能給用戶帶來流暢的體驗,避免卡頓或秒級延遲。


三、兩大基本設計原則

1. 架構盡量不要分層

傳統分層(服務層→數據訪問層→存儲)雖然能降低代碼耦合,但網絡調用(RPC/HTTP)往返會成倍消耗延遲。監控數據顯示,分層架構下讀請求的 TP99、TP999 指標往往翻倍,且毛刺明顯增多。

優化思路:將數據訪問層編譯進同一進程,去除網絡傳輸環節。

內嵌后,TP999 可下降近 50%,平均延遲降低 20%~30%,部署成本也大幅下降。

在這里插入圖片描述


2. 代碼盡可能簡單

讀服務鏈路雖然清晰,但模型層次多、映射開銷大。引入過多框架、全量日志打印、全量字段查詢都會拖慢性能。

  • 慎用反射/Codegen 框架:如 Spring Bean.copyProperties,反射性能開銷高。
  • 精細化日志:只打印關鍵信息,避免 JSON 序列化全量對象。
  • 按需字段查詢:MySQL 避免 SELECT *,Redis 使用 Hash 并定位字段。

簡化至:參數校驗 → 查詢構建 → 存儲反序列化 → 業務加工 → 返回,把每一步都做到最輕量。
在這里插入圖片描述


四、實戰方案:懶加載架構及其四大挑戰

最常見的讀服務方案:緩存(Redis)+ 數據庫(MySQL) 的懶加載模式:

  1. 服務先查 Redis;
  2. 未命中則讀數據庫并寫回緩存(帶過期時間);
    在這里插入圖片描述

該方案實現成本低、思路清晰,但在高并發下會暴露以下問題:

  1. 緩存穿透

    • 惡意請求不存在的 key → 每次都落到數據庫,易打掛。 符 + 參數前置校驗(如 IP、MAC、KOAP token),攔截非法請求。
  2. 緩存雪崩

    • 同期過期后大量請求打到數據庫。
    • 解決:過期時間加鹽,避免同一時刻熱點 key 大規模失效。
  3. 實時性不足

    • 依賴過期失效機制,更新延遲。
    • 改進可在寫操作后主動推送變更,但需處理數據庫與緩存更新順序及分布式事務漏失。
      在這里插入圖片描述
  4. 性能毛刺

    • 緩存過期瞬間穿透到數據庫,延遲從毫秒級飆升至秒級。
    • 可以借助全量緩存和預熱機制以平滑毛刺。

五、改進思路

利用 全量緩存消息隊列同步預熱與降級 等技術,打造真正的毫秒級讀服務。請參考下篇博客 。


六、總結與思考題

  • 兩大原則:架構不分層、代碼簡單。
  • 懶加載四大問題:穿透、雪崩、實時性、毛刺。

在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/bicheng/79842.shtml
繁體地址,請注明出處:http://hk.pswp.cn/bicheng/79842.shtml
英文地址,請注明出處:http://en.pswp.cn/bicheng/79842.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

在運行 Hadoop 作業時,遇到“No such file or directory”,如何在windows里打包在虛擬機里運行

最近在學習Hadoop集群map reduce分布運算過程中,經多方面排查可能是電腦本身配置的原因導致每次運行都會報“No such file or directory”的錯誤,最后我是通過打包文件到虛擬機里運行得到結果,具體步驟如下: 前提是要保證maven已經…

軟考-軟件設計師中級備考 11、計算機網絡

1、計算機網絡的分類 按分布范圍分類 局域網(LAN):覆蓋范圍通常在幾百米到幾千米以內,一般用于連接一個建筑物內或一個園區內的計算機設備,如學校的校園網、企業的辦公樓網絡等。其特點是傳輸速率高、延遲低、誤碼率低…

【C#】.net core6.0無法訪問到控制器方法,直接404。由于自己的不仔細,出現個低級錯誤,這讓DeepSeek看出來了,是什么錯誤呢,來瞧瞧

🌹歡迎來到《小5講堂》🌹 🌹這是《C#》系列文章,每篇文章將以博主理解的角度展開講解。🌹 🌹溫馨提示:博主能力有限,理解水平有限,若有不對之處望指正!&#…

當LLM遇上Agent:AI三大流派的“復仇者聯盟”

你一定聽說過ChatGPT和DeepSeek,也知道它們背后的LLM(大語言模型)有多牛——能寫詩、寫代碼、甚至假裝人類。但如果你以為這就是AI的極限,那你就too young too simple了! 最近,**Agent(智能體&a…

Spring Boot多模塊劃分設計

在Spring Boot多模塊項目中,模塊劃分主要有兩種思路:??技術分層劃分??和??業務功能劃分??。兩種方式各有優缺點,需要根據項目規模、團隊結構和業務特點來選擇。 ??1. 技術分層劃分(橫向拆分)?? 結構示例&…

兩次解析格式化字符串 + 使用SQLAlchemy的relationship執行任意命令 -- link-shortener b01lersCTF 2025

題目描述: A fast and reliable link shortener service, with a new feature to add private links! 我們走一遍邏輯 注冊 app.route("/register", methods[GET, POST]) def register(): """ 用戶注冊路由,處理用戶注冊請求&#xff…

后端id類型為long類型時,返回給前端瀏覽器四舍五入,導致id精度缺失問題

背景 今天在代碼里,掉了別人寫的接口,有個id的字段是long類型的,我這邊加點參數返回給前端,然后前端根據id修改,結果修改的數據記錄有,但是沒起作用,后來發現根據他傳給我的id在后臺數據庫查不…

Scartch038(四季變換)

知識回顧 1.了解和簡單使用音樂和視頻偵測模塊 2.使用克隆體做出波紋特效 3.取色器妙用偵測背景顏色 前言 我國幅員遼闊,不同地方的四季會有不同的美麗景色,這節課我帶你使用程序做一個體現北方四季變化的程序 之前的程序基本都是好玩的,這節課做一個能夠賞心悅目的程序。…

JVM happens-before 原則有哪些?

理解Java Memory Model (JMM) 中的 happens-before 原則對于編寫并發程序有很大幫助。 Happens-before 關系是 JMM 用來描述兩個操作之間的內存可見性以及執行順序的抽象概念。如果一個操作 A happens-before 另一個操作 B (記作 A hb B),那么 JMM 向你保證&#x…

從 Eclipse Papyrus / XText 轉向.NET —— SCADE MBD技術的演化

從KPN[1]的萌芽開始,到SCADE的推出[2],再到Scade 6的技術更迭[3],SCADE 基于模型的開發技術已經歷許多。現在,Scade One 已開啟全新的探索 —— 從 Eclipse Papyrus / XText 轉向.NET 8跨平臺應用。 [1]: KPN, Kahn進程網絡 (197…

osquery在網絡安全入侵場景中的應用實戰(二)

背景 上次寫了osquery在網絡安全入侵場景中的應用實戰(一)結果還不錯,這次篇目二再增加一些場景。osquery主要解決的時員工被入侵之后電腦該如何溯源取證的問題。通常EDR會有日志,但是不會上報全量的日志。發現機器有惡意文件需要上級取證的時候,往往是比較麻煩的,會有這…

opencv+opencv_contrib+cuda和VS2022編譯

本文介紹使用OpenCV和OpenCV_Contrib源碼及Cuda進行編譯的過程,編譯過程中會用到OpenCV、OpenCV_Contrib、Toolkit、Cmake、VS2022等工具,最終編譯OpenCV的Cuda版本。 一、OpenCV下載地址 OpenCV官網下載地址:https://opencv.org/releases/#&#xff0…

spring中的@ConfigurationProperties注解詳解

一、核心功能與作用 ConfigurationProperties 是Spring Boot中用于將外部配置(如application.properties或application.yml中的屬性)綁定到Java對象的核心注解。其核心功能包括: 配置集中管理:將分散的配置屬性按前綴綁定到Java類…

【C/C++】函數模板

🎯 C 學習筆記:函數模板(Function Template) 本文是面向 C 初學者的函數模板學習筆記,內容包括基本概念、定義與使用、實例化過程、注意事項等,附帶示例代碼,便于理解與復現。 📌 一…

電子病歷高質量語料庫構建方法與架構項目(智能數據目錄篇)

電子病歷高質量語料庫的構建是醫療人工智能發展的基礎性工作,而智能數據目錄作為數據治理的核心組件,能夠有效管理這些語料資源。本文將系統闡述電子病歷高質量語料庫的構建方法與架構,特別聚焦于智能數據目錄的設計與實現,包括數據目錄的功能定位、元數據管理、構建步驟以…

前端懶加載(Lazy Loading)實戰指南

🚀 前端懶加載(Lazy Loading)實戰指南 懶加載是現代 Web 性能優化的“常規操作”。它的目標簡單直接:讓用戶只加載“當下真正需要的資源”。從靜態資源、組件、模塊到數據,每一層都可以使用懶加載技術,構建…

在 Ubuntu 系統中,查看已安裝程序的方法

在 Ubuntu 系統中,查看已安裝程序的方法取決于軟件的安裝方式(如通過 apt、snap、flatpak 或手動安裝)。以下是幾種常見方法: 通過 apt 包管理器安裝的軟件 適用于通過 apt 或 dpkg 安裝的 .deb 包。 列出所有已安裝的軟件包&…

性能優化實踐:性能監控體系

性能優化實踐:性能監控體系 在Flutter應用開發中,建立一個完善的性能監控體系對于保證應用質量和用戶體驗至關重要。本文將從實戰角度深入講解如何搭建Flutter應用的性能監控體系,包括監控指標的設計、數據采集實現、分析平臺搭建等內容。 …

kotlin 02flow-sharedFlow 完整教程

一 sharedFlow是什么 SharedFlow 是 Kotlin 協程中 Flow 的一種 熱流(Hot Flow),用于在多個訂閱者之間 共享事件或數據流。它適合處理 一次性事件(如導航、彈窗、Toast、刷新通知等),而不是持續狀態。 ? …

模擬開發授權平臺

這次只是實現應用的curd和公私鑰的校驗以及第三方的通知dmeo項目,大家可以拓開視野來編寫 進入主題 項目鏈接:桌角的眼鏡/develop_auth_platform 直接下拉并運行就行 回調應用代碼在test包中 回調應用測試代碼 package mainimport ("encoding/…