Redis的BigKey問題

Redis的BigKey問題

什么是大Key問題?

大key問題其實可以說是大value問題,就是某個key對應的value所占據的存儲空間太大了,所以導致我們在操作這個key的時候花費的時間過長(序列化\反序列化),從而降低了redis性能。

  • Key對應的value本身的數據量過大:一個Strring類型的value,值為5MB。
  • Key對應的value的成員數量過多:一個ZSet類型的key,對應的成員數量有10000個。
  • key中成員的數據量過大:一個Hash類型的key,成員數量雖然只有1000個,但是這些成員的總大小太大了。比如達到100MB或者10MB。

單個key的value大小要建議小于10kb,集合類型的key元素數量要小于1000。

帶來的問題

網絡阻塞: 對大Key執行讀請求的時候,少量的QPS就可能導致 帶寬使用率 被占滿了,導致Redis性能下降,甚至可能導致整個物理機變慢了。

數據傾斜: BigKey所在的Redis實例內存使用率會遠超其它實例,無法使數據分片的內存資源達到均衡。

Redis阻塞: 對于元素較多的hash、list、zset等做運算的時候會很耗時,redis又是單線程的,其它請求不會被處理,就會導致主線程阻塞。

CPU壓力: Redis中的的數據序列化和反序列化的時候都需要CPU運算,BigKey會導致CPU的使用率飆升,影響Redis實例和本機其它應用的使用。

如何刪除BigKey?

由于Redis是單線程的,所以刪除一個鍵值對的時候,如果是bigkey也需要耗費很長時間,導致redis主線程阻塞。 Redis4.0 之后,Redis提供了一個命令unlink,會把該鍵值對先標記成已刪除,然后會去異步地刪除該key。如果是 Redis3.0 以前,刪除集合類型的話,就先遍歷該集合元素,依次刪除元素,最后再刪除BigKey。

選擇合適的數據結構

對于存儲一個 對象 ,如果使用json字符串,那么就不夠靈活,可以使用Hash結構,既靈活,空間占用也不是很大。

數據量太大的時候,單個hash可能會導致大key問題,hash結構的entry數量盡量不要超過1000;單獨用string來存儲的話,大量的key又會導致占用太多空間,所以要學會使用 分片哈希 。既節省空間,也避免了大key問題。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/bicheng/92843.shtml
繁體地址,請注明出處:http://hk.pswp.cn/bicheng/92843.shtml
英文地址,請注明出處:http://en.pswp.cn/bicheng/92843.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

TDengine IDMP 產品基本概念

基本概念 元素 (Element) IDMP 通過樹狀層次結構來組織數據,樹狀結構里的每個節點被稱之為元素 (Element)。元素是一個物理的或邏輯的實體。它可以是具體的物理設備(比如一臺汽車),物理設備的一個子系統(比如一臺汽車的…

專題二_滑動窗口_將x減到0的最小操作數

一:題目解釋:每次只能移除數組的邊界,移除的邊界的總和為x,要求返回你移除邊界的最小操作數!也就是說你最少花幾次移除邊界,就能夠讓這些移除的邊界的和為x,則返回這個次數!所以這個…

CentOS 7 下通過 Anaconda3 運行llm大模型、deepseek大模型的完整指南

CentOS 7 下通過 Anaconda3 運行llm大模型、deepseek大模型的完整指南A1 CentOS 7 下通過 Anaconda3 運行大模型的完整指南一、環境準備二、創建專用環境三、模型部署與運行四、優化配置常見問題解決B1 CentOS 7 下通過 Anaconda3 使用 CPU 運行 DeepSeek 大模型的完整方案一、…

Flutter應用在Windows 8上正常運行

要讓Flutter應用在Windows 8上正常運行,需滿足以下前提條件,涵蓋系統環境、依賴配置、編譯設置等關鍵環節: 一、系統環境基礎要求 Windows 8版本 必須是 Windows 8.1(核心支持),不支持早期Windows 8(需升級到8.1,微軟已停止對原版Windows 8的支持)。 確認系統版本:右…

Redis實現消息隊列三種方式

參考 Redis隊列詳解(springboot實戰)_redis 隊列-CSDN博客 前言 MQ消息隊列有很多種,比如RabbitMQ,RocketMQ,Kafka等,但是也可以基于redis來實現,可以降低系統的維護成本和實現復雜度,本篇介紹redis中實現…

【C++動態版本號生成方案:實現類似C# 1.0.* 的自動構建號】

C動態版本號生成方案:實現類似C# 1.0.* 的自動構建號 在C#中,1.0.*版本號格式會在編譯時自動生成構建號和修訂號。本文將介紹如何在C項目中實現類似功能,通過MSBuild自動化生成基于編譯時間的版本號。 實現原理 版本號構成:主版本…

【算法題】:斐波那契數列

用 JavaScript 實現一個 fibonacci 函數,滿足: 輸入 n(從0開始計數)輸出第 n 個斐波那契數(斐波那契數列從 1 開始:1,1,2,3,5,8,13,21…) 示例: fibonacci(0) > 1fibonacci(4) &g…

【YOLOv13[基礎]】熱力圖可視化實踐 | 腳本升級 | 優化可視化效果 | 論文必備 | GradCAMPlusPlus, GradCAM, XGradCAM, EigenCAM等

本文將進行添加YOLOv13版本的升級版熱力圖可視化功能的實踐,支持圖像熱力圖可視化、優化可視化效果、 可以選擇使用GradCAMPlusPlus, GradCAM, XGradCAM, EigenCAM, HiResCAM, LayerCAM, RandomCAM, EigenGradCAM。一個參數即可設置是否顯示檢測框等。 原圖 結果圖

ElasticSearch相關術語介紹

1.RESTful風格程序REST(英文全稱為:"Representational State Transfer")指的是一組架構約束條件和原則。它是一種軟件架構風格(約束條件和原則的集合,但并不是標準)。 REST通過資源的角度觀察網絡,以URI對網絡資源進行…

《從零構建大語言模型》學習筆記4,注意力機制1

《從零構建大語言模型》學習筆記4,自注意力機制1 文章目錄《從零構建大語言模型》學習筆記4,自注意力機制1前言一、實現一個簡單的無訓練權重的自注意力機制二、實現具有可訓練權重的自注意力機制1. 分步計算注意力權重2.實現自注意力Python類三、將單頭…

昇思+昇騰開發板+DeepSeek模型推理和性能優化

昇思昇騰開發板DeepSeek模型推理和性能優化 模型推理 流程: 權重加載 -> 啟動推理 -> 效果比較與調優 -> 性能測試 -> 性能優化 權重加載 如微調章節介紹,最終的模型包含兩部分:base model 和 LoRA adapter,其中base …

未給任務“Fody.WeavingTask”的必需參數“IntermediateDir”賦值。 WpfTreeView

c#專欄記錄: 報錯 未給任務“Fody.WeavingTask”的必需參數“IntermediateDir”賦值。 WpfTreeView 生成 解決辦法 清理和重新生成項目 完成上述配置后,嘗試執行以下步驟: 清理項目:刪除 bin 和 obj 文件夾。 重新生成項目&…

[Linux]學習筆記系列 -- [arm][lib]

文章目錄arch/arm/lib/delay.cregister_current_timer_delay 注冊當前定時器延遲read_current_timer 讀取當前定時器drivers/clocksource/timer-stm32.cstm32_clocksource_init STM32 平臺上初始化時鐘源https://github.com/wdfk-prog/linux-study arch/arm/lib/delay.c regis…

harbor倉庫搭建(配置https)

目錄 1. 環境準備 2. 配置https的原因 3. 生成ca證書 4. 搭建harbor倉庫 5. 訪問harbor 6. 修改加密算法 1. 環境準備 需要提前安裝docker和docker-compose,harbor倉庫版本越新,對應的docker和docker-compose版本越新。 主機IP192.168.48.19dock…

C++多線程服務器

C多線程服務器 因為自己同時在看多本書,之前看過《TCP/IP 網絡編程》一書,其中有一個自己編寫一個多線程服務器的例子,于是就把代碼直接抄了一變。 在學習網絡編程前需要先了解網絡的7層模型。 具體代碼如下: 服務器端&#xff1a…

【Pandas】常用數據處理技巧

一. 數據讀取 1.pd.to_csv & pd.read_csv 細節: 1.pd.read_csv 需要 ignore_index True or ,index_col0 否則會有列Unnamed0 2.pickle具有更快的讀取速度,與更小的體積。 讀取前N行(若不需獲取所有數據) pd.read_csv(…

Docker Compose 部署高可用 MongoDB 副本集集群(含 Keepalived + HAProxy 負載均衡)

Docker Compose 部署高可用 MongoDB 副本集集群(含 Keepalived HAProxy 負載均衡)背景與目標📋 環境規劃**服務器信息****軟件版本**部署步驟1. 創建目錄結構2、生成 keyFile(三臺機器內容必須一致)3. 準備 Keepalive…

MySQL(189)如何分析MySQL的鎖等待問題?

分析MySQL的鎖等待問題有助于發現和解決數據庫性能瓶頸。鎖等待問題通常會導致數據庫響應時間變長,影響系統的整體性能。以下是詳細深入的方法和代碼示例,幫助你分析和解決MySQL的鎖等待問題。 一、鎖的類型和概念 在MySQL中,主要有以下幾種鎖…

26.Scikit-learn實戰:機器學習的工具箱

Scikit-learn實戰:機器學習的工具箱 🎯 前言:機器學習界的"宜家家具" 還記得第一次逛宜家的感受嗎?琳瑯滿目的家具,每一件都有詳細的說明書,組裝簡單,樣式統一,關鍵是—…

wordpress文章摘要調用的3種方法

以下是WordPress文章摘要的3種調用方法: 1. 使用the_excerpt()函數 這是WordPress自帶的函數,用于調用文章摘要。如果文章有手動填寫的摘要,則會顯示手動摘要;如果沒有手動摘要,WordPress會自動從文章內容中提取前55個單詞作為摘…