Redis 的各項功能解決了哪些問題?


作者丨blackheart


640?wx_fmt=gif先看一下Redis是一個什么東西


官方簡介解釋到:Redis是一個基于BSD開源的項目,是一個把結構化的數據放在內存中的一個存儲系統,你可以把它作為數據庫,緩存和消息中間件來使用。


同時支持strings,lists,hashes,sets,sorted sets,bitmaps,hyperloglogs和geospatial indexes等數據類型。


它還內建了復制,lua腳本,LRU,事務等功能,通過redis sentinel實現高可用,通過redis cluster實現了自動分片。以及事務,發布/訂閱,自動故障轉移等等。


綜上所述,Redis提供了豐富的功能,初次見到可能會感覺眼花繚亂,這些功能都是干嘛用的?都解決了什么問題?什么情況下才會用到相應的功能?那么下面從零開始,一步一步的演進來粗略的解釋下。


640?wx_fmt=gif1 從零開始


最初的需求非常簡單,我們有一個提供熱點新聞列表的api:http://api.xxx.com/hot-news,api的消費者抱怨說每次請求都要2秒左右才能返回結果。


隨后我們就著手于如何提升一下api消費者感知的性能,很快最簡單粗暴的第一個方案就出來了:為API的響應加上基于HTTP的緩存控制 cache-control:max-age=600 ,即讓消費者可以緩存這個響應十分鐘。


如果api消費者如果有效的利用了響應中的緩存控制信息,則可以有效的改善其感知的性能(10分鐘以內)。但是還有2個弊端:第一個是在緩存生效的10分鐘內,api消費者可能會得到舊的數據;第二個是如果api的客戶端無視緩存直接訪問API依然是需要2秒,治標不治本吶。


640?wx_fmt=gif2 基于本機內存的緩存


為了解決調用API依然需要2秒的問題,經過排查,其主要原因在于使用SQL獲取熱點新聞的過程中消耗了將近2秒的時間,于是乎,我們又想到了一個簡單粗暴的解決方案,即把SQL查詢的結果直接緩存在當前api服務器的內存中(設置緩存有效時間為1分鐘)。


后續1分鐘內的請求直接讀緩存,不再花費2秒去執行SQL了。假如這個api每秒接收到的請求時100個,那么一分鐘就是6000個,也就是只有前2秒擁擠過來的請求會耗時2秒,后續的58秒中的所有請求都可以做到即使響應,而無需再等2秒的時間。


其他API的小伙伴發現這是個好辦法,于是很快我們就發現API服務器的內存要爆滿了。。。


640?wx_fmt=gif3 服務端的Redis


在API服務器的內存都被緩存塞滿的時候,我們發現不得不另想解決方案了。最直接的想法就是我們把這些緩存都丟到一個專門的服務器上吧,把它的內存配置的大大的。然后我們就盯上了redis。。。


至于如何配置部署redis這里不解釋了,redis官方有詳細的介紹。隨后我們就用上了一臺單獨的服務器作為Redis的服務器,API服務器的內存壓力得以解決。


640?wx_fmt=gif3.1 持久化(Persistence)


單臺的Redis服務器一個月總有那么幾天心情不好,心情不好就罷工了,導致所有的緩存都丟失了(redis的數據是存儲在內存的嘛)。雖然可以把Redis服務器重新上線,但是由于內存的數據丟失,造成了緩存雪崩,API服務器和數據庫的壓力還是一下子就上來了。


所以這個時候Redis的持久化功能就派上用場了,可以緩解一下緩存雪崩帶來的影響。redis的持久化指的是redis會把內存的中的數據寫入到硬盤中,在redis重新啟動的時候加載這些數據,從而最大限度的降低緩存丟失帶來的影響。


640?wx_fmt=gif3.2 哨兵(Sentinel)和復制(Replication)


Redis服務器毫無征兆的罷工是個麻煩事。那么怎辦辦?答曰:備份一臺,你掛了它上。那么如何得知某一臺redis服務器掛了,如何切換,如何保證備份的機器是原始服務器的完整備份呢?這時候就需要Sentinel和Replication出場了。


Sentinel可以管理多個Redis服務器,它提供了監控,提醒以及自動的故障轉移的功能;Replication則是負責讓一個Redis服務器可以配備多個備份的服務器。Redis也是利用這兩個功能來保證Redis的高可用的。此外,Sentinel功能則是對Redis的發布和訂閱功能的一個利用。


640?wx_fmt=gif3.3 集群(Cluster)


單臺服務器資源的總是有上限的,CPU資源和IO資源我們可以通過主從復制,進行讀寫分離,把一部分CPU和IO的壓力轉移到從服務器上。但是內存資源怎么辦,主從模式做到的只是相同數據的備份,并不能橫向擴充內存;單臺機器的內存也只能進行加大處理,但是總有上限的。


所以我們就需要一種解決方案,可以讓我們橫向擴展。最終的目的既是把每臺服務器只負責其中的一部分,讓這些所有的服務器構成一個整體,對外界的消費者而言,這一組分布式的服務器就像是一個集中式的服務器一樣(之前在解讀REST的博客中解釋過分布式于基于網絡的差異:基于網絡應用的架構)。


在Redis官方的分布式方案出來之前,有twemproxy和codis兩種方案,這兩個方案總體上來說都是依賴proxy來進行分布式的,也就是說redis本身并不關心分布式的事情,而是交由twemproxy和codis來負責。


而redis官方給出的cluster方案則是把分布式的這部分事情做到了每一個redis服務器中,使其不再需要其他的組件就可以獨立的完成分布式的要求。我們這里不關心這些方案的優略,我們關注一下這里的分布式到底是要處理那些事情?也就是twemproxy和codis獨立處理的處理分布式的這部分邏輯和cluster集成到redis服務的這部分邏輯到底在解決什么問題?


如我們前面所說的,一個分布式的服務在外界看來就像是一個集中式的服務一樣。那么要做到這一點就面臨著有一個問題需要解決:既是增加或減少分布式服務中的服務器的數量,對消費這個服務的客戶端而言應該是無感的;那么也就意味著客戶端不能穿透分布式服務,把自己綁死到某一個臺的服務器上去,因為一旦如此,你就再也無法新增服務器,也無法進行故障替換。


640?wx_fmt=gif解決這個問題有兩個路子:


第一個路子最直接,那就是我加一個中間層來隔離這種具體的依賴,即twemproxy采用的方式,讓所有的客戶端只能通過它來消費redsi服務,通過它來隔離這種依賴(但是你會發現twermproxy會成為一個單點),這種情況下每臺redis服務器都是獨立的,它們之間彼此不知對方的存在;


第二個路子是讓redis服務器知道彼此的存在,通過重定向的機制來引導客戶端來完成自己所需要的操作,比如客戶端鏈接到了某一個redis服務器,說我要執行這個操作,redis服務器發現自己無法完成這個操作,那么就把能完成這個操作的服務器的信息給到客戶端,讓客戶端去請求另外的一個服務器,這時候你就會發現每一個redis服務器都需要保持一份完整的分布式服務器信息的一份資料,不然它怎么知道讓客戶端去找其他的哪個服務器來執行客戶端想要的操作呢。


上面這一大段解釋了這么多,不知有沒有發現不管是第一個路子還是第二個路子,都有一個共同的東西存在,那就是分布式服務中所有服務器以及其能提供的服務的信息。這些信息無論如何也是要存在的,區別在于第一個路子是把這部分信息單獨來管理,用這些信息來協調后端的多個獨立的redis服務器;第二個路子則是讓每一個redis服務器都持有這份信息,彼此知道對方的存在,來達成和第一個路子一樣的目的,優點是不再需要一個額外的組件來處理這部分事情。


Redis Cluster的具體實現細節則是采用了Hash槽的概念,即預先分配出來16384個槽:在客戶端通過對Key進行CRC16(key)% 16384運算得到對應的槽是哪一個;在redis服務端則是每個服務器負責一部分槽,當有新的服務器加入或者移除的時候,再來遷移這些槽以及其對應的數據,同時每個服務器都持有完整的槽和其對應的服務器的信息,這就使得服務器端可以進行對客戶端的請求進行重定向處理。


640?wx_fmt=gif4 客戶端的Redis


上面的第三小節主要介紹的是Redis服務端的演進步驟,解釋了Redis如何從一個單機的服務,進化為一個高可用的、去中心化的、分布式的存儲系統。這一小節則是關注下客戶端可以消費的redis服務。


640?wx_fmt=gif4.1 數據類型


redis支持豐富的數據類型,從最基礎的string到復雜的常用到的數據結構都有支持:


string:最基本的數據類型,二進制安全的字符串,最大512M。

list:按照添加順序保持順序的字符串列表。


set:無序的字符串集合,不存在重復的元素。


sorted set:已排序的字符串集合。


hash:key-value對的一種集合。


bitmap:更細化的一種操作,以bit為單位。


hyperloglog:基于概率的數據結構。


這些眾多的數據類型,主要是為了支持各種場景的需要,當然每種類型都有不同的時間復雜度。其實這些復雜的數據結構相當于之前我在《解讀REST》這個系列博客基于網絡應用的架構風格中介紹到的遠程數據訪問(Remote Data Access = RDA)的具體實現,即通過在服務器上執行一組標準的操作命令,在服務端之間得到想要的縮小后的結果集,從而簡化客戶端的使用,也可以提高網絡性能。比如如果沒有list這種數據結構,你就只能把list存成一個string,客戶端拿到完整的list,操作后再完整的提交給redis,會產生很大的浪費。


640?wx_fmt=gif4.2 事務


上述數據類型中,每一個數據類型都有獨立的命令來進行操作,很多情況下我們需要一次執行不止一個命令,而且需要其同時成功或者失敗。redis對事務的支持也是源自于這部分需求,即支持一次性按順序執行多個命令的能力,并保證其原子性。


640?wx_fmt=gif4.3 Lua腳本


在事務的基礎上,如果我們需要在服務端一次性的執行更復雜的操作(包含一些邏輯判斷),則lua就可以排上用場了(比如在獲取某一個緩存的時候,同時延長其過期時間)。redis保證lua腳本的原子性,一定的場景下,是可以代替redis提供的事務相關的命令的。相當于基于網絡應用的架構風格中介紹到的遠程求值(Remote Evluation = REV)的具體實現。


640?wx_fmt=gif4.4 管道


因為redis的客戶端和服務器的連接時基于TCP的, 默認每次連接都時只能執行一個命令。管道則是允許利用一次連接來處理多條命令,從而可以節省一些tcp連接的開銷。管道和事務的差異在于管道是為了節省通信的開銷,但是并不會保證原子性。


640?wx_fmt=gif4.5 分布式鎖


官方推薦采用Redlock算法,即使用string類型,加鎖的時候給的一個具體的key,然后設置一個隨機的值;取消鎖的時候用使用lua腳本來先執行獲取比較,然后再刪除key。具體的命令如下:



SET?resource_name?my_random_value?NX?PX?30000

if?redis.call("get",KEYS[1])?==?ARGV[1]?then
????return?redis.call("del",KEYS[1])
else
????return?0
end



640?wx_fmt=gif總結


本篇著重從抽象層面來解釋下redis的各項功能以及其存在的目的,而沒有關心其具體的細節是什么。從而可以聚焦于其解決的問題,依據抽象層面的概念可以使得我們在特定的場景下選擇更合適的方案,而非局限于其技術細節。

以上均是筆者個人的一些理解,如果不當之處,歡迎指正。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/272169.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/272169.shtml
英文地址,請注明出處:http://en.pswp.cn/news/272169.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

python datetime用法_python datetime用法學習筆記

一、主要思路:1.把表示時間的str轉換為datetime對象2.操作datetime對象輸出期望的時間格式二、把表示時間的str轉換為datetime對象語法:datetime.strptime(date_str, format)示例:date_str "2017-06-23 21:08:12"date_obj dateti…

RocketMQ集成SpringBoot

RocketMQ集成SpringBoot RocketMQ總體架構 RocketMQ基本特性

協議(Protocol)與委托代理(Delegate)

協議(Protocol)的作用&#xff1a; 1. 規范接口&#xff0c;用來定義一套公用的接口&#xff1b; 2. 約束或篩選對象。 代理(Delegate)&#xff1a; 它本身是一種設計模式&#xff0c;委托一個對象<遵守協議>去做某件事情&#xff0c;目的是為了降低對象間的耦合度&#…

ASP.NET Core 2.2+Quartz.Net 實現Web定時任務

作者&#xff1a;Julian_醬鏈接&#xff1a;http://www.cnblogs.com/mi12205599/p/10361763.html作為一枚后端程序狗&#xff0c;項目實踐常遇到定時任務的工作&#xff0c;最容易想到的的思路就是利用Windows計劃任務/wndows service程序/Crontab程序等主機方法在主機上部署定…

lj245a引腳功能圖_ULN2003A引腳圖及功能-uln2003a原理

ULN是集成達林頓管IC&#xff0c;內部還集成了一個消線圈反電動勢的二極管&#xff0c;可用來驅動繼電器。它是雙列16腳封裝,NPN晶體管矩陣,最大驅動電壓50V,電流500mA,輸入電壓5V,適用于TTL COMS,由達林頓管組成驅動電路。ULN是集成達林頓管IC,內部還集成了一個消線圈反電動勢…

RocketMQ核心概念

生產者Producer和消費者Consumer NameServer作用 Broker和Topic

交叉編譯、軟硬鏈接

什么是交叉編譯&#xff1f;交叉編譯是一個行為&#xff0c;是在一個平臺上生成另一個平臺上的可執行代碼。 本地編譯&#xff1a;本地編譯可以理解為&#xff0c;在當前編譯平臺下&#xff0c;編譯出來的程序只能放到當前平臺下運行。平時我們常見的軟件開發&#xff0c;都是…

掃地機器人狗毛_掃地機器人:我是清理狗毛的!不是清理狗屎的!

原標題&#xff1a;掃地機器人&#xff1a;我是清理狗毛的&#xff01;不是清理狗屎的&#xff01;掃地機器人可以清潔地面和角落里的垃圾&#xff0c;對于滿是毛毛的鏟屎官家庭來說&#xff0c;簡直就是福音吶&#xff01;不過最近&#xff0c;槽點卻有點多&#xff1a;家里買…

Linus下安裝maven

下載maven安裝包 wget http://mirror.bit.edu.cn/apache/maven/binaries/apache-maven-3.2.2-bin.tar.gz 解壓 tar -zxvf apache-maven-3.2.2-bin.tar.gz 配置maven環境變量 查看maven解壓后安裝包目錄 vi /etc/profile 進入最底部&#xff0c;按insert,添加環境變量&#x…

linux內核開發基礎(linux內核源碼、樹莓派源碼編譯、SD卡掛載)

首先下載樹莓派linux內核源碼&#xff1a; 下載網址&#xff1a;https://github.com/raspberrypi/linux在樹莓派使用指令&#xff1a;uname -r查看當前樹莓派的版本號&#xff0c;然后選擇對應的linux內核版本號進行下載。 將linux內核源碼從共享文件夾拷貝到SYSTEM文件夾&am…

Linux實時查看進程命令top筆記

top命令是Linux下常用的性能分析工具&#xff0c;能夠實時顯示Linux系統中各個進程的資源占用狀況&#xff0c;類似于Windows系統的任務管理器功能。 top命令的語法格式&#xff1a; top [-] [d] [p] [q] [c] [C] [S] [s] [n] 常用參數說明 d 指定每兩次屏幕信息刷新之間的時間…

C#基礎之Equals和Dispose

1.equal()和運算符的區別 由于C#中有值類型和引用類型&#xff0c;那么相等也分為值相等和引用相等。先來看一個值類型簡單的例子&#xff0c;順便也寫了string類型的比較。 static void Main(string[] args){int n1 1;int n2 1;Console.WriteLine(n1n2);Console.WriteLine(n…

mysql 時間chuo格式化_Mysql時間戳與時間格式轉換問題匯總

一、時間戳的定義時間戳指格林威治時間1970年01月01日00時00分00秒起至現在的總秒數。二、時間格式轉時間戳的方法使用unix_timestamp函數&#xff0c;如下&#xff1a;SELECT UNIX_TIMESTAMP();//返回當前時間戳SELECT UNIX_TIMESTAMP(2017-12-16 17:29:56) AS t; //返回指定時…

文件系統(文件系統目錄結構、磁盤分區、虛擬文件系統)、linux內核結構框圖

什么是文件系統&#xff1f; 常規認知就是根目錄下那些文件&#xff0c;但其實并不是那樣。文件系統是操作系統用于明確存儲設備&#xff08;常見的是磁盤&#xff0c;也有基于NAND Flash的固態硬盤&#xff09;或分區上的文件的方法和數據結構&#xff1b;即在存儲設備上組織…

dockerq啟動報錯(iptables failed: iptables --wait -t nat -A DOCKER -p tcp -d 0/0 --dport 9876 -j DNAT --t

docker啟動報錯 (iptables failed: iptables --wait -t nat -A DOCKER -p tcp -d 0/0 --dport 9876 -j DNAT --to-destination 172.17.0.2:9876 ! -i docker0: iptables: No chain/target/match by that name. 解決方案&#xff1a;重啟docker systemctl restart docker

Linux進程終止命令kill或kill all?筆記

在linux命令下&#xff0c;如果需要終止某個進程&#xff0c;可以使用kill或者killall等命令來實現。終止命令的原理都是向linux內核發送一個系統操作的信號以及某個進程的ID&#xff0c;然后系統內核會根據指定的進程ID進行相應的處理。 kill命令典型的用法&#xff1a;首先使…

linux驅動(驅動編譯、字符設備驅動框架、交叉編譯樹莓派驅動、樹莓派驅動本地編譯)

什么是驅動&#xff1a; 驅動就是對底層硬件設備的操作進行封裝&#xff0c;并向上層提供函數接口。 設備分類&#xff1a; linux系統將設備分為3類&#xff1a;字符設備、塊設備、網絡設備。 字符設備&#xff1a;指只能一個字節一個字節讀寫的設備&#xff0c;不能隨機讀取…

docker啟動報錯 ?(iptables failed: iptables --wait -t nat -A DOCKER -p tcp -d 0/0 --dport 9876 -j DNAT --

docker啟動報錯 : (iptables failed: iptables --wait -t nat -A DOCKER -p tcp -d 0/0 --dport 9876 -j DNAT --to-destination 172.17.0.2:9876 ! -i docker0: iptables: No chain/target/match by that name. 解決方案&#xff1a; systemctl restart docker

第一個Spark程序

1、Java下Spark開發環境搭建&#xff08;from http://www.cnblogs.com/eczhou/p/5216918.html&#xff09;1.1、jdk安裝安裝oracle下的jdk&#xff0c;我安裝的是jdk 1.7&#xff0c;安裝完新建系統環境變量JAVA_HOME&#xff0c;變量值為“C:\Program Files\Java\jdk1.7.0_79”…

arduino判斷是否連接串口_Arduino-串口通信

Serial”系列函數&#xff0c;所以我們要對其有所了解&#xff0c;下面介紹幾個常“Serial”函數。1、Serial.begin()—設置串行每秒傳輸數據的速率(波特率)。在同計算機通訊時&#xff0c;使用下面這些值&#xff1a;300, 1200, 2400, 4800, 9600, 14400, 19200, 28800, 38400…