結構化數據、非結構化數據與半結構化數據

文章的開始，聊一下結構化數據、非結構化數據與半結構化數據，因為數據特點的不同，將在技術上直接影響存儲引擎的選型。

首先是結構化數據，根據定義結構化數據指的是由二維表結構來邏輯表達和實現的數據，嚴格遵循數據格式與長度規范，也稱作為行數據，特點為：數據以行為單位，一行數據表示一個實體的信息，每一行數據的屬性是相同的。例如：

因此關系型數據庫完美契合結構化數據的特點，關系型數據庫也是關系型數據最主要的存儲與管理引擎。

非結構化數據，指的是數據結構不規則或不完整，沒有任何預定義的數據模型，不方便用二維邏輯表來表現的數據，例如辦公文檔（Word）、文本、圖片、HTML、各類報表、視頻音頻等。

介于結構化與非結構化數據之間的數據就是半結構化數據了，它是結構化數據的一種形式，雖然不符合二維邏輯這種數據模型結構，但是包含相關標記，用來分割語義元素以及對記錄和字段進行分層。常見的半結構化數據有XML和JSON，例如：

<person><name>張三</name><age>18</age><phone>12345</phone>
</person>

這種結構也被成為自描述的結構。

以關系型數據庫的方式做存儲的架構演進

首先，我們看一下使用關系型數據庫的方式，企業一個系統發展的幾個階段的架構演進（由于本文寫的是Sql與NoSql，因此只以存儲方式作為切入點，不會涉及類似MQ、ZK這些中間件內容）：

階段一：企業剛發展的階段，最簡單，一個應用服務器配一個關系型數據庫，每次讀寫數據庫。

階段二：無論是使用MySQL還是Oracle還是別的關系型數據庫，數據庫通常不會先成為性能瓶頸，通常隨著企業規模的擴大，一臺應用服務器扛不住上游過來的流量且一臺應用服務器會產生單點故障的問題，因此加應用服務器并且在流量入口使用Nginx做一層負載均衡，保證把流量均勻打到應用服務器上。

階段三：隨著企業規模的繼續擴大，此時由于讀寫都在同一個數據庫上，數據庫性能出現一定的瓶頸，此時簡單地做一層讀寫分離，每次寫主庫，讀備庫，主備庫之間通過binlog同步數據，就能很大程度上解決這個階段的數據庫性能問題

階段四：企業發展越來越好了，業務越來越大了，做了讀寫分離數據庫壓力還是越來越大，這時候怎么辦呢，一臺數據庫扛不住，那我們就分幾臺吧，做分庫分表，對表做垂直拆分，對庫做水平拆分。以擴數據庫為例，擴出兩臺數據庫，以一定的單號（例如交易單號），以一定的規則（例如取模），交易單號對2取模為0的丟到數據庫1去，交易單號對2取模為1的丟到數據庫2去，通過這樣的方式將寫數據庫的流量均分到兩臺數據庫上。一般分庫分表會使用Shard的方式，通過一個中間件，便于連接管理、數據監控且客戶端無需感知數據庫ip

關系型數據庫的優點

上面的方式，看似可以解決問題（實際上確實也能解決很多問題），正常對關系型數據庫做一下讀寫分離 + 分庫分表，支撐個1W+的讀寫QPS還是問題不大的。但是受限于關系型數據庫本身，這套架構方案依然有著明顯的不足，下面對利用關系型數據庫方式做存儲的方案的優點先進行一下分析，后一部分再分析一下缺點，對某個技術的優缺點的充分理解是技術選型的前提。

易理解

因為行 + 列的二維表邏輯是非常貼近邏輯世界的一個概念，關系模型相對網狀、層次等其他模型更加容易被理解

操作方便

通用的SQL語言使得操作關系型數據庫非常方便，支持join等復雜查詢

數據一致性

支持ACID特性，可以維護數據之間的一致性，這是使用數據庫非常重要的一個理由之一，例如同銀行轉賬，張三轉給李四100元錢，張三扣100元，李四加100元，而且必須同時成功或者同時失敗，否則就會造成用戶的資損

數據穩定

數據持久化到磁盤，沒有丟失數據風險，支持海量數據存儲

服務穩定

最常用的關系型數據庫產品MySql、Oracle服務器性能卓越，服務穩定，通常很少出現宕機異常

關系型數據庫的缺點

緊接著的，我們看一下關系型數據庫的缺點，也是比較明顯的。

高并發下IO壓力大

數據按行存儲，即使只針對其中某一列進行運算，也會將整行數據從存儲設備中讀入內存，導致IO較高

為維護索引付出的代價大

為了提供豐富的查詢能力，通常熱點表都會有多個二級索引，一旦有了二級索引，數據的新增必然伴隨著所有二級索引的新增，數據的更新也必然伴隨著所有二級索引的更新，這不可避免地降低了關系型數據庫的讀寫能力，且索引越多讀寫能力越差。有機會的話可以看一下自己公司的數據庫，除了數據文件不可避免地占空間外，索引占的空間其實也并不少

為維護數據一致性付出的代價大

數據一致性是關系型數據庫的核心，但是同樣為了維護數據一致性的代價也是非常大的。我們都知道SQL標準為事務定義了不同的隔離級別，從低到高依次是讀未提交、讀已提交、可重復度、串行化，事務隔離級別月底，可能出現的并發異常越多，但是通常而言能提供的并發能力越強。那么為了保證事務一致性，數據庫就需要提供并發控制與故障恢復兩種技術，前者用于減少并發異常，后者可以在系統異常的時候保證事務與數據庫狀態不會被破壞。對于并發控制，其核心思想就是加鎖，無論是樂觀鎖還是悲觀鎖，只要提供的隔離級別越高，那么讀寫性能必然越差

水平擴展后帶來的種種問題難處理

前文提過，隨著企業規模擴大，一種方式是對數據庫做分庫，做了分庫之后，數據遷移（1個庫的數據按照一定規則打到2個庫中）、跨庫join（訂單數據里有用戶數據，兩條數據不在同一個庫中）、分布式事務處理都是需要考慮的問題，尤其是分布式事務處理，業界當前都沒有特別好的解決方案

表結構擴展不方便

由于數據庫存儲的是結構化數據，因此表結構schema是固定的，擴展不方便，如果需要修改表結構，需要執行DDL（data definition language）語句修改，修改期間會導致鎖表，部分服務不可用

全文搜索功能弱

例如like “%中國真偉大%”，只能搜索到"2019年中國真偉大，愛祖國"，無法搜索到"中國真是太偉大了"這樣的文本，即不具備分詞能力，且like查詢在"%中國真偉大"這樣的搜索條件下，無法命中索引，將會導致查詢效率大大降低

寫了這么多，我的理解核心還是前三點，它反映出的一個問題是關系型數據庫在高并發下的能力是有瓶頸的，尤其是寫入/更新頻繁的情況下，出現瓶頸的結果就是數據庫CPU高、Sql執行慢、客戶端報數據庫連接池不夠等錯誤，因此例如萬人秒殺這種場景，我們絕對不可能通過數據庫直接去扣減庫存。

可能有朋友說，數據庫在高并發下的能力有瓶頸，我公司有錢，加CPU、換固態硬盤、繼續買服務器加數據庫做分庫不就好了，問題是這是一種性價比非常低的方式，花1000萬達到的效果，換其他方式可能100萬就達到了，不考慮人員、服務器投入產出比的Leader就是個不合格的Leader，且關系型數據庫的方式，受限于它本身的特點，可能花了錢都未必能達到想要的效果。至于什么是花100萬就能達到花1000萬效果的方式呢？可以繼續往下看，這就是我們要說的NoSql。

結合NoSql的方式做存儲的架構演進

像上文分析的，數據庫作為一種關系型數據的存儲引擎，存儲的是關系型數據，它有優點，同時也有明顯的缺點，因此通常在企業規模不斷擴大的情況下，不會一味指望通過增強數據庫的能力來解決數據存儲問題，而是會引入其他存儲，也就是我們說的NoSql。

NoSql的全稱為Not Only SQL，泛指非關系型數據庫，是對關系型數據庫的一種補充，特別注意補充這兩個字，這意味著NoSql與關系型數據庫并不是對立關系，二者各有優劣，取長補短，在合適的場景下選擇合適的存儲引擎才是正確的做法。

比較簡單的NoSql就是緩存：

針對那些讀遠多于寫的數據，引入一層緩存，每次讀從緩存中讀取，緩存中讀取不到，再去數據庫中取，取完之后再寫入到緩存，對數據做好失效機制通常就沒有大問題了。通常來說，緩存是性能優化的第一選擇也是見效最明顯的方案。

但是，緩存通常都是KV型存儲且容量有限（基于內存），無法解決所有問題，于是再進一步的優化，我們繼續引入其他NoSql：

數據庫、緩存與其他NoSql并行工作，充分發揮每種NoSql的特點。當然NoSql在性能方面大大優于關系挺數據庫的同時，往往也伴隨著一些特性的缺失，比較常見的就是事務功能的缺失。

下面看一下常用的NoSql及他們的代表產品，并對每種NoSql的優缺點和適用場景做一下分析，便于熟悉每種NoSql的特點，方便技術選型。

KV型NoSql（代表----Redis）

KV型NoSql顧名思義就是以鍵值對形式存儲的非關系型數據庫，是最簡單、最容易理解也是大家最熟悉的一種NoSql，因此比較快地帶過。Redis、MemCache是其中的代表，Redis又是KV型NoSql中應用最廣泛的NoSql，KV型數據庫以Redis為例，最大的優點我總結下來就兩點：

數據基于內存，讀寫效率高
KV型數據，時間復雜度為O(1)，查詢速度快

因此，KV型NoSql最大的優點就是高性能，利用Redis自帶的BenchMark做基準測試，TPS可達到10萬的級別，性能非常強勁。同樣的Redis也有所有KV型NoSql都有的比較明顯的缺點：

只能根據K查V，無法根據V查K
查詢方式單一，只有KV的方式，不支持條件查詢，多條件查詢唯一的做法就是數據冗余，但這會極大的浪費存儲空間
內存是有限的，無法支持海量數據存儲
同樣的，由于KV型NoSql的存儲是基于內存的，會有丟失數據的風險

綜上所述，KV型NoSql最合適的場景就是緩存的場景：

讀遠多于寫
讀取能力強
沒有持久化的需求，可以容忍數據丟失，反正丟了再查詢一把寫入就是了

例如根據用戶id查詢用戶信息，每次根據用戶id去緩存中查詢一把，查到數據直接返回，查不到去關系型數據庫里面根據id查詢一把數據寫到緩存中去。

搜索型NoSql（代表----ElasticSearch）

傳統關系型數據庫主要通過索引來達到快速查詢的目的，但是在全文搜索的場景下，索引是無能為力的，like查詢一來無法滿足所有模糊匹配需求，二來使用限制太大且使用不當容易造成慢查詢，搜索型NoSql的誕生正是為了解決關系型數據庫全文搜索能力較弱的問題，ElasticSearch是搜索型NoSql的代表產品。

全文搜索的原理是倒排索引，我們看一下什么是倒排索引。要說倒排索引我們先看下什么是正排索引，傳統的正排索引是文檔–>關鍵字的映射，例如"Tom is my friend"這句話，會將其切分為"Tom"、“is”、“my”、"friend"四個單詞，在搜索的時候對文檔進行掃描，符合條件的查出來。這種方式原理非常簡單，但是由于其檢索效率太低，基本沒什么實用價值。

倒排索引則完全相反，它是關鍵字–>文檔的映射，我用張表格展示一下就比較清楚了：

意思是我現在這里有"Tom is Tom"、“Tom is my friend”、“Thank you, Betty”、“Tom is Betty’s husband"四句話，搜索引擎會根據一定的切分規則將這句話切成N個關鍵字，并以關鍵字的維度維護關鍵字在每個文本中的出現次數。這樣下次搜索"Tom"的時候，由于Tom這個詞語在"Tom is Tom”、“Tom is my friend”、"Tom is Betty’s husband"三句話中都有出現，因此這三條記錄都會被檢索出來，且由于"Tom is Tom"這句話中"Tom"出現了2次，因此這條記錄對"Tom"這個單詞的匹配度最高，最先展示。這就是搜索引擎倒排索引的基本原理，假設某個關鍵字在某個文檔中出現，那么倒排索引中有兩部分內容：

文檔ID
在該文檔中出現的位置情況

可以舉一反三，我們搜索"Betty Tom"這兩個詞語也是一樣，搜索引擎將"Betty Tom"切分為"Tom"、"Betty"兩個單詞，根據開發者指定的滿足率，比如滿足率=50%，那么只要記錄中出現了兩個單詞之一的記錄都會被檢索出來，再按照匹配度進行展示。

搜索型NoSql以ElasticSearch為例，它的優點為：

支持分詞場景、全文搜索，這是區別于關系型數據庫最大特點
支持條件查詢，支持聚合操作，類似關系型數據庫的Group By，但是功能更加強大，適合做數據分析
數據寫文件無丟失風險，在集群環境下可以方便橫向擴展，可承載PB級別的數據
高可用，自動發現新的或者失敗的節點，重組和重新平衡數據，確保數據是安全和可訪問的

同樣，ElasticSearch也有比較明顯的缺點：

性能全靠內存來頂，也是使用的時候最需要注意的點，非常吃硬件資源、吃內存，大數據量下64G + SSD基本是標配，算得上是數據庫中的愛馬仕了。為什么要專門提一下內存呢，因為內存這個東西是很值錢的，相同的配置多一倍內存，一個月差不多就要多花幾百塊錢，至于ElasticSearch內存用在什么地方，大概有如下這些：
Indexing Buffer----ElasticSearch基于Luence，Lucene的倒排索引是先在內存里生成，然后定期以Segment File的方式刷磁盤的，每個Segment File實際就是一個完整的倒排索引
Segment Memory----倒排索引前面說過是基于關鍵字的，Lucene在4.0后會將所有關鍵字以FST這種數據結構的方式將所有關鍵字在啟動的時候全量加載到內存，加快查詢速度，官方建議至少留系統一半內存給Lucene
各類緩存----Filter Cache、Field Cache、Indexing Cache等，用于提升查詢分析性能，例如Filter Cache用于緩存使用過的Filter的結果集
Cluter State Buffer----ElasticSearch被設計為每個Node都可以響應用戶請求，因此每個Node的內存中都包含有一份集群狀態的拷貝，一個規模很大的集群這個狀態信息可能會非常大
讀寫之間有延遲，寫入的數據差不多1s樣子會被讀取到，這也正常，寫入的時候自動加入這么多索引肯定影響性能
數據結構靈活性不高，ElasticSearch這個東西，字段一旦建立就沒法修改類型了，假如建立的數據表某個字段沒有加全文索引，想加上，那么只能把整個表刪了再重建

因此，搜索型NoSql最適用的場景就是有條件搜索尤其是全文搜索的場景，作為關系型數據庫的一種替代方案。

另外，搜索型數據庫還有一種特別重要的應用場景。我們可以想，一旦對數據庫做了分庫分表后，原來可以在單表中做的聚合操作、統計操作是否統統失效？例如我把訂單表分16個庫，1024張表，那么訂單數據就散落在1024張表中，我想要統計昨天浙江省單筆成交金額最高的訂單是哪筆如何做？我想要把昨天的所有訂單按照時間排序分頁展示如何做？這就是文檔型NoSql的另一大作用了，我們可以把分表之后的數據統一打在文檔型NoSql中，利用文檔型NoSql的搜索與聚合能力完成對全量數據的查詢。

至于為什么把它放在KV型NoSql后面作為第二個寫呢，因為通常搜索型NoSql也會作為一層前置緩存，來對關系型數據庫進行保護。

列式NoSql（代表----HBase）

列式NoSql，大數據時代最具代表性的技術之一了，以HBase為代表。

列式NoSql是基于列式存儲的，那么什么是列式存儲呢，列式NoSql和關系型數據庫一樣都有主鍵的概念，區別在于關系型數據庫是按照行組織的數據：

看到每行有name、phone、address三個字段，這是行式存儲的方式，且可以觀察id = 2的這條數據，即使phone字段沒有，它也是占空間的。

列式存儲完全是另一種方式，它是按每一列進行組織的數據：

這么做有什么好處呢？大致有以下幾點：

查詢時只有指定的列會被讀取，不會讀取所有列
存儲上節約空間，Null值不會被存儲，一列中有時候會有很多重復數據（尤其是枚舉數據，性別、狀態等），這類數據可壓縮，行式數據庫壓縮率通常在3:1_{5:1之間，列式數據庫的壓縮率一般在8:1}30:1左右
列數據被組織到一起，一次磁盤IO可以將一列數據一次性讀取到內存中

第二點說到了數據壓縮，什么意思呢，以比較常見的字典表壓縮方式舉例：

自己看圖理解一下，應該就懂了。

接著繼續講講優缺點，列式NoSql，以HBase為代表的，優點為：

海量數據無限存儲，PB級別數據隨便存，底層基于HDFS（Hadoop文件系統），數據持久化
讀寫性能好，只要沒有濫用造成數據熱點，讀寫基本隨便玩
橫向擴展在關系型數據庫及非關系型數據庫中都是最方便的之一，只需要添加新機器就可以實現數據容量的線性增長，且可用在廉價服務器上，節省成本
本身沒有單點故障，可用性高
可存儲結構化或者半結構化的數據
列數理論上無限，HBase本身只對列族數量有要求，建議1~3個

說了這么多HBase的優點，又到了說HBase缺點的時候了：

HBase是Hadoop生態的一部分，因此它本身是一款比較重的產品，依賴很多Hadoop組件，數據規模不大沒必要用，運維還是有點復雜的
KV式，不支持條件查詢，或者說條件查詢非常非常弱吧，HBase在Scan掃描一批數據的情況下還是提供了前綴匹配這種API的，條件查詢除非定義多個RowKey做數據冗余
不支持分頁查詢，因為統計不了數據總數

因此HBase比較適用于那種KV型的且未來無法預估數據增長量的場景，另外HBase使用還是需要一定的經驗，主要體現在RowKey的設計上。

文檔型NoSql（代表----MongoDB）

坦白講，根據我的工作經歷，文檔型NoSql我只有比較淺的使用經驗，因此這部分只能結合之前的使用與網上的文章大致給大家介紹一下。

什么是文檔型NoSql呢，文檔型NoSql指的是將半結構化數據存儲為文檔的一種NoSql，文檔型NoSql通常以JSON或者XML格式存儲數據，因此文檔型NoSql是沒有Schema的，由于沒有Schema的特性，我們可以隨意地存儲與讀取數據，因此文檔型NoSql的出現是解決關系型數據庫表結構擴展不方便的問題的。

MongoDB是文檔型NoSql的代表產品，同時也是所有NoSql產品中的明星產品之一，因此這里以MongoDB為例。按我的理解，作為文檔型NoSql，MongoDB是一款完全和關系型數據庫對標的產品，就我們從存儲上來看：