MySQL分庫分表總結參考

單庫單表

單庫單表是最常見的數據庫設計,例如,有一張用戶(user)表放在數據庫db中,所有的用戶都可以在db庫中的user表中查到。?

單庫多表?

隨著用戶數量的增加,user表的數據量會越來越大,當數據量達到一定程度的時候對user表的查詢會漸漸的變慢,從而影響整個DB的性能。如果使用mysql, 還有一個更嚴重的問題是,當需要添加一列的時候,mysql會鎖表,期間所有的讀寫操作只能等待。?

可以通過某種方式將user進行水平的切分,產生兩個表結構完全一樣的user_0000,user_0001等表,user_0000 + user_0001 + …的數據剛好是一份完整的數據。?

多庫多表

? ? ? ? ?隨著數據量增加也許單臺DB的存儲空間不夠,隨著查詢量的增加單臺數據庫服務器已經沒辦法支撐。這個時候可以再對數據庫進行水平區分。?

分庫分表規則

? ? ? ? ?設計表的時候需要確定此表按照什么樣的規則進行分庫分表。例如,當有新用戶時,程序得確定將此用戶信息添加到哪個表中;同理,當登錄的時候我們得通過用戶的賬號找到數據庫中對應的記錄,所有的這些都需要按照某一規則進行。?

路由?

? ? ? ? ?通過分庫分表規則查找到對應的表和庫的過程。如分庫分表的規則是user_id mod 4的方式,當用戶新注冊了一個賬號,賬號id的123,我們可以通過id mod 4的方式確定此賬號應該保存到User_0003表中。當用戶123登錄的時候,我們通過123 mod 4后確定記錄在User_0003中。?

分庫分表產生的問題,及注意事項

1. 分庫分表維度的問題

假如用戶購買了商品,需要將交易記錄保存取來,如果按照用戶的緯度分表,則每個用戶的交易記錄都保存在同一表中,所以很快很方便的查找到某用戶的購買情況,但是某商品被購買的情況則很有可能分布在多張表中,查找起來比較麻煩。反之,按照商品維度分表,可以很方便的查找到此商品的購買情況,但要查找到買人的交易記錄比較麻煩。?

所以常見的解決方式有:

? ? ?a.通過掃表的方式解決,此方法基本不可能,效率太低了。?

? ? ?b.記錄兩份數據,一份按照用戶緯度分表,一份按照商品維度分表。?

? ? ?c.通過搜索引擎解決,但如果實時性要求很高,又得關系到實時搜索。?

2. 聯合查詢的問題?

聯合查詢基本不可能,因為關聯的表有可能不在同一數據庫中

3. 避免跨庫事務?

避免在一個事務中修改db0中的表的時候同時修改db1中的表,一個是操作起來更復雜,效率也會有一定影響。?

?

4. 盡量把同一組數據放到同一DB服務器上?

例如將賣家a的商品和交易信息都放到db0中,當db1掛了的時候,賣家a相關的東西可以正常使用。也就是說避免數據庫中的數據依賴另一數據庫中的數據。?

?

一主多備?

在實際的應用中,絕大部分情況都是讀遠大于寫。Mysql提供了讀寫分離的機制,所有的寫操作都必須對應到Master,讀操作可以在Master和Slave機器上進行,Slave與Master的結構完全一樣,一個Master可以有多個Slave,甚至Slave下還可以掛Slave,通過此方式可以有效的提高DB集群的QPS. ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??

所有的寫操作都是先在Master上操作,然后同步更新到Slave上,所以從Master同步到Slave機器有一定的延遲,當系統很繁忙的時候,延遲問題會更加嚴重,Slave機器數量的增加也會使這個問題更加嚴重。?

此外,可以看出Master是集群的瓶頸,當寫操作過多,會嚴重影響到Master的穩定性,如果Master掛掉,整個集群都將不能正常工作。?

?

所以,1. 當讀壓力很大的時候,可以考慮添加Slave機器的分式解決,但是當Slave機器達到一定的數量就得考慮分庫了。 2. 當寫壓力很大的時候,就必須得進行分庫操作。

---------------------------------------------?

?

MySQL使用為什么要分庫分表?

可以用說用到MySQL的地方,只要數據量一大, 馬上就會遇到一個問題,要分庫分表.?

這里引用一個問題為什么要分庫分表呢?MySQL處理不了大的表嗎??

其實是可以處理的大表的.我所經歷的項目中單表物理上文件大小在80G多,單表記錄數在5億以上,而且這個表?

屬于一個非常核用的表:朋友關系表.?

?

但這種方式可以說不是一個最佳方式. 因為面臨文件系統如Ext3文件系統對大于大文件處理上也有許多問題.?

這個層面可以用xfs文件系統進行替換.但MySQL單表太大后有一個問題是不好解決: 表結構調整相關的操作基?

本不在可能.所以大項在使用中都會面監著分庫分表的應用.?

?

從Innodb本身來講數據文件的Btree上只有兩個鎖, 葉子節點鎖和子節點鎖,可以想而知道,當發生頁拆分或是添加?

新葉時都會造成表里不能寫入數據.?

所以分庫分表還就是一個比較好的選擇了.?

?

那么分庫分表多少合適呢??

經測試在單表1000萬條記錄一下,寫入讀取性能是比較好的. 這樣在留點buffer,那么單表全是數據字型的保持在?

800萬條記錄以下, 有字符型的單表保持在500萬以下.?

?

如果按 100庫100表來規劃,如用戶業務:?

500萬*100*100 = 50000000萬 = 5000億記錄.?

心里有一個數了,按業務做規劃還是比較容易的.

原文地址:http://wentao365.iteye.com/blog/1740874

轉載于:https://www.cnblogs.com/yougewe/p/5585291.html

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/255092.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/255092.shtml
英文地址,請注明出處:http://en.pswp.cn/news/255092.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

小兔伴伴家庭動物園AR智能早教產品上市

2016年6月,經過樂卓大家庭所有人的共同努力,公司旗下首款新品——小兔伴伴之《家庭動物園》3D智能學習卡正式面世。 每個孩子都應該在合適的時間去體驗豐富的聲音、色彩和動作,《家庭動物園》,專為2-6歲兒童貼心設計,是…

EPSON 自帶CCD圖像處理包使用舉例

EPSON 機器人可以購買CCD圖像處理包選項,CCD圖像處理包與SPEL語言高度結合,可以非常快的將項目投入應用,舉例說明CCD圖像處理包與SPEL的聯合使用。 EPSON 以視覺序列定義圖像處理的一個項目,視覺序列是一組按照特定順序排列的視覺…

索引使用原則

前兩篇文章我總結了一些SQL數據庫索引的問題,這篇主要來分析下索引的優缼點,以及如何正確使用索引。 索引的優點:這個顯而易見,正確的索引會大大提高數據查詢,對結果進行排序、分組的操作效率。 索引的缺點…

根據時間變換頁面背景

1.概述 有些時侯為了豐富頁面的顯示效果,將頁面制作成根據時間變換頁面背景的樣式,這樣會使瀏覽者對此網站不會感覺厭倦,同時也會覺得網站制作的非常新穎。本實例通過Date對象的getHours()方法獲得當前系統時間的小時,然后根據不同…

EPSON 自帶CCD圖像處理包的典型應用框架

EPSON 自帶CCD圖像處理包的典型應用框架 Function main ******************************************** Very important statement below: Use the * //非常重要的是在實際運行時,用合適的Z數值代替預定義的 ZHeight 。Z height which you wrote down earlier in *…

EPSON 利用CCD圖像處理包標定工具坐標系

EPSON 利用CCD圖像處理包標定工具坐標系 仰視式安裝的相機可以用來計算工具偏移,下例使用仰視式相機來計算工具偏移。該功能首先運行一個序列來定位工具的尖端。然后計算出工具偏移(前提是CCD已標定)。 Function CalcTool Boolean foundReal…

掛馬方式研究、掛馬檢測技術研究

1. 掛馬定義 所謂的掛馬,就是黑客通過各種手段,包括SQL注入,網站敏感文件掃描,服務器漏洞,網站程序0day, 等各種方法獲得網站管理員賬號,然后登陸網站后臺,通過數據庫"備份/恢復"或者…

大幅面多相機高精度定位及測量解決方案

隨著機器視覺應用的日益廣泛,大幅面多相機視覺系統的需求越來越多,主要應用方向為大幅面高精度的定位與測量和場景拼接等。多相機視覺系統的難點在于多相機坐標系的統一,可以分為兩類,一是相機視野間無重疊部分,二是相…

Hadoop 使用FileSystem API 讀取數據

代碼: package com.hadoop;import java.io.IOException; import java.io.InputStream; import java.net.URI;import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import org.apache.hadoop.…

EPSON 機器人多任務下的互鎖處理

在很多時候,有多個任務具有動作命令指令。為了防止多個任務運行動作命令時,對僅有的一個機器人產生的控制沖突,有必要進行連鎖處理。一個任務進行機器人控制時,另一個任務則會等待控制權。這樣,各任務就可以完全按照預…

mysql高可用方案MHA介紹

mysql高可用方案MHA介紹概述MHA是一位日本MySQL大牛用Perl寫的一套MySQL故障切換方案,來保證數據庫系統的高可用.在宕機的時間內(通常10—30秒內),完成故障切換,部署MHA,可避免主從一致性問題,節…

SQL遞歸查詢(with as)

SQL遞歸查詢(with cte as) with cte as( select Id,Pid,DeptName,0 as lvl from Department where Id 2 union all select d.Id,d.Pid,d.DeptName,lvl1 from cte c inner join Department d on c.Id d.Pid)select * from cte1 表結構Id Pid …

庖丁解牛TLD(一)——開篇

最近在網上多次看到有關Zdenek Kalal的TLD的文章,說他做的工作如何的帥,看了一下TLD的視頻,感覺確實做的很好,有人夸張的說他這個系統可以和Kniect媲美,我倒是兩者的工作可比性不大,實現的方法也不同。但這…

Arduino從DHT11讀取溫濕度數據并顯示在1602LCD

硬件清單 Arduino NANO1602LCD PCF8574T模塊YL-47 DHT11模塊 連線 1. 連接LCD: PCF8574T模塊4pin(Gnd, Vcc, SDA i2c數據, SCL i2c時鐘) 連接至Arduino接口 Gnd -> Gnd, Vcc -> Vcc, SDA -> A4, SDL -> A52. 連接YL-47 DHT11: Gnd -> Gnd, Vcc -> Vcc, Data…

服務器性能測試

淺談服務器性能測試的全生命周期——從測試、結果分析到優化策略 原創 2016-06-16 Micheal 騰訊WeTest測試開發者的共同關注!作者:Micheal,騰訊資深后臺開發工程師。WeTest導讀 服務器性能測試是一項非常重要而且必要的工作,本文是…

庖丁解牛TLD(二)——初始化工作(為算法的準備)

我說的初始化,還不是算法的初始化工作,而是讀入圖像,響應鍵盤鼠標之類的工作。作者提供的代碼中的工作包含了從攝像頭讀取和從文件中讀取兩種輸入方案。這里介紹一下從文件輸入的辦法。因為OpenCV從視頻讀取圖像序列的辦法有很好的demo&#…

(轉載)Qt中MOC的一些限制

無意中發現在Qt的文檔里有一篇關于moc工具的limitation的文章,里頭的東西值得學習一下。 Qt一個鏈接的錯誤, 程序結構很簡單, 就是designer設計主界面,在代碼里用多重繼承方式使用, 奇怪的錯誤信息如下: mo…

庖丁解牛TLD(三)——算法初始化

上一講我提到對于算法的初始化工作主要是在tldInit這個函數里實現的。主要分為如下幾大步驟,1)初始化Detector。2)初始化Trajectory。3)訓練Detector 1)初始化Detector 其中bb_scan為掃描grid區域,該函數輸入為boundin…

Web測試容易忽略的地方

1.瀏覽器的后退按鈕 提交表單一條已經成功提交的記錄,back后再提交,看系統會如何處理。檢查多次使用back健的情況在有back的地方,back,回到原來的頁面,再back,重復幾次,看是否會報錯。 2.通過修…