Mysql高性能優化技能總結

數據庫命令規范

  1. 所有數據庫對象名稱必須使用小寫字母并用下劃線分割

  2. 所有數據庫對象名稱禁止使用mysql保留關鍵字(如果表名中包含關鍵字查詢時,需要將其用單引號括起來)

  3. 數據庫對象的命名要能做到見名識意,并且最后不要超過32個字符

  4. 臨時庫表必須以tmp_為前綴并以日期為后綴,備份表必須以bak_為前綴并以日期(時間戳)為后綴

  5. 所有存儲相同數據的列名和列類型必須一致(一般作為關聯列,如果查詢時關聯列類型不一致會自動進行數據類型隱式轉換,會造成列上的索引失效,導致查詢效率降低)

數據庫基本設計規范

1. 所有表必須使用Innodb存儲引擎
沒有特殊要求(即Innodb無法滿足的功能如:列存儲,存儲空間數據等)的情況下,所有表必須使用Innodb存儲引擎(mysql5.5之前默認使用Myisam,5.6以后默認的為Innodb)。
Innodb 支持事務,支持行能鎖,更好的恢復性,高并發下性能更好。

2. 數據庫和表的字符集統一使用UTF8
兼容性更好,統一字符集可以避免由于字符集轉換產生的亂碼,不同的字符集進行比較前需要進行轉換會造成索引失效,如果數據庫中有存儲emoji表情的需要,字符集需要采用utf8mb4字符集。

3. 所有表和字段都需要添加注釋
使用comment從句添加表和列的備注,從一開始就進行數據字典的維護

4. 盡量控制單表數據量的大小,建議控制在500萬以內。
500萬并不是Mysql數據庫的限制,過大會造成修改表結構,備份,恢復都會有很大的問題。

可以用歷史數據歸檔(應用于日志數據),分庫分表(應用于業務數據)等手段來控制數據量大小

5. 謹慎使用Mysql分區表
分區表在物理上表現為多個文件,在邏輯上表現為一個表;
謹慎選擇分區鍵,跨分區查詢效率可能更低;
建議采用物理分表的方式管理大數據。

6. 盡量做到冷熱數據分離,減小表的寬度
Mysql限制每個表最多存儲4096列,并且每一行數據的大小不能超過65535字節。
減少磁盤IO,保證熱數據的內存緩存命中率(表越寬,把表裝載進內存緩沖池時所占用的內存也就越大,也會消耗更多的IO);

更有效的利用緩存,避免讀入無用的冷數據;

經常一起使用的列放到一個表中(避免更多的關聯操作)。

7. 禁止在表中建立預留字段
預留字段的命名很難做到見名識義。預留字段無法確認存儲的數據類型,所以無法選擇合適的類型。對預留字段類型的修改,會對表進行鎖定。

8. 禁止在數據庫中存儲圖片,文件等大的二進制數據
通常文件很大,會短時間內造成數據量快速增長,數據庫進行數據庫讀取時,通常會進行大量的隨機IO操作,文件很大時,IO操作很耗時。

通常存儲于文件服務器,數據庫只存儲文件地址信息

9. 禁止在線上做數據庫壓力測試
10. 禁止從開發環境,測試環境直接連接生成環境數據庫

數據庫字段設計規范

1. 優先選擇符合存儲需要的最小的數據類型

原因:

列的字段越大,建立索引時所需要的空間也就越大,這樣一頁中所能存儲的索引節點的數量也就越少也越少,在遍歷時所需要的IO次數也就越多,索引的性能也就越差。

方法:

將字符串轉換成數字類型存儲,如:將IP地址轉換成整形數據
mysql提供了兩個方法來處理ip地址

inet_aton 把ip轉為無符號整型(4-8位)
inet_ntoa 把整型的ip轉為地址
插入數據前,先用inet_aton把ip地址轉為整型,可以節省空間,顯示數據時,使用inet_ntoa把整型的ip地址轉為地址顯示即可。

對于非負型的數據(如自增ID、整型IP)來說,要優先使用無符號整型來存儲
原因:

無符號相對于有符號可以多出一倍的存儲空間

SIGNED INT -2147483648~2147483647
UNSIGNED INT 0~4294967295
VARCHAR(N)中的N代表的是字符數,而不是字節數,使用UTF8存儲255個漢字 Varchar(255)=765個字節。*過大的長度會消耗更多的內存。

2. 避免使用TEXT、BLOB數據類型,最常見的TEXT類型可以存儲64k的數據

建議把BLOB或是TEXT列分離到單獨的擴展表中
Mysql內存臨時表不支持TEXT、BLOB這樣的大數據類型,如果查詢中包含這樣的數據,在排序等操作時,就不能使用內存臨時表,必須使用磁盤臨時表進行。

而且對于這種數據,Mysql還是要進行二次查詢,會使sql性能變得很差,但是不是說一定不能使用這樣的數據類型。

如果一定要使用,建議把BLOB或是TEXT列分離到單獨的擴展表中,查詢時一定不要使用select * 而只需要取出必要的列,不需要TEXT列的數據時不要對該列進行查詢。

TEXT或BLOB類型只能使用前綴索引
因為MySQL對索引字段長度是有限制的,所以TEXT類型只能使用前綴索引,并且TEXT列上是不能有默認值的

3. 避免使用ENUM類型

修改ENUM只需要使用ALTER語句

ENUM類型的ORDER BY操作效率低,需要額外操作

禁止使用數值作為ENUM的枚舉值

4. 盡可能把所有列定義為NOT NULL

原因:

索引NULL列需要額外的空間來保存,所以要占用更多的空間
進行比較和計算時要對NULL值做特別的處理

5. 使用TIMESTAMP(4個字節)或DATETIME類型(8個字節)存儲時間

TIMESTAMP 存儲的時間范圍 1970-01-01 00:00:01 ~ 2038-01-19-03:14:07
TIMESTAMP 占用4字節和INT相同,但比INT可讀性高
超出TIMESTAMP取值范圍的使用DATETIME類型存儲

經常會有人用字符串存儲日期型的數據(不正確的做法)

缺點1:無法用日期函數進行計算和比較
缺點2:用字符串存儲日期要占用更多的空間

6. 同財務相關的金額類數據必須使用decimal類型

非精準浮點:float,double
精準浮點:decimal
Decimal類型為精準浮點數,在計算時不會丟失精度
占用空間由定義的寬度決定,每4個字節可以存儲9位數字,并且小數點要占用一個字節
可用于存儲比bigint更大的整型數據

索引設計規范

1. 限制每張表上的索引數量,建議單張表索引不超過5個
索引并不是越多越好!索引可以提高效率同樣可以降低效率。

索引可以增加查詢效率,但同樣也會降低插入和更新的效率,甚至有些情況下會降低查詢效率。

因為mysql優化器在選擇如何優化查詢時,會根據統一信息,對每一個可以用到的索引來進行評估,以生成出一個最好的執行計劃,如果同時有很多個索引都可以用于查詢,就會增加mysql優化器生成執行計劃的時間,同樣會降低查詢性能。

2. 禁止給表中的每一列都建立單獨的索引
5.6版本之前,一個sql只能使用到一個表中的一個索引,5.6以后,雖然有了合并索引的優化方式,但是還是遠遠沒有使用一個聯合索引的查詢方式好。

3. 每個Innodb表必須有個主鍵
Innodb是一種索引組織表:數據的存儲的邏輯順序和索引的順序是相同的。每個表都可以有多個索引,但是表的存儲順序只能有一種。

Innodb是按照主鍵索引的順序來組織表的

不要使用更新頻繁的列作為主鍵,不使用多列主鍵(相當于聯合索引)
不要使用UUID,MD5,HASH,字符串列作為主鍵(無法保證數據的順序增長)
主鍵建議使用自增ID值

常見索引列建議

出現在SELECT、UPDATE、DELETE語句的WHERE從句中的列
包含在ORDER BY、GROUP BY、DISTINCT中的字段
并不要將符合1和2中的字段的列都建立一個索引, 通常將1、2中的字段建立聯合索引效果更好
多表join的關聯列

如何選擇索引列的順序

建立索引的目的是:希望通過索引進行數據查找,減少隨機IO,增加查詢性能 ,索引能過濾出越少的數據,則從磁盤中讀入的數據也就越少。

區分度最高的放在聯合索引的最左側(區分度=列中不同值的數量/列的總行數)
盡量把字段長度小的列放在聯合索引的最左側(因為字段長度越小,一頁能存儲的數據量越大,IO性能也就越好)
使用最頻繁的列放到聯合索引的左側(這樣可以比較少地建立一些索引)

避免建立冗余索引和重復索引(增加了查詢優化器生成執行計劃的時間)

重復索引示例:primary key(id)、index(id)、unique index(id)
冗余索引示例:index(a,b,c)、index(a,b)、index(a)

對于頻繁的查詢優先考慮使用覆蓋索引

覆蓋索引:就是包含了所有查詢字段(where,select,ordery by,group by包含的字段)的索引
覆蓋索引的好處:

避免Innodb表進行索引的二次查詢

Innodb是以聚集索引的順序來存儲的,對于Innodb來說,二級索引在葉子節點中所保存的是行的主鍵信息,如果是用二級索引查詢數據的話,在查找到相應的鍵值后,還要通過主鍵進行二次查詢才能獲取我們真實所需要的數據。

而在覆蓋索引中,二級索引的鍵值中可以獲取所有的數據,避免了對主鍵的二次查詢 ,減少了IO操作,提升了查詢效率。

可以把隨機IO變成順序IO加快查詢效率
由于覆蓋索引是按鍵值的順序存儲的,對于IO密集型的范圍查找來說,對比隨機從磁盤讀取每一行的數據IO要少得多,因此利用覆蓋索引在訪問時也可以把磁盤的隨機讀取的IO轉變成索引查找的順序IO。

索引SET規范

盡量避免使用外鍵約束
不建議使用外鍵約束(foreign key),但一定要在表與表之間的關聯鍵上建立索引
外鍵可用于保證數據的參照完整性,但建議在業務端實現
外鍵會影響父表和子表的寫操作從而降低性能

數據庫SQL開發規范

1. 建議使用預編譯語句進行數據庫操作

預編譯語句可以重復使用這些計劃,減少SQL編譯所需要的時間,還可以解決動態SQL所帶來的SQL注入的問題。

只傳參數,比傳遞SQL語句更高效。

相同語句可以一次解析,多次使用,提高處理效率。

2. 避免數據類型的隱式轉換

隱式轉換會導致索引失效如:

select name,phone from customer where id = '111';

3. 充分利用表上已經存在的索引

避免使用雙%號的查詢條件。如:a like '%123%',(如果無前置%,只有后置%,是可以用到列上的索引的)

一個SQL只能利用到復合索引中的一列進行范圍查詢。如:有 a,b,c列的聯合索引,在查詢條件中有a列的范圍查詢,則在b,c列上的索引將不會被用到。

在定義聯合索引時,如果a列要用到范圍查找的話,就要把a列放到聯合索引的右側,使用left join 或 not exists 來優化not in 操作,因為not in 也通常會使用索引失效。

4. 數據庫設計時,應該要對以后擴展進行考慮

5. 程序連接不同的數據庫使用不同的賬號,進制跨庫查詢

為數據庫遷移和分庫分表留出余地
降低業務耦合度
避免權限過大而產生的安全風險

6. 禁止使用SELECT * 必須使用SELECT <字段列表> 查詢

原因:

消耗更多的CPU和IO以網絡帶寬資源
無法使用覆蓋索引
可減少表結構變更帶來的影響

7. 禁止使用不含字段列表的INSERT語句

如:

insert into values ('a','b','c');

應使用:

insert into t(c1,c2,c3) values ('a','b','c');

8. 避免使用子查詢,可以把子查詢優化為join操作

通常子查詢在in子句中,且子查詢中為簡單SQL(不包含union、group by、order by、limit從句)時,才可以把子查詢轉化為關聯查詢進行優化。

子查詢性能差的原因:

子查詢的結果集無法使用索引,通常子查詢的結果集會被存儲到臨時表中,不論是內存臨時表還是磁盤臨時表都不會存在索引,所以查詢性能會受到一定的影響。特別是對于返回結果集比較大的子查詢,其對查詢性能的影響也就越大。

由于子查詢會產生大量的臨時表也沒有索引,所以會消耗過多的CPU和IO資源,產生大量的慢查詢。

9. 避免使用JOIN關聯太多的表

對于Mysql來說,是存在關聯緩存的,緩存的大小可以由join_buffer_size參數進行設置。

在Mysql中,對于同一個SQL多關聯(join)一個表,就會多分配一個關聯緩存,如果在一個SQL中關聯的表越多,所占用的內存也就越大。

如果程序中大量的使用了多表關聯的操作,同時join_buffer_size設置的也不合理的情況下,就容易造成服務器內存溢出的情況,就會影響到服務器數據庫性能的穩定性。

同時對于關聯操作來說,會產生臨時表操作,影響查詢效率,Mysql最多允許關聯61個表,建議不超過5個。

10. 減少同數據庫的交互次數

數據庫更適合處理批量操作,合并多個相同的操作到一起,可以提高處理效率。

11. 對應同一列進行or判斷時,使用in代替or

in 的值不要超過500個,in 操作可以更有效的利用索引,or大多數情況下很少能利用到索引。

12. 禁止使用order by rand() 進行隨機排序

order by rand()會把表中所有符合條件的數據裝載到內存中,然后在內存中對所有數據根據隨機生成的值進行排序,并且可能會對每一行都生成一個隨機值,如果滿足條件的數據集非常大,就會消耗大量的CPU和IO及內存資源。

推薦在程序中獲取一個隨機值,然后從數據庫中獲取數據的方式。

13. WHERE從句中禁止對列進行函數轉換和計算

對列進行函數轉換或計算時會導致無法使用索引

不推薦:

where date(create_time)='20190101'

推薦:

where create_time >= '20190101' and create_time < '20190102'

14. 在明顯不會有重復值時使用UNION ALL 而不是UNION

UNION 會把兩個結果集的所有數據放到臨時表中后再進行去重操作
UNION ALL 不會再對結果集進行去重操作

15. 拆分復雜的大SQL為多個小SQL

大SQL邏輯上比較復雜,需要占用大量CPU進行計算的SQL
MySQL中,一個SQL只能使用一個CPU進行計算
SQL拆分后可以通過并行執行來提高處理效率

數據庫操作行為規范

超100萬行的批量寫(UPDATE、DELETE、INSERT)操作,要分批多次進行操作

1、大批量操作可能會造成嚴重的主從延遲

主從環境中,大批量操作可能會造成嚴重的主從延遲,大批量的寫操作一般都需要執行一定長的時間

而只有當主庫上執行完成后,才會在其他從庫上執行,所以會造成主庫與從庫長時間的延遲情況

2、binlog日志為row格式時會產生大量的日志

大批量寫操作會產生大量日志,特別是對于row格式二進制數據而言,由于在row格式中會記錄每一行數據的修改,我們一次修改的數據越多,產生的日志量也就會越多,日志的傳輸和恢復所需要的時間也就越長,這也是造成主從延遲的一個原因

3、避免產生大事務操作

大批量修改數據,一定是在一個事務中進行的,這就會造成表中大批量數據進行鎖定,從而導致大量的阻塞,阻塞會對MySQL的性能產生非常大的影響。

特別是長時間的阻塞會占滿所有數據庫的可用連接,這會使生產環境中的其他應用無法連接到數據庫,因此一定要注意大批量寫操作要進行分批

對于大表使用pt-online-schema-change修改表結構

避免大表修改產生的主從延遲

避免在對表字段進行修改時進行鎖表
對大表數據結構的修改一定要謹慎,會造成嚴重的縮表操作,尤其是生產環境,是不能容忍的。

pt-online-schema-change它會首先建立一個與原表結構相同的新表,并且在新表上進行表結構的修改,然后再把原表中的數據復制到新表中,并在原表中增加一些觸發器。

把原表中新增的數據也復制到新表中,在行所有數據復制完成之后,把新表命名成原表,并把原來的表刪除掉。把原來一個DDL操作,分解成多個小的批次進行。

禁止為程序使用的賬號賦予super權限

當達到最大連接數限制時,還運行1個有super權限的用戶連接
super權限只能留給DBA處理問題的賬號使用

對于程序連接數據庫賬號,遵循權限最小原則

程序使用數據庫賬號只能在一個DB下使用,不準跨庫
程序使用的賬號原則上不準有drop權限

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/535364.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/535364.shtml
英文地址,請注明出處:http://en.pswp.cn/news/535364.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Redis的AOF日志

如果 Redis 每執行一條寫操作命令&#xff0c;就把該命令以追加的方式寫入到一個文件里&#xff0c;然后重啟 Redis 的時候&#xff0c;先去讀取這個文件里的命令&#xff0c;并且執行它&#xff0c;這不就相當于恢復了緩存數據了嗎&#xff1f; 這種保存寫操作命令到日志的持久…

Redis 核心技術與實戰

目錄 開篇詞 | 這樣學 Redis&#xff0c;才能技高一籌 01 | 基本架構&#xff1a;一個鍵值數據庫包含什么&#xff1f; 02 | 數據結構&#xff1a;快速的Redis有哪些慢操作&#xff1f; 鍵和值用什么結構組織&#xff1f; 為什么哈希表操作變慢了&#xff1f; 有哪些底層數…

redis核心技術與實戰(二)緩存應用篇

1.《旁路緩存&#xff1a;redis 在緩存中工作原理》 1.緩存的兩個特征 1.什么是緩存&#xff0c;有什么特征&#xff1f; 磁盤->內存->cpu 之間讀寫速度差異巨大&#xff0c;為了平衡他們之間的差異&#xff0c;操作系統默認使用了兩種緩存&#xff1b; CPU 里面的末級…

redis核心技術與實戰(三) 性能篇

影響redis性能主要有以下部分&#xff1a; Redis 內部的阻塞式操作&#xff1b; CPU核和NUMA架構 Redis關鍵系統配置 Redis內存碎片 Redis緩沖區 下面一個個來介紹這些地方 1.《redis 有哪些阻塞點&#xff1f;》 redis實例主要交互的對象有以下幾點&#xff0c;我們依據下面這…

redis核心與實戰(一)數據結構篇

1.《redis數據結構概覽》 1.數據結構概覽 數據模型&#xff1a;一共5種&#xff0c;String&#xff08;字符串&#xff09;、List&#xff08;列表&#xff09;、Hash&#xff08;哈希&#xff09;、Set&#xff08;集合&#xff09;和 Sorted Set&#xff08;有序集合&#xf…

redis核心技術與實戰(四)高可用高擴展篇

1.《redis架構組成》 1.redis學習維度 2.一個基本的鍵值型數據庫包括什么&#xff1f; 1.訪問框架 redis通過網絡框架進行訪問&#xff0c;使得 Redis 可以作為一個基礎性的網絡服務進行訪問&#xff0c;擴大了redis應用范圍&#xff1b; 過程&#xff1a;如果客戶端發送“pu…

tomcat監控腳本

#!/bin/sh# func:自動監控tomcat腳本并且執行重啟操作# 獲取tomcat進程ID&#xff08;其中[grep -w .....]中的.....需要替換為實際部署的tomcat文件夾名&#xff0c;如下&#xff09; TomcatID$(ps -ef |grep tomcat |grep -w /usr/local/tomcat/apache-tomcat-8.5.31|grep -v…

weblogic命令行操作

啟動和停止子節點&#xff1a; [rootoud bin]# cd /sotware/oracle_ldap/Middleware/user_projects/domains/base_domain/bin/ [rootoud bin]# ./startManagedWebLogic.sh Server-0 http://192.168.63.129:7001 -Dweblogic.management.usernameweblogic -Dweblogic.management…

Ansible系列--Copy模塊

copy模塊 copy模塊在ansible里的角色就是把ansible執行機器上的文件拷貝到遠程節點上。 與fetch模塊相反的操作 常用參數 參數名是否必須默認值選項說明srcno 用于定位ansible執行的機器上的文件&#xff0c;需要絕對路徑。如果拷貝的是文件夾&#xff0c;那么文件夾會整體…

ANSIBLE--handlers的概念

handlers可以理解成另一種tasks&#xff0c;handlers是另一種’任務列表’&#xff0c;handlers中的任務會被tasks中的任務進行”調用”&#xff0c;但是&#xff0c;被”調用”并不意味著一定會執行&#xff0c;只有當tasks中的任務”真正執行”以后&#xff08;真正的進行實際…

ansible--- tags

tags可以幫助我們對任務進行’打標簽’的操作&#xff0c;當任務存在標簽以后&#xff0c;我們就可以在執行playbook時&#xff0c;借助標簽&#xff0c;指定執行哪些任務&#xff0c;或者指定不執行哪些任務。在實際的使用中&#xff0c;我們應該讓tags的值能夠見名知義。 當…

ANSIBLE---變量

注冊變量 ansible的模塊在運行之后&#xff0c;其實都會返回一些”返回值”&#xff0c;只是默認情況下&#xff0c;這些”返回值”并不會顯示而已&#xff0c;我們可以把這些返回值寫入到某個變量中&#xff0c;這樣我們就能夠通過引用對應的變量從而獲取到這些返回值了&…

inux中限制用戶進程CPU和內存占用率

#!/bin/sh PIDStop -bn 1 | grep "^ *[1-9]" | awk { if($9 > 50 || $10 > 25 && id -u $2 > 500) print $1} echo $PIDS for PID in $PIDS dorenice 10 $PIDecho "renice 10 $PID" done

按月拆分數據庫表--oracle

生產有一張日志表&#xff0c;數據量很大&#xff0c;需要按月進行存儲&#xff0c;存儲過程如下&#xff1a; CREATE OR REPLACE PROCEDURE NEWLOG4_SUB_TABLE IStable_name1 VARCHAR2(50);create_table_sql VARCHAR2(4000);insert_data_sql VARC…

plsql定時器

Oralce中的任務有2種&#xff1a;Job和Dbms_job&#xff0c;兩者的區別有&#xff1a; 1&#xff0e; jobs是oracle數據庫的對象&#xff0c; dbms_jobs只是jobs對象的一個實例&#xff0c; 就像對于tables&#xff0c; emp和dept都是表的實例。 2&#xff0e; 創建方式也有…

PL/SQL批處理語句:BULK COLLECT 和 FORALL

PL/SQL程序中運行SQL語句是存在開銷的&#xff0c;因為SQL語句是要提交給SQL引擎處理&#xff0c;這種在PL/SQL引擎和SQL引擎之間的控制轉移叫做上下文卻換&#xff0c;每次卻換時&#xff0c;都有額外的開銷 請看下圖&#xff1a; 但是&#xff0c;FORALL和BULK COLLEC…

oracle 中DATETIME與TIMESTAMP區別

1.DATETIME的日期范圍是1001——9999年&#xff0c;TIMESTAMP的時間范圍是1970——2038年。 2.DATETIME存儲時間與時區無關&#xff0c;TIMESTAMP存儲時間與時區有關&#xff0c;顯示的值也依賴于時區。在mysql服務器&#xff0c;操作系統以及客戶端連接都有時區的設置。 3.DAT…

PARALLEL(并行)

在Oracle中&#xff0c;PARALLEL&#xff08;并行&#xff09;方式最大化調用計算機資源來成倍提高數據分析效率。 1&#xff0e; 用途 強行啟用并行度來執行當前SQL。這個在Oracle 9i之后的版本可以使用&#xff0c;之前的版本現在沒有環境進行測試。也就是說&#xff0c;加…

Oracle數據庫查詢優化

1.對查詢進行優化&#xff0c;應盡量避免全表掃描&#xff0c;首先應考慮在 where 及 order by 涉及的列上建立索引。 2.應盡量避免在 where 子句中對字段進行 null 值判斷&#xff0c;否則將導致引擎放棄使用索引而進行全表掃描&#xff0c;如&#xff1a; select id from t w…

redis-full-check

https://github.com/alibaba/RedisFullCheck/releases redis-full-check是阿里云Redis&MongoDB團隊開源的用于校驗2個redis數據是否一致的工具。 ??redis-full-check通過全量對比源端和目的端的redis中的數據的方式來進行數據校驗&#xff0c;其比較方式通過多輪次比較&a…