程序猿是如何解決SQLServer占CPU100%的

文章目錄

  • 遇到的問題
  • 使用SQLServer Profiler監控數據庫
    • SQL1:查找最新的30條告警事件
    • SQL2:獲取當前的總報警記錄數
  • 有哪些SQL語句會導致CPU過高?
  • 查看SQL的查詢計劃
    • 選擇top記錄時,盡量為order子句的字段建立索引
    • 查看SQL語句CPU高的語句
    • 通過建立相關索引來減少表掃描
  • 其他優化手段
  • 總結

遇到的問題

有同事反應服務器CPU過高,一看截圖基本都是100%了,my god,這可是大問題,趕緊先看看。

o_cpu_hight_shnsh2.png

讓同事查看系統進程,發現是SQLServer的CPU占用比較高。首先想到的是不是報表生成的時候高,因為這塊之前出現過問題,關掉服務程序,還是高。難道是客戶端程序引發的?但是這么多的客戶端連接,難不成每個都叫人關閉,很簡單,把網絡斷開即可。網絡斷開之后,CPU立馬下降。那么問題到底在哪里呢,是時候祭出我們的利器了——SQLServer Profiler。

使用SQLServer Profiler監控數據庫

讓同事使用SQLProfiler監控了大概20分鐘左右,然后保存為跟蹤文件*.rtc。

o_sqlprofiler.png

我們來看看到底是哪句SQL有問題:

SQL1:查找最新的30條告警事件

select top 30  a.orderno,a.AgentBm,a.AlarmTime,a.RemoveTime,c.Name as AddrName,b.Name as MgrObjName,a.Ch,a.Value,a.Content,a.Level,ag.Name as AgentServerName,a.EventBm,a.MgrObjId,a.Id,a.Cfmoper,a.Cfm,a.Cfmtime,a.State,a.IgnoreStartTime,a.IgnoreEndTime,a.OpUserId,d.Name as MgrObjTypeName,l.UserName as userName,f.Name as AddrName2 
from eventlog as a left join mgrobj as b on a.MgrObjId=b.Id and a.AgentBm=b.AgentBm left join addrnode as c on b.AddrId=c.Id left join mgrobjtype as d on b.MgrObjTypeId=d.Id left join eventdir as e on a.EventBm=e.Bm left join agentserver as ag on a.AgentBm=ag.AgentBm left join loginUser as l on a.cfmoper=l.loginGuid left join addrnode as f on ag.AddrId=f.Id 
where ((MgrObjId in (select Id from MgrObj where AddrId in ('','02100000','02113000','02113001','02113002','02113003','02113004','02113005','02113006','02113007','02113008','02113009','02113010','02113011','02113012','02113013','02113014','02113015','02113016','02113017','02113018','02113019','02113020','02113021','02113022','02113023','02113024','02113025','02113026'))) or (mgrobjid in ('00000000-0000-0000-0000-000000000000','00000000-0000-0000-0000-000000000000','00000000-0000-0000-0000-000000000000','11111111-1111-1111-1111-111111111111','11111111-1111-1111-1111-111111111111'))) 
order by alarmtime DESC

SQL2:獲取當前的總報警記錄數

select count(*)  from eventlog as a left join mgrobj as b on a.MgrObjId=b.Id and a.AgentBm=b.AgentBm left join addrnode as c on b.AddrId=c.Id left join mgrobjtype as d on b.MgrObjTypeId=d.Id left join eventdir as e on a.EventBm=e.Bm 
where MgrObjId in (select Id from MgrObj where AddrId in ('','02100000','02100001','02100002','02100003','02100004','02100005','02100006','02100007','02100008','02100009','02100010','02100011','02100012','02100013','02100014','02100015','02100016','02100017','02100018','02100019','02101000','02101001','02101002','02101003','02101004','02101005','02101006','02101007','02101008','02101009','02101010','02101011','02101012','02101013','02101014','02101015','02101016','02101017','02101018','02101019','02101020','02101021','02101022','02101023','02101024','02101025','022000','022001','022101','022102','0755','0755002')) and mgrobjid not in ('00000000-0000-0000-0000-000000000000','00000000-0000-0000-0000-000000000000','00000000-0000-0000-0000-000000000000','11111111-1111-1111-1111-111111111111','11111111-1111-1111-1111-111111111111')

這是典型的獲取數據并分頁的數據,一條獲取最新分頁記錄總數,一條獲取分頁記錄,正是獲取最新事件這里導致的CPU過高。這里的業務大概是每個客戶端,每3秒執行一次數據庫查找,以便顯示最新的告警事件。好了,元兇找到了,怎么解決?

有哪些SQL語句會導致CPU過高?

上網查看了下文章,得出以下結論:

1.編譯和重編譯

編譯是 Sql Server 為指令生成執行計劃的過程。Sql Server 要分析指令要做的事情,分析它所要訪問的表格結構,也就是生成執行計劃的過程。這個過程主要是在做各種計算,所以CPU 使用比較集中的地方。

執行計劃生成后會被緩存在 內存中,以便重用。但是不是所有的都可以 被重用。在很多時候,由于數據量發生了變化,或者數據結構發生了變化,同樣一句話執行,就要重編譯。

2.排序(sort) 和 聚合計算(aggregation)

在查詢的時候,經常會做 order by、distinct 這樣的操作,也會做 avg、sum、max、min 這樣的聚合計算,在數據已經被加載到內存后,就要使用CPU把這些計算做完。所以這些操作的語句CPU 使用量會多一些。

3.表格連接(Join)操作

當語句需要兩張表做連接的時候,SQLServer 常常會選擇 Nested Loop 或 Hash 算法。算法的完成要運行 CPU,所以 join 有時候也會帶來 CPU 使用比較集中的地方。

4.Count(*) 語句執行的過于頻繁

特別是對大表 Count() ,因為 Count() 后面如果沒有條件,或者條件用不上索引,都會引起 全表掃描的,也會引起 CPU 的大量運算

大致的原因,我們都知道了,但是具體到我們上述的兩個SQL,好像都有上述提到的這些問題,那么到底哪個才是最大的元兇,我們能夠怎么優化?

查看SQL的查詢計劃

SQLServer的查詢計劃很清楚的告訴了我們到底在哪一步消耗了最大的資源。我們先來看看獲取top30的記錄:

o_sort_cost.png

排序竟然占了94%的資源。原來是它!同事馬上想到,用orderno排序會不會快點。先把上述語句在SQLServer中執行一遍,清掉緩存之后,大概是2~3秒,然后排序字段改為orderno,1秒都不到,果然有用。但是orderno的順序跟alarmTime的順序是不完全一致的,orderno的排序無法替代alarmTime排序,那么怎么辦?我想,因為選擇的是top,那么因為orderno是聚集索引,那么選擇前30條記錄,可以立即返回,根本無需遍歷整個結果,那么如果alarmTime是個索引字段,是否可以加快排序?

選擇top記錄時,盡量為order子句的字段建立索引

先建立索引:

IF NOT EXISTS(SELECT * FROM sysindexes WHERE id=OBJECT_ID('eventlog') AND name='IX_eventlog_alarmTime')CREATE NONCLUSTERED INDEX IX_eventlog_alarmTime ON dbo.eventlog(AlarmTime)

在查看執行計劃:

o_sort_index_cost.png

看到沒有,剛才查詢耗時的Sort已經消失不見了,那么怎么驗證它能夠有效的降低我們的CPU呢,難道要到現場部署,當然不是。

查看SQL語句CPU高的語句

SELECT TOP 10 TEXT AS 'SQL Statement',last_execution_time AS 'Last Execution Time',(total_logical_reads + total_physical_reads + total_logical_writes) / execution_count AS [Average IO],(total_worker_time / execution_count) / 1000000.0 AS [Average CPU Time (sec)],(total_elapsed_time / execution_count) / 1000000.0 AS [Average Elapsed Time (sec)],execution_count AS "Execution Count",qs.total_physical_reads,qs.total_logical_writes,qp.query_plan AS "Query Plan"
FROM sys.dm_exec_query_stats qs
CROSS APPLY sys.dm_exec_sql_text(qs.plan_handle) st
CROSS APPLY sys.dm_exec_query_plan(qs.plan_handle) qp
ORDER BY total_elapsed_time / execution_count DESC

我們把建索引前后CPU做個對比:

o_sort_index_cmp.png

已經明顯減低了。

通過建立相關索引來減少表掃描

我們再來看看count(*)這句怎么優化,因為上面的這句跟count這句差別就在于order by的排序。老規矩,用查詢計劃看看。

o_count_less_index.png

用語句select count(0) from eventlog一看,該表已經有20多w的記錄,每次查詢30條數據,竟然要遍歷這個20多w的表兩次,能不耗CPU嗎。我們看看是否能夠利用相關的條件來減少表掃描。很明顯,我們可以為MgrObjId建立索引:

CREATE NONCLUSTERED INDEX IX_eventlog_moid ON dbo.eventlog(MgrObjId)

但是無論我怎么試,都是沒有利用到索引,難道IN子句和NOT IN子句是沒法利用索引一定會引起表掃描。于是上網查資料,找到樺仔的文章,這里面有解答:

SQLSERVER對篩選條件(search argument/SARG)的寫法有一定的建議

對于不使用SARG運算符的表達式,索引是沒有用的,SQLSERVER對它們很難使用比較優化的做法。非SARG運算符包括

NOT、<>、NOT EXISTS、NOT IN、NOT LIKE和內部函數,例如:Convert、Upper等

但是這恰恰說明了IN是可以建立索引的啊。百思不得其解,經過一番的咨詢之后,得到了解答:

不一定是利用索引就是好的,sqlserver根據你的查詢的字段的重復值的占比,決定是表掃描還是索引掃描

有道理,但是我查看了下,重復值并不高,怎么會有問題呢。

關鍵是,你select的字段,這個地方使用索引那么性能更差,你select字段 id,addrid,agentbm,mgrobjtypeid,name都不在索引里。

真是一語驚醒夢中人,缺的是包含索引!!!關于包含索引的重要性我在這篇文章《我是如何在SQLServer中處理每天四億三千萬記錄的》已經提到過了,沒想到在這里又重新栽了個跟頭。實踐,真的是太重要了!

通過建立包含索引來讓SQL語句走索引

好吧,立馬建立相關索引:

IF NOT EXISTS(SELECT * FROM sysindexes WHERE id=OBJECT_ID('eventlog') AND name='IX_eventlog_moid')CREATE NONCLUSTERED INDEX IX_eventlog_moid ON dbo.eventlog(MgrObjId) INCLUDE(EventBm,AgentBM)

我們再來看看查詢計劃:

o_count_include_index.png

看到沒有,已經沒有eventlog表的表掃描了。我們再來比較前后的CPU:

o_cpu_include_index.png

很明顯,這個count的優化,對查詢top的語句依然的生效的。目前為止,這兩個查詢用上去之后,再也沒有CPU過高的現象了。

其他優化手段

  • 通過服務端的推送,有事件告警或者解除過來才查詢數據庫。
  • 優化上述查詢語句,比如count(*)可以用count(0)替代——參考《SQL開發技巧(二)》
  • 優化語句,先查詢出所有的MgrObjId,然后在做連接
  • 為管理對象、地點表等增加索引
  • 添加了索引之后,事件表的插入就會慢,能夠再怎么優化呢?可以分區建立索引,每天不忙的時候,把新的記錄移入到建好索引的分區

當然,這些優化的手段是后續的事情了,我要做的事情基本完了。

總結

  • 服務器CPU過高,首先查看系統進程,確定引發CPU過高的進程
  • 通過SQLServer Profiler能夠輕易監控到哪些SQL語句執行時間過長,消耗最多的CPU
  • 通過SQL語句是可以查看每條SQL語句消耗的CPU是多少
  • 導致CPU高的都是進行大量計算的語句:包括內存排序、表掃描、編譯計劃等。
  • 如果使用Top刷選前面幾條語句,則盡量為Order By子句建立索引,這樣可以減少對所有的刷選結果進行排序
  • 使用Count查詢記錄數時,盡量通過為where字句的相關字段建立索引以減少表掃描。如果多個表進行join操作,則把相關的表連接字段建立在包含索引中
  • 通過服務端通知的方式,減少SQL語句的查詢
  • 通過表分區,盡量降低因為添加索引而導致表插入較慢的影響

參考文章

  • SQLSERVR語句 in和exists哪個效率高本人測試證明
  • Sql Server Cpu 100% 的常見原因及優化
  • SQLSERVER排查CPU占用高的情況
  • 人人都是 DBA(XII)查詢信息收集腳本匯編

????最后,感謝博客園DBA樺仔的熱心指點。

轉載于:https://www.cnblogs.com/marvin/p/ASolutionForSQLServerCauseHighCPU.html

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/273481.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/273481.shtml
英文地址,請注明出處:http://en.pswp.cn/news/273481.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

通過wifi調試Android程序

原文&#xff1a;http://www.cnblogs.com/sunzhenxing19860608/archive/2011/07/14/2106492.html 1.首先讓android手機監聽指定的端口&#xff1a;  這一步需要使用shell&#xff0c;因此手機上要有終端模擬器&#xff0c;不過網上很多&#xff0c;隨便找個就行了&#xff0c…

基于jQuery的對象切換插件:soChange 1.5 (點擊下載)

http://www.jsfoot.com/jquery/demo/2011-09-20/192.html 所有參數&#xff1a; $(obj).soChange({ thumbObj:null, //導航對象&#xff0c;默認為空 botPrev:null, //按鈕上一個&#xff0c;默認為空 botNext:null, //按鈕下一個。默認為空 thumbNowClass:no…

atitit.Oracle 9 10 11 12新特性attilax總結

atitit.Oracle 9 10 11 12新特性 1. ORACLE 11G新特性 1 1.1. oracle11G新特性 1 1.2. 審計 1 1.3. 1. 審計簡介 1 1.4. 其他&#xff08;大部分是管理功能&#xff09; 2 2. Oracle 12c 的 12 個新特性 2 2.1. 2 Improved Defaults 增強了DEFAULT, default目前可以直接指代…

mysql讀書筆記---mysql safe update mode

You are using safe update mode and you tried to update a table without a WHERE that uses a KEY column 查看 mysql> show variables like %sql_safe%; 關閉 mysql> set sql_safe_updates0; 開啟 mysql> set sql_safe_updates1;

基于纖程(Fiber)實現C++異步編程庫(一):原理及示例

纖程&#xff08;Fiber&#xff09;和協程&#xff08;coroutine&#xff09;是差不多的概念&#xff0c;也叫做用戶級線程或者輕線程之類的。Windows系統提供了一組API用戶創建和使用纖程&#xff0c;本文中的庫就是基于這組API實現的&#xff0c;所以無法跨平臺使用&#xff…

MYSQL讀書筆記---運算符、字符串操作

運算符###########################################,!(<>),>,>,<,< is null , is not null, isnull(expr) expr between min and max expr in(v1,v2,...)流程#############################################mysql> select ifnull(1,0); #如果第一個參數為…

fluidity詳解

fluidity詳解 1.fluidity編譯過程 1.1.femtools庫調用方法 編譯fluidity/femtools目錄下所有文件&#xff0c;打包為libfemtools.a靜態庫文件&#xff1b;通過-lfemtools參數&#xff0c;并指定libfemtools.a靜態庫位置&#xff0c;即可調用 femtools 庫內所有函數2.fluidity主…

mysql讀書筆記---if語句

IF(expr1,expr2,expr3) 如果expr1是TRUE(expr1<>0 and expr1<>NULL)&#xff0c;則IF()的返回值為expr2;否則返回值則為expr3。IF()的返回值為數字值或字符串值&#xff0c;具體情況視其所在語境而定。 mysql>SELECT?IF(1>2,2,3); ->3 mysql>SELECT I…

C語言 將整數寫入內存指定的連續字節單元中

將整數數組寫入0x40003000開始的連續10個字節內存單元中&#xff0c;注意unsigned char *指向一個字節&#xff0c;而int *指向1個字&#xff08;4個字&#xff09;&#xff0c;但是可以把字中存儲的整數放入字節單元中&#xff0c;只要不超過表示的范圍&#xff0c;注意雖然un…

mysql讀書筆記----時間函數

1.獲得當前時間&#xff1a;時間格式yyyy-MM-dd curdate();2.DAYOFWEEK(date) 3.WEEKDAY(date) 4.DAYOFMONTH(date) 5.DAYOFYEAR(date) 6.MONTH(date) 7.DAYNAME(date) 8.MONTHNAME(date) 9.QUARTER(date) 10.WEEK(date) WEEK(date,first) 11.YEAR(date) 12.HOUR(time) 13.MINU…

企業數據1

1. 企業數據 1.1. 全局 1.1.1. 貨幣 CNY Chinese Yuan Renminbi &#xffe5; 6.825020 ARS Argentine Peso $ 3.791090 BOB Bolivian Boliviano $b 7.570800 BRL Brazilian Real R$ 1.766500 CAD Canadian Dollar $ 1.037570 CLP Chilean Peso $ …

sql判斷語句

方法一&#xff1a; <if test"null ! orderType and 0 orderType"> order by amountTimes desc </if><if test"null ! orderType and 1 orderType">order by amountTimes asc </if><if test"null ! orderType and 2 …

Thinkphp 整合tcpdf

網上查了些關于tcpdf 使用教程&#xff0c;整合到TP的話&#xff0c;會有些小問題&#xff0c;由于基礎還不是很扎實&#xff0c;花了點時間終于整合OK了。下面介紹步驟&#xff1a; 環境&#xff1a; TP版本&#xff1a;TP3.2.2 tcpdf:tcpdf_6_2_3 1. 將tcpdf_6_2_3.zip解壓在…

多項目開發下的dll文件管理

閱讀目錄&#xff1a;DS01&#xff1a;為什么要對生成的dll文件進行管理&#xff1f;DS02&#xff1a;首先介紹以下兩個DOS命令DS03&#xff1a;第一種實現方法&#xff08;xcopy&#xff09;DS04&#xff1a;第二種實現方法&#xff08;attrib&#xff09;DS05&#xff1a;分享…

關于Java中的隨機數產生

對比兩種寫法&#xff1a; 第一種&#xff1a; public static void main(String args[]){Random random new Random(System.currentTimeMillis());for(int i0; i<20; i){int sindex random.nextInt(2);System.out.println(sindex);}}第二種&#xff1a; public static voi…

視圖

視圖是虛表&#xff0c;是從一個或幾個基本表&#xff08;或視圖&#xff09;中導出的表&#xff0c;在系統的數據字典中僅存放了視圖的定義&#xff0c;不存放視圖對應的數據。視圖是原始數據庫數據的一種變換&#xff0c;是查看表中數據的另外一種方式。可以將視圖看成是一個…

選擇器的并發性

4.3.4 并發性 選擇器對象是線程安全的&#xff0c;但它們包含的鍵集合不是。通過keys( )和selectKeys( )返回的鍵的集合是Selector對象內部的私有的Set對象集合的直接引用。這些集合可能在任意時間被改變。已注冊的鍵的集合是只讀的。如果您試圖修改它&#xff0c;那么您得到的…

mysql 自定義函數之判斷

DELIMITER $$CREATE DEFINERrootlocalhost FUNCTION getMin(a int,b int) RETURNS int(11)BEGINdeclare min int;if(a>b)then set min b;elseif(b>a)then set min a;else set min 0;#end if;end if;RETURN min;END 調用該函數可以如下方式 select getMin(1,2); 返回值…

C/C++的數組名

數組名相當于指向數組第一個元素的地址。數組名不是變量&#xff0c;是地址常量&#xff0c;不能為其賦值。如下&#xff1a;1&#xff09;一維數組中對于數組 a[5] {1, 2, 3, 4, 5};數組名a相當于指向第一個元素a[0]的指針。即 a 與 &a[0] 等價。2&#xff09;二維數組中…

mysql的運算法

一、算術運算符1、加 www.2cto.com mysql> select 12;-----| 12 |-----| 3 |-----2、減mysql> select 1-2;-----| 1-2 |-----| -1 |-----3、乘mysql> select 2*3;-----| 2*3 |-----| 6 |-----4、除mysql> select 2/3;--------| 2/3 |--------| 0.6667 |-…