date轉timestamp格式_技術分享 | MySQL:timestamp 時區轉換導致 CPU %sy 高的問題

作者:高鵬文章末尾有他著作的《深入理解 MySQL 主從原理 32 講》,深入透徹理解 MySQL 主從,GTID 相關技術知識。本文為學習記錄,可能有誤請諒解。
本文建議PC端觀看,效果更佳。

這個問題是一個朋友遇到的@風云,并且這位朋友已經得出了近乎正確的判斷,下面進行一些描述。

一、問題展示下面是問題當時的系統負載如下:

be7ad6e10a026f5e49a8bc14d902b7ec.png

我們可以看到 40.4%sy 正是系統調用負載較高的表現,隨即朋友采集了 perf 如下:

b60d26f1ec843c5060b41e6c4c60512c.png

接下來朋友采集了 pstack 給我,我發現大量的線程處于如下狀態下:

Thread 38 (Thread 0x7fe57a86f700 (LWP 67268)):

#0 0x0000003dee4f82ce in __lll_lock_wait_private () from /lib64/libc.so.6

#1 0x0000003dee49df8d in _L_lock_2163 () from /lib64/libc.so.6

#2 0x0000003dee49dd47 in __tz_convert () from /lib64/libc.so.6

#3 0x00000000007c02e7 in Time_zone_system::gmt_sec_to_TIME(st_mysql_time*, long) const ()

#4 0x0000000000811df6 in Field_timestampf::get_date_internal(st_mysql_time*) ()

#5 0x0000000000809ea9 in Field_temporal_with_date::val_date_temporal() ()

#6 0x00000000005f43cc in get_datetime_value(THD*, Item***, Item**, Item*, bool*) ()

#7 0x00000000005e7ba7 in Arg_comparator::compare_datetime() ()

#8 0x00000000005eef4e in Item_func_gt::val_int() ()

#9 0x00000000006fc6ab in evaluate_join_record(JOIN*, st_join_table*) ()

#10 0x0000000000700e7e in sub_select(JOIN*, st_join_table*, bool) ()

#11 0x00000000006fecc1 in JOIN::exec() ()

我們可以注意一下 __tz_convert 這正是時區轉換的證據。二、關于 timestamp?簡要說明timestamp:占用 4 字節,內部實現是新紀元時間(1970-01-01 00:00:00)以來的秒,那么這種格式在展示給用戶的時候就需要做必要的時區轉換才能得到正確數據。下面我們通過訪問 ibd 文件來查看一下內部表示方法,使用到了我的兩個工具 innodb 和 bcview。
詳細參考:https://www.jianshu.com/p/719f1bbb21e8。
timestamp 的內部表示建立一個測試表

mysql> show variables like '%time_zone%';

+------------------+--------+

| Variable_name | Value |

+------------------+--------+

| system_time_zone | CST |

| time_zone | +08:00 |

+------------------+--------+

mysql> create table tmm(dt timestamp);

Query OK, 0 rows affected (0.04 sec)

mysql> insert into tmm values('2019-01-01 01:01:01');

Query OK, 1 row affected (0.00 sec)

我們來查看一下內部表示如下:

[root@gp1 test]# ./bcview tmm.ibd 16 125 25|grep 00000003

current block:00000003--Offset:00125--cnt bytes:25--data is:000001ac3502000000070d52c80000002f01105c2a4b4d0000

整理一下如下:

  • 000001ac3502:rowid

  • 000000070d52:trx id

  • c80000002f0110:roll ptr

  • 5c2a4b4d:timestamp 類型的實際數據十進制為 1546275661

我們使用 Linux 命令如下:

[root@gp1 ~]# date -d @1546275661

Tue Jan 1 01:01:01 CST 2019

因為我的 Linux 也是 CST +8 時區這里數據也和 MySQL 中顯示一樣。下面我們調整一下時區再來看看取值如下:

mysql> set time_zone='+06:00';

Query OK, 0 rows affected (0.00 sec)

mysql> select * from tmm;

+---------------------+

| dt |

+---------------------+

| 2018-12-31 23:01:01 |

+---------------------+

1 row in set (0.01 sec)

這里可以看到減去了 2 個小時,因為我的時區從 +8 變為了 +6。

三、timestap 轉換

在進行新紀元時間(1970-01-01 00:00:00)以來的秒到實際時間之間轉換的時候 MySQL 根據參數 time_zone 的設置有兩種選擇:

  • time_zone?設置為 SYSTEM 的話:使用 sys_time_zone 獲取的 OS 會話時區,同時使用 OS API 進行轉換。對應轉換函數 Time_zone_system::gmt_sec_to_TIME

  • time_zone?設置為實際的時區的話:比如 ‘+08:00’,那么使用使用 MySQL 自己的方法進行轉換。對應轉換函數 Time_zone_offset::gmt_sec_to_TIME

實際上 Time_zone_system 和 Time_zone_offset 均繼承于 Time_zone 類,并且實現了 Time_zone 類的虛函數進行了重寫,因此上層調用都是 Time_zone::gmt_sec_to_TIME。

注意這種轉換操作是每行符合條件的數據都需要轉換的。

四、問題修復方案

我們從問題棧幀來看這個故障使用的是 Time_zone_system::gmt_sec_to_TIME 函數進行轉換的,因此可以考慮如下:

  • time_zone:設置為指定的時區,比如 ‘+08:00’。這樣就不會使用 OS API 進行轉換了,而轉為 MySQL 自己的內部實現 調用 Time_zone_offset::gmt_sec_to_TIME 函數。但是需要注意的是,如果使用 MySQL 自己的實現那么 us% 會加劇。
  • 使用 datetime 代替 timestamp,新版本 datetime 為 5 個字節,只比 timestamp 多一個字節。

五、修復前后

sy% 使用量對比 據朋友說他大概在上午 11 點多完成了修改,做的方式是將 time_zone 修改為 ‘+08:00’,下面展示修改前后 CPU 使用率的對比:

修復前:

c1dcdda0f5d0b0747991e50ea7de8538.png

修復后:

6242187b3377f19d6b7eecb81a7b8556.png

六、備用棧幀

  • time_zone=‘SYSTEM’轉換棧幀

#0 Time_zone_system::gmt_sec_to_TIME (this=0x2e76948, tmp=0x7fffec0f3ff0, t=1546275661) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/tztime.cc:1092

#1 0x0000000000f6b65c in Time_zone::gmt_sec_to_TIME (this=0x2e76948, tmp=0x7fffec0f3ff0, tv=...) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/tztime.h:60

#2 0x0000000000f51643 in Field_timestampf::get_date_internal (this=0x7ffe7ca66540, ltime=0x7fffec0f3ff0)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:6014

#3 0x0000000000f4ff49 in Field_temporal_with_date::val_str (this=0x7ffe7ca66540, val_buffer=0x7fffec0f4370, val_ptr=0x7fffec0f4370)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:5429

#4 0x0000000000f11d7b in Field::val_str (this=0x7ffe7ca66540, str=0x7fffec0f4370) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.h:866

#5 0x0000000000f4549d in Field::send_text (this=0x7ffe7ca66540, protocol=0x7ffe7c001e88) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:1725

#6 0x00000000014dfb82 in Protocol_text::store (this=0x7ffe7c001e88, field=0x7ffe7ca66540)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/protocol_classic.cc:1415

#7 0x0000000000fb06c0 in Item_field::send (this=0x7ffe7c006ec0, protocol=0x7ffe7c001e88, buffer=0x7fffec0f4760)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/item.cc:7801

#8 0x000000000156b15c in THD::send_result_set_row (this=0x7ffe7c000b70, row_items=0x7ffe7c005d58)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_class.cc:5026

#9 0x0000000001565758 in Query_result_send::send_data (this=0x7ffe7c006e98, items=...) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_class.cc:2932

#10 0x0000000001585490 in end_send (join=0x7ffe7c007078, qep_tab=0x7ffe7c0078d0, end_of_records=false)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_executor.cc:2925

#11 0x0000000001582059 in evaluate_join_record (join=0x7ffe7c007078, qep_tab=0x7ffe7c007758)

  • time_zone=‘+08:00’轉換棧幀

#0 Time_zone_offset::gmt_sec_to_TIME (this=0x6723d90, tmp=0x7fffec0f3ff0, t=1546275661) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/tztime.cc:1418

#1 0x0000000000f6b65c in Time_zone::gmt_sec_to_TIME (this=0x6723d90, tmp=0x7fffec0f3ff0, tv=...) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/tztime.h:60

#2 0x0000000000f51643 in Field_timestampf::get_date_internal (this=0x7ffe7ca66540, ltime=0x7fffec0f3ff0)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:6014

#3 0x0000000000f4ff49 in Field_temporal_with_date::val_str (this=0x7ffe7ca66540, val_buffer=0x7fffec0f4370, val_ptr=0x7fffec0f4370)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:5429

#4 0x0000000000f11d7b in Field::val_str (this=0x7ffe7ca66540, str=0x7fffec0f4370) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.h:866

#5 0x0000000000f4549d in Field::send_text (this=0x7ffe7ca66540, protocol=0x7ffe7c001e88) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:1725

#6 0x00000000014dfb82 in Protocol_text::store (this=0x7ffe7c001e88, field=0x7ffe7ca66540)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/protocol_classic.cc:1415

#7 0x0000000000fb06c0 in Item_field::send (this=0x7ffe7c006ec0, protocol=0x7ffe7c001e88, buffer=0x7fffec0f4760)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/item.cc:7801

#8 0x000000000156b15c in THD::send_result_set_row (this=0x7ffe7c000b70, row_items=0x7ffe7c005d58)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_class.cc:5026

#9 0x0000000001565758 in Query_result_send::send_data (this=0x7ffe7c006e98, items=...) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_class.cc:2932

#10 0x0000000001585490 in end_send (join=0x7ffe7c007078, qep_tab=0x7ffe7c0078d0, end_of_records=false)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_executor.cc:2925

#11 0x0000000001582059 in evaluate_join_record (join=0x7ffe7c007078, qep_tab=0x7ffe7c007758)

d1c93c0cf76d03b7b05cca8d7c4d9880.png最后推薦高鵬的專欄《深入理解MySQL主從原理 32講》,想要透徹了解學習MySQL 主從原理的朋友不容錯過。作者微信:gp_22389860

68ded687b0df8cbfe481d111da9ab5cd.png

社區近期動態

No.1

Mycat 問題免費診斷

診斷范圍支持:

Mycat 的故障診斷、源碼分析、性能優化

服務支持渠道:

技術交流群,進群后可提問

QQ群(669663113)

社區通道,郵件&電話

osc@actionsky.com

現場拜訪,線下實地,1天免費拜訪

關注“愛可生開源社區”公眾號,回復關鍵字“Mycat”,獲取活動詳情。

No.2

社區技術內容征稿

征稿內容:

格式:.md/.doc/.txt

主題:MySQL、分布式中間件DBLE、數據傳輸組件DTLE相關技術內容

要求:原創且未發布過

獎勵:作者署名;200元京東E卡+社區周邊

投稿方式:

郵箱:osc@actionsky.com

格式:[投稿]姓名+文章標題

以附件形式發送,正文需注明姓名、手機號、微信號,以便小編及時聯系

1ad345ccabe83ac83a79d9499f249a49.gif喜歡點“分享”,不行就“在看”

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/534936.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/534936.shtml
英文地址,請注明出處:http://en.pswp.cn/news/534936.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

mysql架構組成_第 2 章 MySQL 架構組成

麻雀雖小,五臟俱全。MySQL 雖然以簡單著稱,但其內部結構并不簡單。本章從MySQL物理組成、邏輯組成,以及相關工具幾個角度來介紹 MySQL 的整體架構組成,希望能夠讓讀者對 MySQL 有一個更全面深入的了解。2.1 MySQL物理文…

python列表生成器語法_python列表生產式和生成器

1.列表生成式:通過簡潔的語法可以對一組元素進行過濾 格式:[exp for val in collection if condition] 例子1: a [x*xforxinxrange(1,10)ifx%20] print(a) 1)append(): 該方法用于在列表末尾添加新的對象,…

win2008 mysql端口_使用自定義端口連接SQL Server 2008的方法

使用過SQL Server的人大多都知道,SQL Server服務器默認監聽的端口號是1433,但是我今天遇到的問題是我的機器上有三個數據庫實例,這樣使用TCP/IP遠程連接時就產生了問題。如何在Microsoft SQL Server Management Studio里加入端口號連接呢&…

python基本命令range_Python的Range()函數(指南)

當需要執行特定次數的操作時,Python內置的range函數十分方便。 讀罷本文,你將: 理解Python的range函數是如何工作的 了解Python 2和Python 3中的實現方式有何不同 看過了不少range()函數操作實例 有能力解決它的一些局限性 讓我們開始吧&…

天涯python_python 網絡爬蟲(一)爬取天涯論壇評論

我是一個大二的學生,也是剛接觸python,接觸了爬蟲感覺爬蟲很有趣就爬了爬天涯論壇,中途碰到了很多問題,就想把這些問題分享出來,都是些簡單的問題,希望大佬們以寬容的眼光來看一個小菜鳥😄&…

python快遞費用計算_[Python]簡單用Python寫個查詢快遞的程序最后附源代碼

[Python] 純文本查看 復制代碼from requests_html import HTMLSession session HTMLSession() def sb(dh): 用來識別快遞 返回快遞種類! url http://www.kuaidi100.com/autonumber/autoComNum?resultv21&text dh header { Referer: http://www.kuaidi100.com/, User-A…

qos的_QoS 概述

QoS 是一個很大的領域,涉及到網絡中的多個層次和環節。本文僅簡要的談談 Endpoint 側的 QoS 概念,將這些紛繁的概念名詞串起來,便于理解。QoS 技術背景下圖說明了 QoS workflow 中,各項技術的位置和關系摘自 < 端到端Q…

為什么python 為什么沒有接口_python做接口測試的必要性

什么是接口測試 接口測試主要用于檢測外部系統與內部系統之間,以及系統內部各 個子系統之間的交互點。其測試的重點是,檢查數據的交換、傳遞和控 制管理過程,以及系統間的邏輯依賴關系等。 為什么要做接口測試 1.傳統的測試方法成本急劇增加&…

路由器mysql密碼重置密碼_【驗證】mysql root密碼恢復

1.首先確認服務器出于安全的狀態,也就是沒有人能夠任意地連接MySQL數據庫。因為在重新設置MySQL的root密碼的期間,MySQL數據庫完全出于沒有密碼保護的狀態下,其他的用戶也可以任意地登錄和修改MySQL的信息。可以采用將MySQL對外的…

centos daemonize_手把手教你在centos上配置Django項目(超詳細步驟)

前言關于Django的部署,本人也踩了很多坑,這篇文章一步一步教你怎么進行部署,只需要你按照我的步驟來就OK了!這里我們使用的服務器是一個全新的服務器,沒有安裝任何東西。基礎環境搭建步驟★ 注意:下面的步驟…

mysql8.0.17壓縮包安裝教程_mysql 8.0.16 壓縮包安裝配置方法圖文教程

本文為大家分享了mysql 8.0.16 壓縮包安裝配置方法,供大家參考,具體內容如下運行環境:windows 10 x641、下載zip安裝包:mysql8.0 for windows zip包:,進入頁面后可以不用登錄。后點擊底部“no thanks, just…

python收集數據程序_基于Python語言的互聯網數據收集軟件的設計

軟件建立所需的工具及其版本 編寫環境與 IDE Python3.5.2 Windows10 PyCharm 2016.3 Sublime Text3 第三方庫與版本號 Requests 2.12.1 BeautifulSoup 4.5.1 PYQT5 5.8.1 Pyinstaller 庫的作用 用于爬蟲編寫 用于爬蟲編寫 用于軟件 GUI 設計 用于封裝 python 程序 1.1 百度地圖…

Mysql保存是事件驅動嗎_【CHRIS RICHARDSON 微服務系列】事件驅動的數據管理-5

編者的話 |本文來自 Nginx 官方博客,是「Chris Richardson 微服務」系列的第五篇文章。第一篇文章介紹了微服務架構模式,并且討論了使用微服務的優缺點;第二和第三篇描述了微服務架構模塊間通訊的不同方面;第四篇研究了服務發現中…

chrome postman插件_收集了一些Chrome插件神器,助你快速成為老司機

剛開始開發項目的時候,我一直都在用火狐,因為它有一個fireBug插件,特別好用(目前已不支持),也不知道什么時候,就一直用起來Chrome瀏覽器了,可能是因為它有強大的插件作為后盾吧。開發了這么多年&#xff0c…