ClickHouse 可觀測性最佳實踐

ClickHouse 介紹

ClickHouse 是一款高性能、列式存儲的開源分析型數據庫,專為在線分析處理(OLAP)場景設計。它能夠處理海量數據,支持實時查詢和復雜的數據分析,具備極高的讀寫性能和數據壓縮能力。ClickHouse 提供了強大的 SQL 支持,包括對復雜查詢、聚合操作和窗口函數的優化,使其成為處理大規模數據集的理想選擇。此外,ClickHouse 支持分布式架構,通過數據分片和副本機制,能夠實現高可用性和水平擴展。它廣泛應用于日志分析、物聯網數據處理、實時監控等領域,幫助企業快速獲取數據洞察,驅動業務決策。

對 ClickHouse 進行可觀測性建設,能有效助力我們的工程師故障排查、系統優化和成本優化等。

觀測云

觀測云是一款專為 IT 工程師打造的全鏈路可觀測產品,它集成了基礎設施監控、應用程序性能監控和日志管理,為整個技術棧提供實時可觀察性。這款產品能夠幫助工程師全面了解端到端的用戶體驗追蹤,了解應用內函數的每一次調用,以及全面監控云時代的基礎設施。此外,觀測云還具備快速發現系統安全風險的能力,為數字化時代提供安全保障。

部署 DataKit

DataKit 是一個開源的、跨平臺的數據收集和監控工具,由觀測云開發并維護。它旨在幫助用戶收集、處理和分析各種數據源,如日志、指標和事件,以便進行有效的監控和故障排查。DataKit 支持多種數據輸入和輸出格式,可以輕松集成到現有的監控系統中。

登錄觀測云控制臺,在「集成」-「DataKit」選擇對應安裝方式,當前采用 Linux 主機部署 DataKit。

開啟 ClickHouse 采集

1、修改 config.xml

在 ClickHouse Server 的 config.xml 配置文件中找到如下的代碼段,取消注釋,并設置 metrics 暴露的端口號(可自定義,唯一即可)。修改完成后重啟(若為集群,則每臺機器均需操作)。

vim /etc/clickhouse-server/config.xml

2、修改 clickhousev1.conf

進入 DataKit 安裝目錄下的?conf.d/clickhousev1?目錄,復制?clickhousev1.conf.sample?并命名為?clickhousev1.conf。主要修改這個 IP 和端口,端口與上一步保持一致,示例如下:

3、重啟DataKit

配置好后,重啟 DataKit?即可。

關鍵指標

這里主要列舉 ClickHouse 的一部分關鍵指標,詳情可參考詳細文檔。

指標名描述類型單位
HTTPConnectionHTTP 連接數floatcount
TCPConnectionTCP 連接數floatcount
InterserverConnection其他副本用于獲取部分數據的連接數量floatcount
MemoryTracking內存使用量floatB
Query正在執行的查詢數量floatcount
SelectQuery執行的 SELECT 查詢數量floatcount
InsertQuery執行的 INSERT 查詢數量floatcount
ReplicatedChecks數據塊一致性檢查的次數floatcount

場景視圖

登錄觀測云控制臺,點擊「場景」 -「新建儀表板」,輸入 “ClickHouse”, 選擇 “ClickHouse 監控視圖”,點擊 “確定” 即可添加視圖。

監控器(告警)

ClickHouse 實例 {{instance}} HTTP 連接數告警

簡要描述:根據 HTTPConnection 指標設置閾值告警。

ClickHouse 實例 {{instance}} TCP 連接數告警

簡要描述:根據 TCPConnection 指標設置閾值告警。

ClickHouse 實例 {{instance}} 副本一致性檢查次數異常告警

簡要描述:根據 ReplicatedChecks 指標設置突變告警,當副本之間數據塊一致性檢查的次數最近 15 分鐘比最近 30 分鐘差值百分比大于閾值時,進行告警。

總結

本文從指標、可視化儀表板、監控告警等角度展示了如何使用觀測云這個一體化觀測平臺對 ClickHouse 進行全面觀測,大大減少了管理多個運維工具的負擔,讓 DevOps 團隊將更多精力投放到更高價值的工作中。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/912118.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/912118.shtml
英文地址,請注明出處:http://en.pswp.cn/news/912118.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Android Framework設置時間為24小時制

文章目錄 定位源碼實現附錄12 小時制與 24 小時制的詳細解析一、基本定義與核心區別二、轉換方法與示例三、應用場景與文化差異四、延伸知識:特殊計時制與歷史背景 目的是把設置中使用默認語言區域關掉,并把使用24小時制打開 如下圖為原始的:…

基于STM32設計的掃地機器人

一、前言 1.1 項目介紹 【1】項目開發背景 隨著社會節奏的加快和人們生活方式的改變,智能家居產品逐漸走入千家萬戶。作為智能清潔系統的重要組成部分,掃地機器人憑借其自動化、高效性和便捷性,成為現代家庭中不可或缺的智能設備之一。傳統…

什么是接口測試?

2025最新Jmeter接口測試從入門到精通(全套項目實戰教程) 接口測試概念 接口測試是項目測試的一部分,它測試的主要對象是接口,是測試系統組件間接口的一種測試。接口測試主要用于檢測外部系統與所測系統之間以及內部各系統之間的交…

JDY-23藍牙模塊與電腦的連接方式

JDY-23藍牙模塊支持多種連接方式,包括SPP(串口通信)模式和BLE(低功耗藍牙)模式。以下是與電腦連接的具體方法: 1. 通過SPP模式連接 JDY-23模塊支持SPP協議,可以通過串口與電腦通信。以下是連接…

【網絡】Linux 內核優化實戰 - net.core.rmem_max

目錄 參數作用與原理默認值與查看方法調整場景與方法適用場景調整方法 與其他參數的協同性能影響與注意事項典型案例總結 net.core.rmem_max 是 Linux 內核中控制 套接字接收緩沖區(Receive Buffer)最大允許值 的參數。它與 net.core.rmem_default&#…

設計模式 | 工廠模式

工廠模式(Factory Pattern) 是創建型設計模式的核心成員,它通過將對象創建的邏輯封裝起來,實現了創建與使用的解耦。本文將深入探討工廠模式的核心思想、實現技巧以及在C中的高效實現方式。 為什么需要工廠模式? 在軟…

數字孿生技術驅動UI前端變革:從靜態展示到動態交互的飛躍

hello寶子們...我們是艾斯視覺擅長ui設計、前端開發、數字孿生、大數據、三維建模、三維動畫10年經驗!希望我的分享能幫助到您!如需幫助可以評論關注私信我們一起探討!致敬感謝感恩! 在數字化轉型的深水區,數字孿生技術正以破竹之勢重構 UI 前端的技術邏輯與設計理念…

Django實戰:自定義中間件實現全鏈路操作日志記錄

文章目錄 一、中間件介紹激活中間件生命周期 二、自定義中間件中間件鉤子函數基于類的中間件 三、實戰案例操作日志功能參考資料 一、中間件 介紹 在 Django 中,中間件(Middleware)是一組輕量級、底層的插件系統,用于全局地改變…

Java編程之迭代器模式(Iterator Pattern)

引言: 走進圖書館,你站在一排書架前,想要瀏覽書籍。你會一格格地從左到右翻閱書籍,而不是去研究書架是什么。 一本書一本書地翻,才知道書架上藏了什么書,研究書架的構造是不知道書籍的內容的。 這種“逐本…

ARM64 linux系統的一般執行過程

1、正在運行的用戶進程X 2、發生異常(包括系統調用等),CPU完成的工作:把當前程序指針寄存器PC放入ELR_EL1寄存器,把PSTATE放入SPSR_EL1寄存器,把異常產生的原因放在ESR_EL1寄存器,將異常向量表…

Vue3+ element 實現導入導出

一、導入功能相關代碼分析 相關變量定義 importVisible:這是一個ref類型的響應式變量,用于控制導入對話框的顯示與隱藏,初始值為false。當用戶點擊 “導入” 按鈕時,會嘗試將其值設為true來顯示導入對話框,若出現異常則…

Git安裝(純小白版)

一、Git安裝 1. 簡介 Git是一款免費開源的分布式版本控制系統,常用于軟件開發。它能記錄文件在不同時間的改動,讓用戶在需要時查看、恢復舊版本。支持多人協作開發,多人可同時修改項目文件,Git會處理好沖突。開發者能在本地創建…

cocos2 本地根據文本內容生成二維碼

cocos2 本地根據文本內容生成二維碼 之前做了一個功能,就是cocos2小游戲,結算頁面需要有一個二維碼,二維碼內容是一個網址,這個網址需要根據用戶游玩分數確定訪問哪個網址,但是這個小游戲是單機小游戲,不連…

87.xilinx FPGA讀取器件id方法

dout數據高位先出msb module chip_id_reader(input clk,input reset,output [56:0] dna_value,output dna_valid );reg [6:0] bit_count;reg [56:0] dna_shift_reg;reg dna_read;reg dna_shift;wire dna_out;// 實例化DNA_PORT原語DNA_PORT #(.SIM_DNA_VALUE(57h123456789ABCD…

AcWing--數據結構(二)

Trie 樹 用來高效的快速存儲和查找字符串集合的數據結構 如存儲:abcdef,abdef,aced,... 從根節點開始存儲,從前往后存儲,看是否有a,沒有就創建,依次存儲。 一般在最后一個字符打個標記,意思就是當前字符…

論基于架構的軟件設計方法(ABSD)及應用

2025年3月22日作 題目 基于架構的軟件設計(Architecture-Based Software Design, ABSD)方法以構成軟件架構的商業、質量和功能需求等要素來驅動整個軟件開發過程。ABSD是一個自頂向下,遞歸細化的軟件開發方法,它以軟件系統功能的…

【Docker基礎】Docker容器管理:docker exec詳解

目錄 1 docker exec命令概述 1.1 命令定位與作用 1.2 與相似命令對比 2 基本語法與參數解析 2.1 完整命令語法 2.2 核心參數詳解 2.2.1 -i, --interactive 2.2.2 -t, --tty 2.2.3 -d, --detach 2.2.4 -e, --env 2.2.5 -u, --user 2.2.6 -w, --workdir 3 典型使用場…

CSS3實現同心圓效果

效果圖&#xff1a; 文本左側顯示一個 外圓&#xff08;30px&#xff0c;半透明&#xff09; 和 內圓&#xff08;12px&#xff0c;實色&#xff09; 的同心圓&#xff1a; <!DOCTYPE html> <html> <head><style>.text-with-circles {position: rela…

Spring Boot項目開發實戰銷售管理系統——系統設計!

Spring Boot項目開發實戰——銷售管理系統 在前面的章節中我們詳細介紹了Spring Boot各個功能的使用&#xff0c;本章將新建一個銷售管理系統項目&#xff0c;演示項目從需求分析到功能分解&#xff0c;再到各個功能的實現過程&#xff0c;最后再使用Docker部署上線的完整過程…

RK3588開發筆記-Hailo AI模塊調試

目錄 前言 一、RK3588 與 Hailo AI 模塊簡介 RK3588 Hailo AI 模塊 二、原理圖連接 三、內核配置 四、Hailo驅動編譯 五、Hailo模塊驗證 總結 前言 在邊緣計算和人工智能應用不斷發展的今天,將高性能的 AI 模塊與功能強大的開發板相結合,能為各種創新應用提供堅實的基…