Grafana+Loki+Alloy構建企業級日志平臺

1.日志系統介紹

日志系統:

GLA、ELK、數倉

?志處理流程:采集 ==> 存儲 ==> 檢索 ==> 可視化
日志系統工作流程:
日志平臺的目的:統一聚合分散的日志
日志平臺搭建方案:
ELK:ElasticSearch:存儲日志(日志內容進行分詞,日志所有數據都可以被檢索)
Loki:輕量級日志聚合平臺

LAG工作邏輯:

注:檢索日志時向Loki發送查詢請求,Loki從MinIo中讀取日志

2.Loki

2.1 介紹

Loki 是?個可?平擴展、?可?性、多租戶?志聚合系統,其靈感來?Prometheus。Loki 與 Prometheus 的不同之處在于,它專注于?志?不是指標,并通過推送?不是拉取來收集?志。
Loki 的設計?常經濟?效,并且具有?度可擴展性。與其他?志系統不同,Loki不會對?志內容進?索引,?只會對?志的元數據進?索引,將其作為每個?志流的?組標簽。
?志流是?組共享相同標簽的?志。標簽幫助Loki在您的數據存儲中找到?志流,因此擁有?組?質量的標簽是?效查詢執?的關鍵。
然后,?志數據被壓縮并以塊的形式存儲在對象存儲中,如亞?遜簡單存儲服務(S3)或?歌云存儲(GCS),甚?為了開發或概念驗證,存儲在?件系統上。?索引和?度壓縮的塊簡化了操作,顯著降低了Loki的成本。

2.2 日志結構

Loki數據存儲格式:

index:索引;存儲Loki標簽,如?志級別、來源、分組
chunk:塊;存儲?志條?本身
Agent:
代理或客戶端,例如Grafana Alloy或Promtail,隨Loki?起分發。代理抓取?志,通過添加標簽將?志轉換為流,并通過HTTP API將流推送到Loki。
Loki主服務器:
負責攝取和存儲?志以及處理查詢。它可以部署在三種不同的配置中,有關更
多信息,請參閱部署模式。
Grafana:
?于查詢和顯示?志數據。您還可以使?LogCLI或直接使?Loki API從命令? 查詢?志。

3.系統架構

3.1 Loki架構:

寫流程:
1. distributor 接收帶有流和?志?的HTTP POST請求。
2. distributor 會 hash 計算請求中包含的每個流,決定發給 ?致性 hash 環 中的哪個 ingester
3. distributor 把每個流 發給合適處理它的 ingester 和其副本
4. ingester 接收帶有?志?的流,并為流的數據創建?個塊或附加到現有塊。每個租戶和每個標
簽集,塊都是唯?的
5. ingester 回復寫操作結果
6. distributor 等待?多數 ingester 確認寫?完成。
7. distributor 在收到?少法定數量的確認寫?時響應成功(2xx狀態碼)。或者在寫?操作失敗
時響應錯誤(4xx或5xx狀態碼)。
讀流程:
1. 查詢前端(query frontend) 接受到 攜帶 LogQL 的 HTTP GET 請求
2. 查詢前端 將查詢拆分為?查詢并將它們傳遞給查詢調度程序(query scheduler)。
3. querier (查詢器)從調度程序(scheduler)中提取?查詢。
4. querier 將查詢傳遞給 所有保存數據的 ingester
5. ingester 返回與查詢匹配的 記憶數據(如果有)。
6. 如果 ingester 沒有返回或返回的數據不?,querier 會延遲從后備存儲加載數據并對其運?查
詢。
7. querier 遍歷所有接收到的數據并進?重復數據刪除,將?查詢的結果返回到查詢前端。
8. 查詢前端 等待 查詢的所有?查詢完成 并由 querier 返回。
9. 查詢前端將兩個結果合并為最終結果并將其返回給客戶端。

3.2 Alloy架構

Grafana Alloy是?個多功能的可觀測性收集器,可以攝取各種格式的?志并將其 發送到Loki。我們推薦Alloy作為向Loki發送?志的主要?法,因為它為構建?度可擴展和可靠的可觀測性流?線提供了更強?和特征豐富的解決?案。

4.系統部署實踐

創建項目目錄,在項目目錄下下載默認配置文件:

# 1、準備?錄
mkdir evaluate-loki
cd evaluate-loki
# 2、下載默認配置?件
wget https://raw.githubusercontent.com/grafana/loki/main/examples/getting-s
tarted/loki-config.yaml -O loki-config.yaml
wget https://raw.githubusercontent.com/grafana/loki/main/examples/getting-s
tarted/alloy-local-config.yaml -O alloy-local-config.yaml
wget https://raw.githubusercontent.com/grafana/loki/main/examples/getting-s
tarted/docker-compose.yaml -O docker-compose.yaml

dockercompose文件執行效果架構:

執行docker compose up -d 啟動服務

Alloy日志收集:

5.Grafana

添加Loki數據源:

查看?志:可以使?LogCli或者Grafana可視化界?查看?志
1. 使? Grafana 查詢 Loki 數據源的數據
a. 訪問Grafana:http://101.126.16.42:3000/
b. 已經整合了Loki數據源
c. 點擊 Explore 查看
d. 使?Code模式,編寫 LogQL 查詢
查詢示例:
標簽檢索:
# 查看 container 標簽值 為 evaluate-loki-flog-1 的?志
{container="evaluate-loki-flog-1"}
{container="evaluate-loki-grafana-1"}
包含值:
# 查看 container 標簽值 為 evaluate-loki-flog-1 ,且 json 格式中 status字段值為4
04
{container="evaluate-loki-flog-1"} | json | status=`404`
計算:
sum by(container) (rate({container="evaluate-loki-flog-1"} | json | status=
`404` [$__auto]))
其他:
{container="evaluate-loki-flog-1"}
{container="evaluate-loki-flog-1"} |= "GET"
{container="evaluate-loki-flog-1"} |= "POST"
{container="evaluate-loki-flog-1"} | json | status="401"
{container="evaluate-loki-flog-1"} != "401"
更多:https://grafana.com/docs/loki/latest/query/query_examples/

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/diannao/100290.shtml
繁體地址,請注明出處:http://hk.pswp.cn/diannao/100290.shtml
英文地址,請注明出處:http://en.pswp.cn/diannao/100290.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

老梁聊全棧系列:(階段一)現代全棧的「角色邊界」與「能力雷達圖」

JAVA Vue/React 雙棧工程師的「T 型→E 型」進化指南 接上篇《從單體到云原生的演進脈絡》 大家好,我是技術老梁,這是系列文章的第五篇。歡迎大家討論,分享經驗。如果知識對你有用,關注我,多多支持老梁,鼓…

使用 C# 設置 Excel 單元格格式

在實際報表開發中,Excel 的可讀性和美觀性與數據本身同樣重要。合理的單元格格式設置不僅能讓數據一目了然,還能讓報表顯得更專業。通過使用 C#,開發者可以精確控制 Excel 文件的單元格樣式,無需依賴 Microsoft Office。 本文演示…

Redis篇章3:Redis 企業級緩存難題全解--預熱、雪崩、擊穿、穿透一網打盡

在企業級應用場景中,Redis 作為高性能緩存利器,極大提升了系統響應速度,但隨著業務復雜度和并發量的攀升,緩存相關的各類挑戰也接踵而至。比如系統啟動時緩存缺失導致的數據庫壓力、大量緩存同時失效引發的連鎖故障、熱點數據過期…

【數值分析】02-緒論-誤差

參考資料: 書籍: 數值分析簡明教程/王兵團,張作泉,張平福編著. --北京:清華大學出版社;北京交通大學出版社,2012.8 視頻:學堂在線APP中北京交通大學“數值分析I” 前期回顧 【數值分…

P3918 [國家集訓隊] 特技飛行

P3918 [國家集訓隊] 特技飛行 - 洛谷 思路: 因為如果連續進行相同的動作,乘客會感到厭倦,所以定義某次動作的價值為(距上次該動作的時間) ci?,若為第一次進行該動作,價值為 0。同一個動作,價值為ci*(最后一…

Python爬蟲實戰:研究Pandas,構建期貨數據采集和分析系統

1. 引言 1.1 研究背景 期貨市場作為金融市場的重要組成部分,具有價格發現、風險管理和資源配置的重要功能。上海期貨交易所(Shanghai Futures Exchange, SHFE)作為中國四大期貨交易所之一,上市交易的品種包括銅、鋁、鋅、黃金、白銀等多種大宗商品期貨,其交易數據反映了…

Linux第十七講:應用層自定義協議與序列化

Linux第十七講:應用層自定義協議與序列化1.什么是序列化和反序列化2.重新理解read、write為什么支持全雙工3.網絡版計算器的實現3.1socket的封裝 -- 模板方法模式引入3.2序列化和反序列化 && json3.3協議的實現3.4 服務端整體看 -- 所有代碼3.5七層協議&…

附錄:Tomcat下載及啟動

一、打開Tomcat官網windows下載第四個壓縮包,下載完成后解壓縮。(安裝路徑不要帶有中文和特殊符號)二、啟動Tomcat進入bin文件夾:\Tomcat\apache-tomcat-11.0.11\bin,找到startup.bat文件點擊,黑窗口常駐即…

【CTF-WEB】表單提交(特殊參數:?url=%80和?url=@)(通過GBK編碼繞過實現文件包含讀取flag)

題目 尋找這個單純的網站的flag 前端代碼&#xff1a; <!DOCTYPE html> <head><title>CAT</title> </head><body> <h1>Cloud Automated Testing</h1> <p>輸入你的域名&#xff0c;例如&#xff1a;loli.club</p>…

(k8s)Kubernetes 資源控制器關系圖

Kubernetes 資源控制器關系圖 #mermaid-svg-da6tzgmJn70StNQM {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-da6tzgmJn70StNQM .error-icon{fill:#552222;}#mermaid-svg-da6tzgmJn70StNQM .error-text{fill:#55222…

模電基礎:場效應管

目錄 一、場效應管概述 二、結型場效應管&#xff1a;基礎場效應管 &#xff08;1&#xff09;基本結構&#xff1a;PN結導電溝道 &#xff08;2&#xff09;工作原理&#xff1a;耗盡區擠壓溝道從而控制電流 &#xff08;3&#xff09;特性曲線 1.轉移特性 2.輸出特性 …

開發安全利器:detect-secrets 敏感信息掃描工具實戰指南

在現代軟件開發流程中&#xff0c;代碼安全已成為不可忽視的重要環節。尤其是在 DevSecOps 的理念逐漸普及的今天&#xff0c;如何在開發早期就發現并消除潛在的安全隱患&#xff0c;成為每一個開發者和安全工程師必須面對的問題。其中&#xff0c;敏感信息泄露&#xff08;Sec…

數字經濟專業核心課程解析與職業發展指南

在數字經濟高速發展的時代&#xff0c;選擇一門與未來趨勢緊密關聯的專業至關重要。數字經濟專業作為新興交叉學科&#xff0c;既涵蓋傳統經濟理論&#xff0c;又融合了大數據、人工智能等前沿技術。想要在這一領域脫穎而出&#xff0c;考取權威證書是提升競爭力的有效途徑。其…

使用yolo11訓練航拍圖片微小目標AI-TOD檢測數據集無損壓縮版YOLO格式14018張8類別已劃分好訓練驗證集步驟和流程

【數據集介紹】我們基于公開的大規模航空圖像數據集構建了AI-TOD&#xff0c;這些數據集包括&#xff1a;DOTA-v1.5的訓練驗證集[1]、xView的訓練集[19]、VisDrone2018-Det的訓練驗證集[20]、Airbus Ship的訓練驗證集1以及DIOR的訓練驗證測試集[3]。這些數據集的詳細信息如下&a…

sward V2.0.6版本發布,支持OnlyOffice集成、文檔權限控制及歸檔等功能

1、版本更新日志新增新增目錄文檔權限控制新增新增知識庫、文檔歸檔功能集成OnlyOffice支持word文檔預覽、編輯新增MarkDown代碼塊根據語言展示不同樣式優化優化富文本在小屏幕操作調整優化部分界面展示效果優化知識庫圖片展示效果2、目錄與文檔權限控制默認情況下&#xff0c;…

多因子AI回歸揭示通脹-就業背離,黃金價格穩態區間的時序建模

摘要&#xff1a;本文通過構建包含通脹韌性、就業疲軟、貨幣政策預期及跨市場聯動的多因子量化模型&#xff0c;結合美國8月CPI超預期上行與初請失業金人數激增的動態數據&#xff0c;分析黃金價格的高位持穩機制&#xff0c;揭示就業市場對美聯儲降息預期的協同支撐效應。一、…

Java--多線程基礎知識(2)

一.多線程的中斷1.通過自定義的變量來作為標志位import java.util.Scanner;public class Demo1 {public static boolean flg false;public static void main(String[] args) throws InterruptedException {Thread t1 new Thread(()->{while (!flg){System.out.println(&qu…

Qit_計網筆記

第1章 概述1.1 計算機網絡在信息時代中的作用一、計算機網絡基礎概念&#xff08;一&#xff09;計算機網絡的定義定義&#xff1a;計算機網絡在信息時代中起到核心作用&#xff0c;實現了萬物聯網和人人用網的目標。&#xff08;二&#xff09;計算機網絡的特點信息時代特征&a…

【C++11】initializer_list列表初始化、右值引用和移動語義、可變參數模版等

目錄 前言 一、簡介一下C11 二、{}列表初始化 三、右值引用和移動語義 四、右值引用和移動語義的使用場景 五、右值引用和移動語義在傳參中的提效 六、引用折疊和完美轉發 七、可變參數模板 前言 本文主要介紹C11中新增的一些重要語法&#xff1a;包括initializer_list列表初…

MP3 ID3標簽中的數字流派代碼和文本值翻譯成的中文列表

將MP3 ID3標簽中的數字流派代碼和文本值翻譯成的中文列表&#xff1a;■ 數字代碼流派:0 布魯斯 (Blues)1 古典搖滾 (Classic Rock)2 鄉村音樂 (Country)3 舞曲 (Dance)4 迪斯科 (Disco)5 放克 (Funk)6 垃圾搖滾 (Grunge)7 嘻哈 (Hip-Hop)8 爵士樂 (Jazz)9 金屬樂 (M…