簡單ELK框架搭建

簡介

????????ELK 框架是一套開源的日志管理和分析工具,由 Elasticsearch、Logstash 和 Kibana 三個主要組件組成,現在新增了Filebeat組件,可以更高效的收集數據。

  • Elasticsearch:是一個分布式、高可擴展的開源搜索引擎,能快速準確地從大量日志數據中檢索出所需信息。
  • Logstash:是一個數據收集和處理引擎,用于從各種數據源收集日志數據,如文件、網絡接口、數據庫等,然后對數據進行過濾、轉換和格式化等處理。
  • Kibana:是一個開源的數據分析和可視化平臺,可視化方式對 Elasticsearch 中的數據進行分析和展示,無需編寫復雜的查詢語句,即可快速了解數據的分布、趨勢和關聯關系。
  • Filebeat :Filebeat 是一個輕量級的日志文件收集器,專為轉發和集中日志數據而設計,用于監控指定的日志文件或目錄,一旦有新的日志產生,Filebeat 就會讀取并將其發送。

????????ELK 框架的工作流程是,Filebeat收集各種來源的日志數據,發送到Logstash處理過濾后將其發送到 Elasticsearch 進行存儲和索引,然后 Kibana 從 Elasticsearch 中獲取數據并進行可視化展示,為用戶提供直觀的日志分析結果。

ELK運行流程圖

(我搭建的只是一個簡易版本的,如需專業版的請查找其他文件或視頻資料)

我是在虛擬機的Docker中搭建的ES和Kabana,首先需要新建一個網絡用于ELK

docker network create elk

docker安裝elasticsearch

docker run -d \
--name=elasticsearch \
-v es-data:/usr/share/elasticsearch/data \
-e ES_JAVA_OPTS="-Xms256m -Xmx512m" \
-e "discovery.type=single-node" \
-e "xpack.security.enabled=false" \
--net elk \
-p 9200:9200 -p 9300:9300 \
docker.elastic.co/elasticsearch/elasticsearch:8.6.2

安裝kibana

docker run -d \
--name=kibana \
-e ELASTICSEARCH_HOSTS=http://elasticsearch:9200 \
-e I18N_LOCALE=zh-CN \
--net elk \
-p 5601:5601 \
docker.elastic.co/kibana/kibana:8.6.2

測試ES

curl 1ocalhost:9200/_cat/health

測試Kabana,直接訪問5601端口就可以,http://192.168.178.78:5601/app/home#/,記得把ip換成自己的。

然后我的Logstash和Filebeat 是安裝在客戶端的,直接安裝在了Windows上。需要再官網下載https://www.elastic.co/,進入后可以先改成中文

然后往下滑,就可以看到下載本地部署的鏈接了

進去后選擇應用和版本

選擇需要下載的軟件和版本 ,我下載的8.6.2的

進去之后記得下載Windows版本的。?安裝Logstash和Filebeat

????????Filebeat:?解壓前面下載好的filebeat壓縮包,打開filebeat.yml文件

打開之后把里邊原本的文件注銷了 ,然后輸入以下配置

filebeat.inputs:      #這個是獲取日志- type: filestreamid: your_unique_input_id # 在這里添加一個唯一的 IDenabled: truepaths:- D:\IDER\project\a\vehicle\logs\vehicle-system\*.log # 請替換為實際的日志路徑setup.ilim.enabled: false
setup.template.name: "logstash"
setup.template.pattern: "logstash-*"
output.logstash:                     #這個是把日志發送到logstashhosts: ["127.0.0.1:5044"]          #這個logstash的ip以及接口,設置成自己的index: "logstash-%{+yyyy.MM.dd}"   #發送過去的數據名字,前綴加時間戳

保存后在當前文件夾路徑哪里輸入cmd,打開黑窗口,然后輸入啟動命令

.\filebeat.exe -c filebeat.yml -e

????????如果一切配置正確,Filebeat將開始讀取配置文件中指定的日志文件,并根據你的輸出配置將日志數據發送到目標位置(比如Logstash)。你應該能在命令提示符窗口看到Filebeat的運行日志,顯示數據正在被處理和發送。?

????????Logstash:解壓Logstash壓縮包文件,在config文件夾下有一個文件:logstash-sample.conf,復制一份,并重命名為logstash.conf,輸入以下配置。

input {beats {port => 5044    #這個監測端口}
}output {elasticsearch {hosts => ["http://192.168.178.78:9200"]   #輸出到ES中index => "task-service-%{+YYYY.MM.dd}"#user => "elastic"#password => "changeme"}
}

然后進入到bin目錄,然后地址欄cmd打開黑窗口,輸入啟動命令

logstash.bat  -f D:\tools\logstash-7.15.2\config\logstash.conf

啟動之后打開Kibana,滑到最后點擊Stack Management

然后點擊索引,就可以看到,如果沒有看到,可以在數據流那里看看有沒有。

有了索引或者數據流后,點擊 數據視圖,然后創建數據視圖

創建時名稱可以隨便填,但是索引模式一般都是前綴加上*號做通配符

創建保存視圖后在左上角點擊,然后點擊Discover

然后顯示出來日志記錄?

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/bicheng/74632.shtml
繁體地址,請注明出處:http://hk.pswp.cn/bicheng/74632.shtml
英文地址,請注明出處:http://en.pswp.cn/bicheng/74632.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

VS Code 中 .history`文件的來源與 .gitignore`的正確使用

引言 在使用 VS Code 進行 Git 版本控制時,有時會發現項目中多出一個 .history 目錄,并被 Git 識別為未跟蹤文件。本文將解釋 .history 的來源,并提供 .gitignore 的正確配置方法,確保開發環境的整潔性。 1. .history 文件的來源…

網絡之數據鏈路層

數據鏈路層 數據鏈路層目標 TCP/IP提供了一種能力, 將數據可靠的從 B 跨網絡送到 C 主機, 這期間是由無數次局域網轉發構成的, 比如 主機B 到 路由器F 就是一次局域網通信的問題, 而數據鏈路層就是研究數據是如何在局域網內部轉發的. 也就是說, 應用層是進行數據的處理, 傳輸…

A Brief History: from GPT-1 to GPT-3

This is my reading notes of 《Developing Apps with GPT-4 and ChatGPT》. In this section, we will introduce the evolution of the OpenAI GPT medels from GPT-1 to GPT-4. GPT-1 In mid-2018, OpenAI published a paper titled “Improving Language Understanding …

基于大數據的各品牌手機銷量數據可視化分析系統(源碼+lw+部署文檔+講解),源碼可白嫖!

摘要 時代在飛速進步,每個行業都在努力發展現在先進技術,通過這些先進的技術來提高自己的水平和優勢,各品牌手機銷量數據可視化分析系統當然不能排除在外。基于大數據的各品牌手機銷量數據可視化分析系統是在實際應用和軟件工程的開發原理之…

人工智能-群暉Docker部署DB-GPT

人工智能-群暉Docker部署DB-GPT 0 環境及說明1 獲取dbgpt的docker鏡像2 下載向量模型3 下載配置文件4 修改配置文件5 創建dbgpt容器并運行6 訪問dbgpt0 環境及說明 環境項說明DSM版本DSM 7.2.1-69057 update 3Container Manager版本24.0.2-1535當前 hub.docker.com 鏡像倉庫中的…

Netty——TCP 粘包/拆包問題

文章目錄 1. 什么是 粘包/拆包 問題?2. 原因2.1 Nagle 算法2.2 滑動窗口2.3 MSS 限制2.4 粘包的原因2.5 拆包的原因 3. 解決方案3.1 固定長度消息3.2 分隔符標識3.3 長度前綴協議3.3.1 案例一3.3.2 案例二3.3.3 案例三 4. 總結 1. 什么是 粘包/拆包 問題&#xff1f…

JavaScript Fetch API

簡介 fetch() API 是用于發送 HTTP 請求的現代異步方法,它基于 Promise,比傳統的 XMLHttpRequest 更加簡潔、強大 示例 基本語法 fetch(url, options).then(response > response.json()).then(data > console.log(data)).catch(error > con…

UMI-OCR Docker 部署

額外補充 Docker 0.前置條件 部署前,請檢查主機的CPU是否具有AVX指令集 lscpu | grep avx 輸出如下即可繼續部署 Flags: ... avx ... avx2 ... 1.下載dockerfile wget https://raw.githubusercontent.com/hiroi-sora/Umi-OCR_runtime_linux/main/Do…

C++ --- 二叉搜索樹

1 二叉搜索樹的概念 ?叉搜索樹?稱?叉排序樹,它或者是?棵空樹,或者是具有以下性質的?叉樹: 1 若它的左?樹不為空,則左?樹上所有結點的值都?于等于根結點的值 2 若它的右?樹不為空,則右?樹上所有結點的值都?于等于根結點…

跨語言語言模型預訓練

摘要 最近的研究表明,生成式預訓練在英語自然語言理解任務中表現出較高的效率。在本研究中,我們將這一方法擴展到多種語言,并展示跨語言預訓練的有效性。我們提出了兩種學習跨語言語言模型(XLM)的方法:一種…

文件描述符,它在哪里存的,exec()后還存在嗎

學過計系肯定了解 寄存器、程序計數器、堆棧這些 程序運行需要的資源。 這些是進程地址空間。 而操作系統分配一個進程資源時,分配的是 PCB 進程控制塊。 所以進程控制塊還維護其他資源——程序與外部交互的資源——文件、管道、套接字。 文章目錄 文件描述符進程管…

Slidev使用(一)安裝

文章目錄 1. **安裝位置**2. **使用方式**3. **適用場景**4. **管理和維護** 全局安裝1. **檢查 Node.js 和 npm 是否已安裝**2. **全局安裝 Slidev CLI**3. **驗證安裝是否成功**4. **創建幻燈片文件**5. **啟動 Slidev**6. **實時編輯和預覽**7. **構建和導出(可選…

第二十一章:模板與繼承_《C++ Templates》notes

模板與繼承 重點和難點編譯與測試說明第一部分:多選題 (10題)第二部分:設計題 (5題)答案與詳解多選題答案:設計題參考答案 測試說明 重點和難點 21.1 空基類優化(EBCO) 知識點 空基類優化(Empty Base Cla…

AOA與TOA混合定位,MATLAB例程,自適應基站數量,三維空間下的運動軌跡,濾波使用EKF

本代碼實現了一個基于 到達角(AOA) 和 到達時間(TOA) 的混合定位算法,結合 擴展卡爾曼濾波(EKF) 對三維運動目標的軌跡進行濾波優化。代碼通過模擬動態目標與基站網絡,展示了從信號測量、定位解算到軌跡濾波的全流程,適用于城市峽谷、室內等復雜環境下的定位研究。 文…

量子計算:開啟未來計算的新紀元

一、引言 在當今數字化時代,計算技術的飛速發展深刻地改變了我們的生活和工作方式。從傳統的電子計算機到如今的高性能超級計算機,人類在計算能力上取得了巨大的進步。然而,隨著科技的不斷推進,我們面臨著越來越多的復雜問題&…

AMD機密計算虛擬機介紹

一、什么機密計算虛擬機 機密計算虛擬機 是一種基于硬件安全技術(如 AMD Secure Encrypted Virtualization, SEV)的虛擬化環境,旨在保護虛擬機(VM)的 ?運行中數據?(包括內存、CPU 寄存器等)免受外部攻擊或未經授權的訪問,即使云服務提供商或管理員也無法窺探。 AMD …

如何通過數據可視化提升管理效率

通過數據可視化提升管理效率的核心方法包括清晰展示關鍵指標、及時發現和解決問題、支持決策優化。其中,清晰展示關鍵指標尤為重要。通過數據可視化工具直觀地呈現關鍵績效指標(KPI),管理者能快速、準確地理解業務現狀&#xff0c…

.git 文件夾

文件夾介紹 🍎 在 macOS 上如何查看 .git 文件夾? ? 方法一:終端查看(最推薦) cd /你的項目路徑/ ls -a-a 參數表示“顯示所有文件(包括隱藏的)”,你就能看到: .git…

MongoDB 與 Elasticsearch 使用場景區別及示例

一、核心定位差異 ?MongoDB? ?定位?:通用型文檔數據庫,側重數據的存儲、事務管理及結構化查詢,支持 ACID 事務?。?典型場景?: 動態數據結構存儲(如用戶信息、商品詳情)?。需事務支持的場景&#xf…

【深度學習基礎 2】 PyTorch 框架

目錄 一、 PyTorch 簡介 二、安裝 PyTorch 三、PyTorch 常用函數和操作 3.1 創建張量(Tensor) 3.2 基本數學運算 3.3 自動求導(Autograd) 3.4 定義神經網絡模型 3.5 訓練與評估模型 3.6 使用模型進行預測 四、注意事項 …