Flink2.0 配置 historyserver

Flink2.0 配置 historyserver 主要是去修改config.yaml配置文件 主要修改的點有兩個 網上很多文檔都是寫的只配置一個 都是坑啊

historyserver :歷史服務器
運行 Flink job 的集群一旦停止(例如yarn模式,程序一旦停止,集群也就關閉了),只能去 yarn 或本地磁盤上查看日志,不再可以查看作業掛掉之前的運行的 Web UI,很難清楚知道作業在掛的那一刻到底發生了什么。如果我們還沒有 Metrics 監控的話,那么完全就只能通過日志去分析和定位問題了,所以如果能還原之前的 Web UI,我們可以通過 UI 發現和定位一些問題。

Flink提供了歷史服務器,用來在相應的 Flink 集群關閉后查詢已完成作業的統計信息。我們都知道只有當作業處于運行中的狀態,才能夠查看到相關的WebUI統計信息。通過 History Server 我們才能查詢這些已完成作業的統計信息,無論是正常退出還是異常退出。

1:

jobmanager:# interface, such as 0.0.0.0.bind-host: 0.0.0.0rpc:# JobManager runs.address: cdh1# The RPC port where the JobManager is reachable.port: 6123memory:process:# The total process memory size for the JobManager.# Note this accounts for all memory usage within the JobManager process, including JVM metaspace and other overhead.size: 1600mexecution:failover-strategy: regionarchive:fs:dir: hdfs://cdh1:8020/flink-2.0/completed-jobs // 這個必須配置

2:

historyserver:web:# The address under which the web-based HistoryServer listens.address: 0.0.0.0# The port under which the web-based HistoryServer listens.port: 8082archive:fs:# Comma separated list of directories to monitor for completed jobs.dir: hdfs://cdh1:8020/flink-2.0/completed-jobs# Interval in milliseconds for refreshing the monitored directories.fs.refresh-interval: 10000

總結:

1:jobmanager.archive.fs.dir: hdfs://cdh1:8020/flink-2.0/completed-jobs2:historyserver.web.address: cdh1
2:historyserver.web.port: 8082
2:historyserver.archive.fs.dir: hdfs://cdh1:8020/flink-2.0/completed-jobs
2:historyserver.archive.fs.refresh-interval: 1000
./historyserver.sh start

1. jobmanager.archive.fs.dir: hdfs://cdh1:8020/flink-2.0/completed-jobs

含義: 這個參數指定了JobManager用于存儲作業完成后的歸檔日志的HDFS目錄。當Flink作業完成后,其日志和狀態信息會被歸檔到這個指定的HDFS路徑下,以便后續的分析和審計。

用途:

  • 日志歸檔:確保作業執行后的日志和狀態信息不會立即被刪除,而是被安全地存儲在HDFS上。
  • 審計和調試:在需要時,可以從HDFS上檢索這些歸檔的日志,用于審計作業的執行情況或調試問題。

2. historyserver.web.address: cdh1

含義: 這個參數指定了Flink HistoryServer綁定的主機名或IP地址。HistoryServer是一個Web服務,用于展示Flink作業的歷史記錄,包括作業的圖、狀態、持續時間等信息。

用途:

  • 訪問HistoryServer:用戶可以通過瀏覽器訪問這個地址(通常是http://:),來查看Flink作業的歷史記錄。
  • 作業監控:方便用戶監控和分析作業的執行情況,包括作業的成功、失敗、重啟等信息。

3. historyserver.web.port: 8082

含義: 這個參數指定了Flink HistoryServer監聽的端口號。用戶需要通過這個端口來訪問HistoryServer提供的Web服務。

用途:

  • Web服務端口:確保HistoryServer能夠在一個特定的端口上監聽HTTP請求,從而提供Web界面供用戶訪問。
  • 配置防火墻和安全組:在配置網絡防火墻或安全組時,需要確保這個端口是開放的,以便外部用戶能夠訪問HistoryServer。

4. historyserver.archive.fs.dir: hdfs://cdh1:8020/flink-2.0/completed-jobs

含義: 這個參數與jobmanager.archive.fs.dir類似,但它專門用于HistoryServer。它指定了HistoryServer用于讀取作業歸檔日志的HDFS目錄。HistoryServer會從這個目錄中讀取作業的歷史記錄,并在Web界面上展示。

用途:

  • 歷史記錄讀取:確保HistoryServer能夠找到并讀取作業的歷史記錄,以便在Web界面上展示給用戶。
  • 數據一致性:確保JobManager和HistoryServer使用相同的HDFS目錄來存儲和讀取作業的歷史記錄,以保持數據的一致性

5. historyserver.archive.fs.refresh-interval: 1000

含義:這個參數指定了HistoryServer刷新HDFS上作業歸檔日志的間隔時間(以毫秒為單位)。在這個時間間隔內,HistoryServer會定期檢查HDFS上的歸檔日志目錄,以獲取最新的作業歷史記錄。

用途:

  • 實時性:確保HistoryServer能夠及時地獲取到最新的作業歷史記錄,并在Web界面上展示給用戶。
  • 性能調優:通過調整這個參數,可以在實時性和系統性能之間找到一個平衡點。如果設置得太短,可能會增加HDFS的訪問壓力;如果設置得太長,則可能導致用戶無法及時看到最新的作業歷史記錄。
    在這里插入圖片描述
    在這里插入圖片描述

具體日志可以去這兩個文件查看 flink/log下

 flink-root-historyserver-0-cdh1.logflink-root-historyserver-0-cdh1.out

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/pingmian/86456.shtml
繁體地址,請注明出處:http://hk.pswp.cn/pingmian/86456.shtml
英文地址,請注明出處:http://en.pswp.cn/pingmian/86456.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

LLM的訓練過程

一般而言,訓練一個完整的 LLM 需要經過圖1中的三個階段——Pretrain、SFT 和 RLHF。 1.預訓練 Pretrain,即預訓練,是訓練 LLM 最核心也是工程量最大的第一步。LLM 的預訓練和傳統預訓練模型非常類似,同樣是使用海量無監督文本對隨…

用 AI + Canvas 生成圖形、動畫與圖表

摘要 隨著人工智能(AI)技術與 Web 可視化的結合,前端開發者可以通過自然語言生成復雜的圖表、動畫和交互式畫布,極大地提升了開發效率和用戶體驗。本文作為《AI 前端:構建智能化 Web 應用的未來》專欄的第七篇&#…

SQL Server for Linux 如何實現高可用架構

關鍵詞:SQL Server for Linux、高可用、讀寫分離、動態擴容、Always On、可用性組 📋 文章目錄 前言:Linux上的SQL Server不再是夢高可用架構設計 Always On 可用性組故障轉移集群實例 讀寫分離架構 可用性組讀寫分離應用層讀寫分離 動態擴…

【51單片機流水燈控制4種造型,按下1,2,3,4時,數碼管對應顯示鍵號,同時流水燈對應四種造型】2022-6-1

緣由流水燈控制4種造型,按下1,2,3,4時,數碼管對應顯示鍵號,同時流水燈對應四種造型-編程語言-CSDN問答 #include "REG52.h" unsigned char code smgduan[]{0x3f,0x06,0x5b,0x4f,0x66,0x6d,0x7d,0x07,0x7f,0x6f,0x77,0x7c,0x39,0x5…

設計模式 - 工廠方法

工廠方法是一種設計模式,對工廠制造方法進行接口規范化,允許子類工廠決定具體知道哪類產品的實例,最終降低系統耦合,使系統的可維護性、可擴展性等得到提升。 一、工廠的多元化與專業化 要實例化對象,就得用到關鍵詞“…

數據應該如何組織,才能讓Excel“讀懂”?

前言:如果你希望Excel能“讀懂”你的數據,就得學會讓排序、篩選、數據透視表、函數等這些功能為我們服務。 假設你在和一個非常聰明但有點“死板”的機器人(Excel)對話,你必須用它能理解的語言來組織信息。 “一維表”…

js防止重復提交的3種解決方案

防止 javascript 重復點擊和提交的關鍵方法有三種:1. 禁用按鈕法,點擊后立即禁用按鈕并更改文本提示,請求完成后恢復;2. 節流函數(throttle),限制函數在設定時間間隔內僅執行一次,適…

【信創-k8s】銀河麒麟V10國防版+鯤鵬/飛騰(arm64架構)在線/離線部署k8s1.30+kubesphere

銀河麒麟作為國家核高基專項的重要成果,國防版憑借其卓越的安全性和可靠性,已成為軍工領域的首選操作系統。之前我們在適配麒麟V4國防版的過程中已發現諸多安全性要求,而麒麟V10國防版在安全防護等級上又達到了更高的級別。 本文將主要演示離…

解鎖單周期MIPS硬布線:Logisim實戰全攻略

目錄 一、引言二、MIPS 架構與單周期設計原理2.1 MIPS 架構概述2.2 單周期設計原理剖析 三、Logisim 工具基礎3.1 Logisim 簡介3.2 基本操作與組件認識 四、單周期 MIPS 硬布線設計步驟4.1 了解 MIPS 指令集4.2 搭建數據通路4.3 設計硬布線控制器4.4 在 Logisim 中創建電路 五、…

7.4.2B+樹

B樹: (1)每個分支節點最多有m個子樹(孩子節點)。 階:即看當前的B樹是幾階B樹,就看每個分支節點最多有幾個子樹,還是看最下一層有幾個分叉就是幾階??? 葉子節點:最下邊的一層叫葉子…

MFC獲取本機所有IP、局域網所有IP、本機和局域網可連接IP

獲取本機所有IP地址 // 獲取本機所有IP地址 int CMachine::GetLocalIPs(std::vector<CString>& vIPValue) {//返回IP數量&#xff0c; -1表示獲取失敗vIPValue.clear();int IpNum 0;//1.初始化wsa WSADATA wsaData;int ret WSAStartup(MAKEWORD(2, 2), &wsaD…

【C語言】貪吃蛇小游戲

1. 所需知識 C語言函數、枚舉、結構體、動態內存管理、預處理指令、鏈表、Win32 API... 2. Win32 API介紹 2.1 Win32 API windows這個多作業系統除了協調應用程序的執行、分配內存、管理資源之外&#xff0c;它同時也是一個很大的服務中心&#xff0c;調用這個服務中心的各種…

PostgreSQL 容器化分布式技術方案

&#x1f4cb; 目錄 引言&#xff1a;為什么選擇容器化PostgreSQLPostgreSQL容器化基礎分布式架構設計高可用實現方案讀寫分離架構動態擴縮容策略生產環境實踐總結與展望 引言&#xff1a;為什么選擇容器化PostgreSQL 在數字化轉型的浪潮中&#xff0c;數據庫作為企業的"…

NV025NV033美光固態閃存NV038NV040

美光固態閃存技術突破與市場布局深度解析 一、技術突破&#xff1a;232層NAND閃存與高密度存儲的革新 美光NV系列固態閃存的核心競爭力源于其232層NAND閃存技術&#xff0c;這一技術通過垂直堆疊工藝&#xff0c;將存儲單元層層疊加&#xff0c;宛如在指甲蓋面積內構建超過20…

Matplotlib 繪圖庫從入門到精通:Python 數據可視化全解析

引言 在數據科學的世界里&#xff0c;"一圖勝千言" 這句話有著深刻的含義。數據可視化不僅是數據分析師展示成果的重要手段&#xff0c;更是數據科學家探索數據、發現規律的強大工具。Matplotlib 作為 Python 生態系統中最著名的數據可視化庫&#xff0c;為我們提供…

北斗導航 | 基于CNN-LSTM-PSO算法的接收機自主完好性監測算法

接收機自主完好性監測 原理概述1. 算法架構2. 核心創新點3. 工作流程數學模型1. CNN特征提取2. LSTM時序建模3. PSO優化決策MATLAB完整代碼算法優勢性能對比應用場景擴展方向原理概述 1. 算法架構 #mermaid-svg-fITV6QrXL1fNYFwG {font-family:"trebuchet ms",verda…

【微信小程序】9、用戶拒絕授權地理位置后再次請求授權

1、獲取用戶當前的地理位置 在本專欄的上一篇文章中講了如何 獲取用戶當前的地理位置 首次請求 wx.getLocation API 后&#xff0c;會拉起用戶授權界面 但這時用戶可能會拒絕授權&#xff0c;當你再次請求 wx.getLocation API 后&#xff0c;沒有任何效果。 2、打開設置 用…

嵌入式Linux驅動開發基礎-1 hello驅動

1:APP打開的文件在內核中如何表示 1.1 APP 打開文件時&#xff0c;可以得到一個整數&#xff0c;這個整數被稱為文件句柄。對于 APP 的每一個文件句柄&#xff0c;在內核里面都有一個“struct file ”與之對應 當我們使用 open 打開文件時&#xff0c;傳入的 flags 、 mode…

目標跟蹤存在問題以及解決方案

3D 跟蹤 一、數據特性引發的跟蹤挑戰 1. 點云稀疏性與遠距離特征缺失 問題表現&#xff1a; 激光雷達點云密度隨距離平方衰減&#xff08;如 100 米外車輛點云數不足近距離的 1/10&#xff09;&#xff0c;導致遠距離目標幾何特征&#xff08;如車輪、車頂輪廓&#xff09;不…

JavaSE-JDK安裝

目錄 一.在官網下載安裝包 二.安裝JDK 三.檢測JDK是否安裝成功 四.配置系統環境變量 一.在官網下載安裝包 Oracle官網https://www.oracle.com/cn/java/technologies/downloads/ 二.安裝JDK 1.首先在C盤以為的其他盤中創建一個自己可以找到的存放JDK路徑&#xff1a; 2.雙擊下…