docker環境下安裝flink

前言

flink在實時計算領域中有著舉足輕重的地位。這篇文章來介紹一下,在linux的docker環境下,怎么快速安裝一個單機版本的flink。

操作流程

環境準備

檢查docker環境是不是正常,如果在拉取鏡像的時候比較慢,建議使用鏡像加速,比如使用騰訊云的鏡像加速

cat /etc/docker/daemon.json 
{"registry-mirrors": ["https://mirror.ccs.tencentyun.com"]
}

執行完成后,重啟docker

拉取flink鏡像

docker pull apache/flink:1.18.0-scala_2.12-java11

注:這個版本的鏡像體積相對比較小?

啟動JobManager

docker run -d --name flink-jobmanager  -p 8081:8081 -p 6123:6123 --restart=always flink:1.18.0-scala_2.12-java11 jobmanager

參數說明:

  • -d:讓容器在后臺運行。

  • --name flink-jobmanager:為容器指定名稱為 flink-jobmanager

  • -p 8081:8081:將容器的 8081 端口映射到宿主機的 8081 端口,通過該端口可以訪問 Flink 的 Web UI。

  • -p 6123:6123:將容器的 6123 端口映射到宿主機的 6123 端口,此端口用于作業管理器的內部通信。

  • flink:1.18.0-scala_2.12-java11:指定要使用的 Flink 鏡像。

  • jobmanager:表示啟動的是作業管理器。

  • --restart 表示容器掛掉后會自動重啟容器

獲取JobManager的IP地址

docker inspect -f '{{range.NetworkSettings.Networks}}{{.IPAddress}}{{end}}' flink-jobmanager

啟動TaskManager

docker run -d --name flink-taskmanager -e JOB_MANAGER_RPC_ADDRESS=172.17.0.3 -p 6121:6121 -p 6122:6122 --restart=always flink:1.18.0-scala_2.12-java11 taskmanager

參數說明:

  • -d:讓容器在后臺運行。
  • --name flink-taskmanager:為容器指定名稱為 flink-taskmanager
  • -e JOB_MANAGER_RPC_ADDRESS=xxxx:指定作業管理器的 RPC 地址,這個地址是上一步得到的
  • -p 6121:6121-p 6122:6122:分別將容器的 6121 和 6122 端口映射到宿主機的對應端口,這兩個端口用于任務管理器的內部通信。
  • flink:1.18.0-scala_2.12-java11:指定要使用的 Flink 鏡像。
  • taskmanager:表示啟動的是任務管理器。

驗證安裝

訪問 Web UI

打開瀏覽器,訪問 http://<你的服務器 IP 地址>:8081,若能看到 Flink 的 Web UI 界面,說明 Flink 單機版已成功啟動。在該界面中,你可以查看作業管理器和任務管理器的狀態、提交作業等。

這里需要注意,如果使用的是公有云,需要開對應的防火墻策略

檢查容器狀態
docker ps

通過這個docker命令,可以查詢到正在運行中的docker容器,如果運行列表中包含flink-jobmanager、fink-taskmanager,說明啟動ok

停止和清理

停止正在運行中的flink容器、刪除容器

docker stop flink-jobmanager fink-taskmanager
docker rm flink-jobmanager fink-taskmanager

總結

通過上面的安裝教程,一個簡單的單機版的flink就安裝成功了。這里將JobManager和TaskManager進行分開部署,這樣做的好處有如下幾點

  • 功能分離
  • 可擴展性
  • 容錯和高可用性
  • 資源隔離
  • 方便維護和管理

最后,總結了下常見的docker容器的操作命令

# 查詢所有的容器
docker ps -a# 查詢對應name容器的容器id
docker ps -qf "name=flink-jobmanager"# 實時查看docker容器的日志
docker logs -f afa4783601bc
# 查看最近100行日志
docker logs --tail=100 afa4783601bc# 查詢容器詳細的信息
docker inspect afa4783601bc

當然,更主流的做法是使用docker compose來進行部署,后面會來一章詳細介紹docker compose!?

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/898267.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/898267.shtml
英文地址,請注明出處:http://en.pswp.cn/news/898267.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

LeetCode 2614.對角線上的質數:遍歷(質數判斷)

【LetMeFly】2614.對角線上的質數&#xff1a;遍歷(質數判斷) 力扣題目鏈接&#xff1a;https://leetcode.cn/problems/prime-in-diagonal/ 給你一個下標從 0 開始的二維整數數組 nums 。 返回位于 nums 至少一條 對角線 上的最大 質數 。如果任一對角線上均不存在質數&…

MongoDB 只能存儲能夠序列化的數據(比如字符串、數字等),而 Python 的 UUID 對象并不是直接可以存入數據庫的格式。

1. UUID 對象是什么&#xff1f; UUID 是 “Universally Unique Identifier”&#xff08;通用唯一識別碼&#xff09;的縮寫&#xff0c;是一種 128 位的數字&#xff0c;用于在全局范圍內生成一個唯一的標識符。它常用于數據庫中的記錄標識、分布式系統中的對象標識等場景。…

linux 安全 xshell 使用

目錄和文件 ls -l 查看目錄和文件的權限的設置情況 加固方法 對于重要目錄&#xff0c;建議執行如下類似操作 Chmod -R 750 /etc/rc.d/init.d/* 這樣只有root可以讀寫和執行這個目錄下的腳本 新建了一個用戶Q 寫入了一些信息 發現在root用戶下可以進行文件打開 接下來用普通用…

自動駕駛背后的數學:特征提取中的線性變換與非線性激活

在上一篇博客「自動駕駛背后的數學&#xff1a;從傳感器數據到控制指令的函數嵌套」—— 揭秘人工智能中的線性函數、ReLU 與復合函數中&#xff0c;我們初步探討了自動駕駛技術中從傳感器數據到控制指令的函數嵌套流程&#xff0c;其中提到了特征提取模塊對傳感器數據進行線性…

楊校老師課堂之編程入門與軟件安裝【圖文筆記】

親愛的同學們&#xff0c;熱烈歡迎踏入青少年編程的奇妙世界&#xff01; 我是你們的授課老師楊校 &#xff0c;期待與大家一同開啟編程之旅。 1. 輕松叩開編程之門 1.1 程序的定義及生活中的應用 程序是人與計算機溝通的工具。在日常生活中&#xff0c;像手機里的各類 APP、電…

DeepSeek 3FS 與 JuiceFS:架構與特性比較

近期&#xff0c;DeepSeek 開源了其文件系統 Fire-Flyer File System (3FS)&#xff0c;使得文件系統這一有著 70 多年歷時的“古老”的技術&#xff0c;又獲得了各方的關注。在 AI 業務中&#xff0c;企業需要處理大量的文本、圖像、視頻等非結構化數據&#xff0c;還需要應對…

Coco AI 智能檢索 Hugo Blog 集成指南

在此前的文章中&#xff0c;我們介紹了如何使用 Coco Server 連接 Notion&#xff0c;實現智能內容檢索。本次&#xff0c;我們將進一步探索如何在 Coco Server 最新版本 中集成 Hugo Site&#xff0c;以便對 Hugo 站點 進行高效檢索。 Coco Server 部署方式 要在本地或服務器…

Mobile-Agent-V:通過視頻引導的多智體協作學習移動設備操作

25年2月來自北京交大和阿里巴巴公司的論文“Mobile-Agent-V: Learning Mobile Device Operation Through Video-Guided Multi-Agent Collaboration”。 移動設備使用量的快速增長&#xff0c;迫切需要改進自動化以實現無縫任務管理。然而&#xff0c;因缺乏操作知識&#xff0…

電魚智能EFISH-RK3576-SBC工控板已適配Android 14系統

EFISH-RK3576-SBC工控板此前已提供了Linux 6.1.57系統&#xff0c;為了滿足更多客戶的需求&#xff0c;電魚智能近日又為其成功適配了Android 14系統——硬件性能卓越的核心板與Android 14的深度組合&#xff0c;將為用戶帶來更加流暢、開放、智能的使用體驗。 一、高性能處理器…

正點原子[第三期]Arm(iMX6U)Linux移植學習筆記-5.1 uboot頂層Makefile分析-VSCode工程創建

前言&#xff1a; 本文是根據嗶哩嗶哩網站上“Arm(iMX6U)Linux系統移植和根文件系統構鍵篇”視頻的學習筆記&#xff0c;在這里會記錄下正點原子 I.MX6ULL 開發板的配套視頻教程所作的實驗和學習筆記內容。本文大量引用了正點原子教學視頻和鏈接中的內容。 引用&#xff1a; …

java 使用命令創建jar的常用參數整理

在Java中&#xff0c;創建JAR文件的命令是jar。以下是常用參數的表格展示&#xff1a; 參數信息含義使用場景使用示例c創建新的JAR文件用于創建一個新的JAR文件當需要打包類文件和資源文件時jar cf myapp.jar MyClass.classt列出JAR文件內容顯示JAR文件中的內容列表查看JAR文件…

無線頭戴式攝像頭系統:無需標記點攝像頭智能捕捉人臉表情

AH-T無線頭戴式攝像頭系統是一款可以精準捕捉人臉面部細微表情的設備&#xff0c;基于單目無標記點攝像頭智能識別算法&#xff0c;無需在臉上粘貼標記點即可實現真人細微臉部表情的精準捕捉&#xff0c;采用頭盔&#xff0c;面捕攝像頭一體式人性化設計&#xff0c;可以讓使用…

Cursor IDE 入門指南

什么是 Cursor? Cursor 是一款集成了 AI 功能的現代代碼編輯器&#xff0c;基于 VSCode 開發&#xff0c;專為提高開發效率而設計。它內置強大的 AI 助手功能&#xff0c;能夠理解代碼、生成代碼、解決問題&#xff0c;幫助開發者更快、更智能地完成編程任務。 基礎功能 1.…

Tailwind CSS 中的 spacing 詳解

&#x1f50d; Tailwind CSS 中的 spacing 詳解 spacing&#xff08;間距&#xff09;是 Tailwind CSS 里的一個核心概念&#xff0c;它主要用于控制 padding&#xff08;內邊距&#xff09;、margin&#xff08;外邊距&#xff09;、width&#xff08;寬度&#xff09;、heig…

go語言學習教程推薦,零基礎到做項目

一、基礎入門階段 官方教程&#xff08;免費&#xff09; ? A Tour of Go&#xff1a;交互式入門教程&#xff0c;邊學邊練 ? Go by Example&#xff1a;通過300代碼片段學習語法 入門書籍 ? &#x1f4d8;《Go語言圣經》中文版&#xff08;免費在線閱讀&#xff09;&#…

STM32---FreeRTOS內存管理實驗

一、簡介 1、FreeRTOS內存管理簡介 2、FreeRTOS提供的內存管理算法 1、heap_1內存管理算法 2、heap_2內存管理算法 4、heap_4內存管理算法 5、heap_5內存管理算法 二、FreeRTOS內存管理相關API函數介紹 三、 FreeRTOS內存管理實驗 1、代碼 main.c #include "st…

常見的前端安全問題

前端安全是 Web 開發中至關重要的一環&#xff0c;以下是常見的前端安全問題及對應的防御措施&#xff1a; 1. XSS&#xff08;跨站腳本攻擊&#xff09; 攻擊原理 攻擊者向頁面注入惡意腳本&#xff08;如 JavaScript&#xff09;&#xff0c;在用戶瀏覽器中執行&#xff0c;…

【VUE】ant design vue實現表格table上下拖拽排序

適合版本&#xff1a;ant design vue 1.7.8 實現效果&#xff1a; 代碼&#xff1a; <template><div class"table-container"><a-table:columns"columns":dataSource"tableData":rowKey"record > record.id":row…

深入解析ES6+新語法:復雜的迭代器與生成器

一、迭代器&#xff08;Iterator&#xff09;&#xff1a;數據遍歷的統一協議 1. 迭代器協議的本質 **迭代器協議&#xff08;Iterator Protocol&#xff09;** 是一種標準化的數據訪問接口&#xff0c;它要求對象實現一個 next() 方法&#xff0c;每次調用返回包含 { valu…

LangChain介紹(開源大語言模型LLM應用構建框架,提供完整工具和組件,使開發者能夠創建復雜、交互式且上下文感知的LLM應用)LangServe

文章目錄 LangChain&#xff1a;構建LLM應用的強大框架引言LangChain核心理念- 超越模型訓練數據的局限性- 訪問最新信息- 與外部系統交互- 執行復雜推理鏈 核心組件體系1. 模型&#xff08;Models&#xff09;- **LLMs**&#xff1a;如OpenAI、Anthropic、Cohere等提供的完成型…