Azkaban 大數據 任務調度

參考視頻:尚硅谷大數據Azkaban 3.x教程(全新發布)_嗶哩嗶哩_bilibili

Azkaban: 是一個定時、批量工作流任務調度器(工作流程調度,定時調度)

常見的開源調度系統:

? ? ? ? 簡單單一的任務調度: Linux的Crontab

????????復雜的任務調度: Ooize ,Azkaban, Airflow(python寫的), DolphinScheduler

?比較:

? ? ? ? Ooize 相比Azkaban 是一個重量級的任務調度系統,功能全面,但配置使用更加復雜。如果可以不在意某些功能的缺失,輕量級調度器Azkaban是很不錯的選擇

? ? ? ? Ooize : CDH平臺下的平臺調度器,借助可視化的HUE使用比較友好

? ? ? ? Azkaban:簡單易用

? ? ? ? Airflow : python開發調度的,具備一定的python基礎

? ? ? ? DolphinScheduler: 現在比較好的,可視化的操作,比較方便

特點:

? ? 1 兼容任何版本的hadoop

? ? 2 易于使用的web用戶界面

? ? 3 簡單的工作流上傳

? ? 4 方便設置任務之間的關系

? ? 5?調度工作流

? ? 6?模塊化和可插拔的插件機制

? ? 7?認證/授權

? ? 8?能夠殺死并重新啟動工作流

? ? 9?有關失敗和成功的電子郵件提醒

三個關鍵組件

? 1? AzkabanWebServer :

????????是Azkaban工作流系統的主要管理者,作用:用戶認證,負責project管理,定時執行工作流,跟蹤工作流執行進度等等

? 2? AzkabanExecutorServer :

????????負責具體的工作流的提交、執行,他們通過mysql數據庫來協調任務的執行

? 3? Mysql :

????????存儲大部分執行流狀態等信息

部署:

? ? ? ?1 上傳jar包,解壓

????????????????里面mysql腳本包,excecutor包(集群部署多個服務器),web包.

????????????????安裝順序: mysql -> excecutor -> web

? ? ? ? 2 安裝mysql數據庫

????????????????刷mysql腳本里的 create-all-sql-3.xxxx.sql 腳本

? ? ? ? 3 修改mysql的配置文件? ? ? ? ? ? ? ??
sudo vim /etc/my.cnf# mysqld下面加一行 , 更改mysql包大小,防止Azkaban連接Mysql阻塞,重啟mysql
max_allowed_packet=1024M# 重啟mysql
sudo systemctl restart mysqld
? ? ? ? 4 配置Executor Server

? ? ? ? ? ? ? ? 編輯executor解壓包下conf里的?azkaban.properties , 同步其他節點

vim .../azkaban/azkaban-exec/conf/azkaban.properties# 配置時區
default.timezone.id=Asia/Shanghai# webserver的連接 
azkaban.webserver.url=http://hadoop102:8081# executor的端口,不配會隨機值,不便于管理
executor.port=12321# 配置數據庫信息
mysql.port=3306
mysql.host=
mysql.database=
mysql.user=
mysql.password=
? ? ? ? ?5 Executor Server啟動,激活:? ? ? ? ?
# 最好進入azkaban/azkaban-exec下執行,啟動server
# 如果 azkaban-exec 下面出現executor.port文件,說明啟動成功。或者數據庫表(executors)里查看
bin/start-exec.sh# 激活
curl -G "hadoop102:12321/executor?action=activate" && echojps 查看
? ? ? ? 6 配置 Web Server?

? ? ? ? 編輯 web解壓包下conf的azkaban.properties????????

default.timezone.id=Asia/Shanghai#mysql的數據庫信息
mysql...# 集群可不做修改,單機MininumFreeMemory可能保留的內存過多導致無法啟動,去掉
# StaticRemainingFlowSize 正在排隊的任務數
# MininumFreeMemory 內存占用最小保留
# CpuStatus cpu占用情況
azkaban.executorselector.filters=StaticRemainingFlowSize,MininumFreeMemory,CpuStatus
? ? ? ? 7 修改azkaban-users.xml文件 ,用于用戶管理

? ? ? ? 可以不配,默認是 azkaban azkaban

vim .../azkaban/azkaban-web/conf/azkaban-users.xml<user password="123456" roles="admin" username="atguigu">
? ? ? ? 8 啟動web server
bin/start-web.sh

? ? ? ? 訪問: http://hadoop:8081(/index)? ,并用atguigu登錄

Azkaban內置的任務類型支持:commond,java

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/713541.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/713541.shtml
英文地址,請注明出處:http://en.pswp.cn/news/713541.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

嵌入式驅動學習第一周——Linux錯誤碼以及 IS_ERR、ERR_PTR、PTR_ERR

前言 本節來學習Linux錯誤碼&#xff0c;因為內核中的函數常常返回指針&#xff0c;如果出錯&#xff0c;也希望能夠通過返回的指針體現出來。 嵌入式驅動學習專欄將詳細記錄博主學習驅動的詳細過程&#xff0c;未來預計四個月將高強度更新本專欄&#xff0c;喜歡的可以關注本博…

【正點原子STM32】RNG硬件隨機數(隨機數發生器、真隨機和偽隨機、應用場景、RNG結構和原理、RNG相關寄存器和HAL庫驅動、RNG基本驅動步驟)

一、RNG簡介 二、RNG框圖介紹 三、RNG相關寄存器介紹 四、RNG相關HAL庫驅動介紹 五、RNG基本驅動步驟 六、編程實戰 七、總結 一、RNG簡介 隨機數發生器&#xff08;RNG&#xff09;在計算機科學和密碼學中具有廣泛的應用場景&#xff0c;包括但不限于以下幾個方面&#xff1a…

QML中動態表格修改數據

1.qml文件中的實現代碼 import QtQuick 2.15 import QtQuick.Window 2.15import QtQuick.Controls 2.0 import Qt.labs.qmlmodels 1.0 import QtQuick.Layouts 1.15Window {width: 640height: 480visible: truetitle: qsTr("Hello World")TableModel{id:table_model…

Python內置函數11——globals()、locals()

文章目錄 概要基礎用法 概要 globals()和locals()都是內置函數&#xff0c;用于獲取當前命名空間中的變量。 globals()函數返回全局命名空間的字典&#xff0c;包括全局變量、函數和模塊。它返回一個表示全局命名空間的字典。你可以使用該函數來查看和修改全局命名空間中的變量…

深入剖析k8s-控制器思想

引言 本文是《深入剖析Kubernetes》學習筆記——《深入剖析Kubernetes》 正文 控制器都遵循K8s的項目中一個通用的編排模式——控制循環 for {實際狀態 : 獲取集群中對象X的實際狀態期望狀態 : 獲取集群中對象X的期望狀態if 實際狀態 期望狀態 {// do nothing} else {執行…

buuctf misc做題筆記

喵喵喵 使用stegsolve.jar&#xff0c;按BGR順序提取出一個png圖片&#xff0c;是一個一半得二維碼&#xff0c;修改圖片高度后&#xff0c;解析出一個百度網盤地址&#xff0c;https://pan.baidu.com/s/1pLT2J4f 下載得到壓縮包flag.rar。解壓成功&#xff0c;但是報一個出錯…

4 在QEMU硬件模擬器中運行開源鴻蒙OpenHarmony4.1的操作系統,無需實體開發板

在QEMU硬件模擬器中運行開源鴻蒙OpenHarmony4.1的操作系統&#xff0c;無需實體開發板 作者將狼才鯨日期2024-03-01 先下載源碼和編譯程序&#xff1a; 查看 開源鴻蒙OpenHarmony4.1源碼下載、編譯&#xff0c;生成OHOS_Image可執行文件的最簡易流程 我準備在QEMU模擬器中運行…

LangChain---大型語言模型(LLM)的標準接口和編程框架

1.背景說明 公司在新的一年規劃中突然提出要搞生成式AI(GenAI)的相關東西&#xff0c;在公司分享的參考資料中了解到了一些相關的信息&#xff0c;之所以想到使用LangChain&#xff0c;是因為在應用中遇到了瓶頸問題&#xff0c;除了已經了解和研究過的OpenAI的ChatGpt&#xf…

藍橋杯Java B組歷年真題(2013年-2019年)

一、2013年真題 1、世紀末的星期 使用日期類判斷就行&#xff0c;這里使用LocalDate&#xff0c;也可以使用Calendar類 答案 2099 使用LocalDate import java.time.LocalDate; import java.time.format.DateTimeFormatter; // 1:無需package // 2: 類名必須Main, 不可修改p…

1小時網絡安全事件報告要求,持安零信任如何幫助用戶應急響應?

12月8日&#xff0c;國家網信辦起草發布了《網絡安全事件報告管理辦法&#xff08;征求意見稿&#xff09;》&#xff08;以下簡稱“辦法”&#xff09;。擬規定運營者在發生網絡安全事件時應當及時啟動應急預案進行處置。 1小時報告 按照《網絡安全事件分級指南》&#xff0c…

速盾:動態網站用cdn更慢嗎

當談到網站速度時&#xff0c;內容傳遞網絡&#xff08;Content Delivery Network&#xff0c;CDN&#xff09;是不可忽視的一個因素。很多人可能有疑惑&#xff0c;動態網站使用CDN是否會導致加載速度變慢。為了解決這個問題&#xff0c;我們需要了解動態網站和CDN的工作原理&…

mybatis動態加載mapper.xml

mybatis動態加載mapper.xml mybatis動態加載mapper.xml、springboot mybatis動態加載mapper.xml 教程連接&#xff1a;https://blog.csdn.net/weixin_44480167/article/details/136356398

測試linux系統某些文件屬性之test命令

要檢測系統上某些文件或相關屬性時&#xff0c;我們可以使用test命令&#xff0c;比如&#xff1a;檢查/root/ztj.txt文件是否存在&#xff0c;可以使用test -e /root/ztj.txt命令&#xff0c;不過執行結果不會顯示任何信息&#xff0c;需配合$?或&&及||來展現具體結果…

Find My掃地機器人|蘋果Find My技術與機器人結合,智能防丟,全球定位

掃地機器人又稱自動打掃機、智能吸塵、機器人吸塵器等&#xff0c;是智能家電的一種&#xff0c;能憑借人工智能&#xff0c;自動在房間內完成地板清理工作。一般采用刷掃和真空方式&#xff0c;將地面雜物先吸納進入自身的垃圾收納盒&#xff0c;從而完成地面清理的功能。現今…

[AutoSar]BSW_Com07 CAN報文接收流程的函數調用

目錄 關鍵詞平臺說明一、背景二、順序總覽三、函數說明3.1 Com_RxIndication&#xff08;&#xff09; 關鍵詞 嵌入式、C語言、autosar、OS、BSW 平臺說明 項目ValueOSautosar OSautosar廠商vector &#xff0c;芯片廠商TI 英飛凌編程語言C&#xff0c;C編譯器HighTec (GCC)…

貝葉斯定理與條件獨立假設:樸素貝葉斯分類方法深度解讀

今天給大家分享的是樸素貝葉斯算法&#xff0c;這個算法在實際使用中不是很多&#xff0c;因為現在很多算法已經發展的很好&#xff0c;性能上也比樸素貝葉斯算法的好很多&#xff0c;因此在實際中我們其實看到在實際應用中樸素貝葉斯算法的使用已經比較少&#xff0c;即使出現…

HotFix原理學習 IL2CPP 學習

原文鏈接&#xff1a;Unity 游戲用XLua的HotFix實現熱更原理揭秘-CSDN博客 本文通過對XLua的HoxFix使用原理的研究揭示出來這樣的一套方法。這個方法的 第一步&#xff1a;通過對C#的類與函數設置Hotfix標簽。來標識需要支持熱更的類和函數。第二步&#xff1a;生成函數連接器…

好視通視頻會議系統存在任意文件讀取漏洞復現 [附POC]

漏洞簡介 好視通視頻會議是由深圳市華視瑞通信息技術有限公司開發&#xff0c;其在國內率先推出了3G互聯網視頻會議&#xff0c;并成功應用于SAAS領域。 資產 FOFA:app"好視通-視頻會議" POC GET /register/toDownload.do?fileName../../../../../../../../../.…

代碼隨想錄-回溯算法

組合 //未剪枝 class Solution {List<List<Integer>> ans new ArrayList<>();Deque<Integer> path new LinkedList<>();public List<List<Integer>> combine(int n, int k) {backtracking(n, k, 1);return ans;}public void back…

MySql安全加固:可信IP地址訪問控制 設置密碼復雜度

MySql安全加固&#xff1a;可信IP地址訪問控制 & 設置密碼復雜度 1.1 可信IP地址訪問控制1.2 設置密碼復雜度 &#x1f496;The Begin&#x1f496;點點關注&#xff0c;收藏不迷路&#x1f496; 1.1 可信IP地址訪問控制 當您在創建用戶時使用’%作為主機部分&#xff0c;…