Spark on yarn的作業提交流程

一、YarnClient
在這里插入圖片描述

二、YarnCluster
在這里插入圖片描述

三、詳細描述

  • 客戶端(Client)通過YARN的ResourceManager提交應用程序。在此過程中,客戶端進行權限驗證,生成Job
    ID和資源上傳路徑,并將這些信息返回給客戶端。
  • 客戶端將jar包、配置文件、第三方包等文件上傳到指定的HDFS路徑。完成后,客戶端再次向ResourceManager提交作業執行請求。
  • ResourceManager收到請求后,將其封裝為一個任務,并將其插入Scheduler的任務隊列中,等待空閑資源。
  • 一旦集群中有空閑資源,Scheduler將任務分配給NodeManager,NodeManager創建容器,并啟動ApplicationMaster。
  • ApplicationMaster啟動后,從HDFS中拉取jar包,解析數據流(DAG),根據數據流生成階段(Stage),確定任務的并發度,并向ResourceManager申請資源。
  • ResourceManager接收到請求后,將任務封裝為Task,并將其插入任務隊列。
  • 一旦集群中有空閑資源,ResourceManager將任務分配給NodeManager,NodeManager啟動容器,并與ApplicationMaster通信,以在容器中啟動Executor進程。
  • Executor向ApplicationMaster注冊,并申請任務。ApplicationMaster對任務進行解析,并將Task發送到Executor上。
  • Executor執行Task,并將執行結果或狀態報告給ApplicationMaster。
  • 當所有任務執行完畢時,ApplicationMaster通知ResourceManager注銷應用,回收資源。至此,整個作業的提交流程結束。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/diannao/86743.shtml
繁體地址,請注明出處:http://hk.pswp.cn/diannao/86743.shtml
英文地址,請注明出處:http://en.pswp.cn/diannao/86743.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

MySQL 主從復制與一主多從架構實戰詳解

文章目錄 一、MySQL 主從復制的本質原理 數據同步流程: 主從復制三大線程: 二、主從復制的三種模式 三、一主多從架構設計與應用 應用場景: 優勢: 四、單機模擬主從復制(實戰配置) 環境準備&#xff1a…

分布式光纖測溫及紅外測溫系統的區別?

在現代工業監控系統中,溫度監測是保障設備安全運行的關鍵環節。分布式光纖測溫(DTS)和紅外測溫(IR)是兩種常見的溫度監測技術。 本文將介紹這兩種技術的原理、優勢以及應用場景的區別。 光纖測溫技術的原理是利用光纖…

sql優化:使用 exists 優化 in () 或 = ()

1、使用 exists 優化 in () 優化前: select id, order_no, apply_time, apply_dept, apply_operator, purpose, stage, remark from BranchWarehouseApplyMaster where stage 0 and warehouse_id 1 and apply_dept in ( select emp_DeptID from Employee where …

HTTP 響應狀態碼

HTTP 響應狀態碼(Response Status Codes) HTTP 響應狀態碼用于表示服務器對客戶端請求的處理結果,由3位數字 組成,分為5類: 狀態碼 類別 常見狀態碼 說明 1xx 信息響應 100(Continue) …

如何通過插件系統打造個性化效率工作流

在現代工作流中,快速調用工具與自動化操作已成為提升生產力的核心環節。一款真正出色的效率工具,不僅要在響應速度和跨平臺兼容性上表現出色,更需要具備高度的可擴展性,以滿足多樣化的使用場景。 它不僅輕量高效,還支…

Spring上下文模塊設計

經過此前我們設計的如:IoC、Web、數據訪問、AOP等模塊的設計,我們從設計上已經搭建好了Spring的基礎骨架了,但聰明的碼友會思考想到:作為一個基礎框架而言,目前應該是已經夠用了的,但是上進的碼友怎么會就此…

keil5怎么關閉工程

在project里面有一個close project,點擊后就關掉了,之前還按照其他軟件的操作習慣,右鍵工程選項,但是始終沒有發現關閉選項。

騰訊云:6月30日起,自動禁用,及時排查

大家好,我是小悟。 騰訊云發布公告,宣布從2025年6月30日開始,對長期未使用的AccessKey(API訪問密鑰)進行自動禁用。 簡單來說,如果你的密鑰在90天內沒動靜,系統就會把它關掉,不管是…

【C++】多重繼承與虛繼承

多重繼承與虛繼承 1.單繼承和多重繼承的區別2.語法規則示例代碼:多重繼承子類指定父類的構造示例代碼:多重繼承子類隱藏父類的同名方法 3.虛繼承解決多重繼承遇到的bug示例代碼:環狀繼承引發的問題 3.1 虛基類:3.2 語法規則&#…

GCC編譯/連接/優化等選項

1. GCC編譯/連接/優化等選項 1. GCC編譯/連接/優化等選項 1.1. 簡介1.2. 常用選項 1.2.1. -c -E -S -o1.2.2. -L<path> -l<library>1.2.3. -D<macro>1.2.4. -I<path> 1.3. 代碼生成和優化 1.3.1. -std<standard>1.3.2. -shared1.3.3. -fPIC1.3.…

FFmpeg 壓縮視頻文件

文章目錄 FFmpeg 壓縮視頻文件基本壓縮命令&#xff08;保持 MP4 格式&#xff09;轉換為其他格式示例&#xff1a;關鍵參數說明&#xff1a;額外優化選項&#xff1a; 在FFmpeg中使用多線程加速1. 幀級多線程 (frame-level multithreading)2. 切片級多線程 (slice-level multi…

Ubuntu 系統通過防火墻管控 Docker 容器

Ubuntu 系統通過防火墻管控 Docker 容器指南 一、基礎防火墻配置 # 啟用防火墻 sudo ufw enable# 允許 SSH 連接&#xff08;防止配置過程中斷聯&#xff09; sudo ufw allow 22/tcp二、Docker 配置調整 # 編輯 Docker 配置文件 sudo vim /etc/docker/daemon.json配置文件內…

虛擬機新增硬盤,與數據掛載

我有個虛擬機&#xff0c;當時選擇了獨立文件&#xff0c;現在遇到個問題&#xff0c;硬盤不夠了&#xff0c;索性加了一個新硬盤&#xff0c;現在想把數據庫的數據映射到這個新的硬盤處理。 羅列硬盤 lsblk我得是sdb是新硬盤 2. 分區 sudo fdisk /dev/sdb交互操作&#xff…

go語言學習 第10章:面向對象編程

第10章&#xff1a;面向對象編程 面向對象編程&#xff08;OOP&#xff09;是一種編程范式&#xff0c;它使用“對象”來表示數據和方法&#xff0c;并通過類來定義對象的結構和行為。Go語言雖然不是傳統的面向對象語言&#xff0c;但它通過結構體&#xff08;struct&#xff…

android計算器代碼

本次作業要求實現一個計算器應用的基礎框架。以下是布局文件的核心代碼&#xff1a; <LinearLayout xmlns:android"http://schemas.android.com/apk/res/android"android:layout_width"match_parent"android:layout_height"match_parent"andr…

Go 語言接口詳解

Go 語言接口詳解 核心概念 接口定義 在 Go 語言中&#xff0c;接口是一種抽象類型&#xff0c;它定義了一組方法的集合&#xff1a; // 定義接口 type Shape interface {Area() float64Perimeter() float64 } 接口實現 Go 接口的實現是隱式的&#xff1a; // 矩形結構體…

我們來學mysql -- 8.4版本記錄慢查詢

記錄慢查詢 開啟慢查詢的配置查看慢查詢狀態動態開啟慢查詢日志永久開啟配置log_throttle_queries_not_using_indexes 記錄慢查詢對性能的影響實際案例說明第一條記錄第二條記錄第三條記錄第四條記錄 開啟慢查詢的配置 查看慢查詢狀態 - 執行 show variables like slow_quer…

2025 年中國大學生程序設計競賽全國邀請賽(鄭州)暨第七屆CCPC河南省大學生程序設計競賽(補題)

文章目錄 前言F、幻形之路G、直徑與最大獨立集H&#xff0c;樹論函數M&#xff0c; 川陀航空學院總結 前言 本次比賽&#xff0c;只能說太多沒接觸的知識了&#xff0c;還有太容易被題面嚇住。 F、幻形之路 題目鏈接&#xff1a;幻形之路 解題思路&#xff1a; 對于這一題只…

如何使用k8s安裝redis呢

在Kubernetes (k8s) 上安裝Redis 在Kubernetes上安裝Redis有幾種方法&#xff0c;下面我將介紹兩種常見的方式&#xff1a;使用StatefulSet直接部署和使用Helm chart部署。 一、安裝redis 1.1 拉去ARM鏡像&#xff08;7.4.2&#xff09; docker pull registry.cn-hangzhou.ali…

SpringBoot的5種日志輸出規范策略

在企業級應用開發中&#xff0c;合理規范的日志記錄是系統穩定運行、問題排查和性能優化的關鍵保障。 SpringBoot作為流行的Java開發框架&#xff0c;提供了強大而靈活的日志支持&#xff0c;但如何建立統一、高效的日志輸出規范卻是許多團隊面臨的挑戰。 本文將介紹SpringBo…