Hadoop3:Yarn容量調度器配置多隊列案例

一、情景描述

需求1:
default隊列占總內存的40%,最大資源容量占總資源60%,hive隊列占總內存的60%,最大資源容量占總資源80%。

二、多隊列優點

(1)因為擔心員工不小心,寫遞歸死循環代碼,把所有資源全部耗盡
(2)實現任務的降級使用,特殊時期保證重要的任務隊列資源充足。

三、多隊列配置

capacity-scheduler.xml

<!-- 指定多隊列,增加hive隊列 -->
<property><name>yarn.scheduler.capacity.root.queues</name><value>default,hive</value><description>The queues at the this level (root is the root queue).</description>
</property><!-- 降低default隊列資源額定容量為40%,默認100% -->
<property><name>yarn.scheduler.capacity.root.default.capacity</name><value>40</value>
</property><!-- 降低default隊列資源最大容量為60%,默認100% -->
<property><name>yarn.scheduler.capacity.root.default.maximum-capacity</name><value>60</value>
</property>

hive隊列添加必要屬性:
都是yarn.scheduler.capacity.root.hive下的配置

<!-- 指定hive隊列的資源額定容量 -->
<property><name>yarn.scheduler.capacity.root.hive.capacity</name><value>60</value>
</property><!-- 用戶最多可以使用隊列多少資源,1表示 -->
<property><name>yarn.scheduler.capacity.root.hive.user-limit-factor</name><value>1</value>
</property><!-- 指定hive隊列的資源最大容量 -->
<property><name>yarn.scheduler.capacity.root.hive.maximum-capacity</name><value>80</value>
</property><!-- 啟動hive隊列 -->
<property><name>yarn.scheduler.capacity.root.hive.state</name><value>RUNNING</value>
</property><!-- 哪些用戶有權向隊列提交作業 -->
<property><name>yarn.scheduler.capacity.root.hive.acl_submit_applications</name><value>*</value>
</property><!-- 哪些用戶有權操作隊列,管理員權限(查看/殺死) -->
<property><name>yarn.scheduler.capacity.root.hive.acl_administer_queue</name><value>*</value>
</property><!-- 哪些用戶有權配置提交任務優先級 -->
<property><name>yarn.scheduler.capacity.root.hive.acl_application_max_priority</name><value>*</value>
</property><!-- 任務的超時時間設置:yarn application -appId appId -updateLifetime Timeout
參考資料:https://blog.cloudera.com/enforcing-application-lifetime-slas-yarn/ --><!-- 如果application指定了超時時間,則提交到該隊列的application能夠指定的最大超時時間不能超過該值。 
-->
<property><name>yarn.scheduler.capacity.root.hive.maximum-application-lifetime</name><value>-1</value>
</property><!-- 如果application沒指定超時時間,則用default-application-lifetime作為默認值 -->
<property><name>yarn.scheduler.capacity.root.hive.default-application-lifetime</name><value>-1</value>
</property>

命令方式指定任務的運行時間
yarn application -appId appId -updateLifetime Timeout

四、更新配置到服務器

上傳capacity-scheduler.xml到102,然后,用xsync同步腳本同步到103,104.
102上:yarn rmadmin -refreshQueues
在這里插入圖片描述

五、執行任務

1、命令方式指定任務隊列

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount -D mapreduce.job.queuename=hive /input /output1

2、Java代碼中指定任務隊列

public class WcDrvier {public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {Configuration conf = new Configuration();conf.set("mapreduce.job.queuename","hive");//1. 獲取一個Job實例Job job = Job.getInstance(conf);。。。 。。。//6. 提交Jobboolean b = job.waitForCompletion(true);System.exit(b ? 0 : 1);}
}

在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/diannao/38161.shtml
繁體地址,請注明出處:http://hk.pswp.cn/diannao/38161.shtml
英文地址,請注明出處:http://en.pswp.cn/diannao/38161.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

數據處理:四選一、四關聯

今天去面試&#xff0c;面試官們給我一個‘選擇’&#xff0c;有四個選項&#xff1a;‘展示你的才華’、‘展示你的美貌’、‘展示你的才華與美貌’、‘都不展示’ {label: “選擇”,children: [{label: “展示你的才華”,children: [],isShow: talentModal,click: () > {i…

電路筆記(電源模塊): 基于FT2232HL實現的jtag下載器硬件+jtag的通信引腳說明

JTAG接口說明 JTAG 接口根據需求可以選擇20針或14針的配置&#xff0c;具體選擇取決于應用場景和需要連接的功能。比如之前的可編程邏輯器件XC9572XL使用JTAG引腳&#xff08;TCK、TDI、TDO、TMS、VREF、GND&#xff09;用于與器件進行調試和編程通信。更詳細的內容可以閱讀11…

51單片機STC8H8K64U通過RA8889/RA8876如何控制彩屏(SPI源碼下載)

【硬件部份】 一、硬件連接實物&#xff1a; STC8H系列單片機不需要外部晶振和外部復位&#xff0c;在相同的工作頻率下&#xff0c;速度比傳統的8051單片機要快12倍&#xff0c;具有高可靠抗干擾的優秀特性&#xff0c;與瑞佑的RA8889/RA8876控制芯片剛好可以完美搭配用于工…

redis實戰-緩存雪崩問題及解決方案

定義理解 緩存雪崩是指在同一時間段&#xff0c;大量緩存的key同時失效&#xff0c;或者Redis服務宕機&#xff0c;導致大量請求到達數據庫&#xff0c;帶來巨大壓力 和緩存擊穿的區別&#xff1a; 緩存雪崩是由于緩存中的大量數據同時失效或緩存服務器故障引起的&#xff1b…

(漏洞檢查項) | 服務端請求偽造 SSRF

(漏洞檢查項)|服務端請求偽造 SSRF 漏洞場景 服務端請求偽造&#xff08;SSRF&#xff0c;Server-Side Request Forgery&#xff09;漏洞發生在應用程序允許攻擊者通過構造惡意請求&#xff0c;利用服務器端發起HTTP請求&#xff0c;并訪問內部資源或進行其他未授權操作。 漏…

css_20_定位

相對定位 設置相對定位 給元素設置 position: relative 即可實現相對定位。 可以使用 left、right、top 、 bottom 四個屬性調整位置。 相對定位的參考點是相對自己原來的位置相對定位的特點&#xff1a; 1&#xff0e;不會脫離文檔流&#xff0c;元素位置的變化&#xff0c;只…

機器學習周記(第四十五周:Graphformer)2024.6.24~2024.6.30

目錄 摘要ABSTRACT1 論文信息1.1 論文標題1.2 論文摘要1.3 論文引言1.4 論文貢獻 2 論文模型2.1 問題定義2.2 模型架構2.2.1 自注意下采樣模塊&#xff08;Self-attention down-sampling module&#xff09;2.2.2 稀疏圖自注意力機制&#xff08;Sparse graph self-attention m…

python自動移除excel文件密碼(小工具)

安裝 msoffcrypto-tool 使用pip命令安裝: 打開命令行工具&#xff08;如終端、命令提示符或Powershell&#xff09;&#xff0c;然后輸入以下命令來安裝msoffcrypto-tool&#xff1a; pip install msoffcrypto-tool庫&#xff0c;進行自動移除excel文件密碼 import msoffcrypt…

【C++】using namespace std 到底什么意思

&#x1f4e2;博客主頁&#xff1a;https://blog.csdn.net/2301_779549673 &#x1f4e2;歡迎點贊 &#x1f44d; 收藏 ?留言 &#x1f4dd; 如有錯誤敬請指正&#xff01; &#x1f4e2;本文作為 JohnKi 的學習筆記&#xff0c;引用了部分大佬的案例 &#x1f4e2;未來很長&a…

新手練習項目 7:猜數字游戲

名人說&#xff1a;莫聽穿林打葉聲&#xff0c;何妨吟嘯且徐行。—— 蘇軾《定風波莫聽穿林打葉聲》 Code_流蘇(CSDN)&#xff08;一個喜歡古詩詞和編程的Coder&#xff09; 目錄 一、項目描述二、項目實現三、項目步驟四、項目擴展方向 更多項目內容&#xff0c;請關注我、訂…

comsol學習筆記

comsol巖土力學與流固耦合的學習 comsol的相關視頻教程 https://www.bilibili.com/video/BV1Cu4y1r7Gn/?spm_id_from333.337.search-card.all.click&vd_source02b2bad477a153eaeb9c48cbbedaf8df [這里面有講解地應力平衡技術] https://www.bilibili.com/video/BV17C4y1j…

打靶記錄——靶機medium_socnet

靶機下載地址 https://www.vulnhub.com/entry/boredhackerblog-social-network,454/ 打靶過程 由于靶機和我的Kali都處于同一個網段&#xff0c;所以使用arpscan二次發現技術來識別目標主機的IP地址 arpscan -l除了192.168.174.133&#xff0c;其他IP都是我VMware虛擬機正…

【Spring Boot】認識 JPA 的接口

認識 JPA 的接口 1.JPA 接口 JpaRepository2.分頁排序接口 PagingAndSortingRepository3.數據操作接口 CrudRepository4.分頁接口 Pageable 和 Page5.排序類 Sort JPA 提供了操作數據庫的接口。在開發過程中繼承和使用這些接口&#xff0c;可簡化現有的持久化開發工作。可以使 …

springboot學習,如何用redission實現分布式鎖

目錄 一、springboot框架介紹二、redission是什么三、什么是分布式鎖四、如何用redission實現分布式鎖 一、springboot框架介紹 Spring Boot是一個開源的Java框架&#xff0c;由Pivotal團隊&#xff08;現為VMware的一部分&#xff09;于2013年推出。它旨在簡化Spring應用程序…

大數據面試題之Spark(1)

目錄 Spark的任務執行流程 Spark的運行流程 Spark的作業運行流程是怎么樣的? Spark的特點 Spark源碼中的任務調度 Spark作業調度 Spark的架構 Spark的使用場景 Spark on standalone模型、YARN架構模型(畫架構圖) Spark的yarn-cluster涉及的參數有哪些? Spark提交jo…

橫穿自動駕駛

如果有一條線&#xff0c;可以穿起來所有自動駕駛的核心模塊&#xff0c;那么我感覺它就是最優化&#xff0c;選擇優化變量、構造優化問題、求解優化問題&#xff0c;這幾個步驟貫穿了自動駕駛的始終。 先從我的自身接觸順序寫起。最開始做個一點深度學習&#xff0c;那還是20…

編碼大模型系列:Meta創新的“代碼編譯優化”的LLM

魯班號導讀正式上線。移步“魯班秘笈”&#xff0c;查閱更多內容。 大型語言模型 (LLM) 已在各種軟件工程和編碼任務中展現出卓越的能力。然而&#xff0c;它們在代碼和編譯器優化領域的應用仍未得到充分探索。訓練LLM需要大量資源&#xff0c;需要大量的 GPU時間和大量的數據…

23、架構-服務網格之透明通信涅槃

通信成本 在現代分布式系統中&#xff0c;服務之間的通信是不可避免的。然而&#xff0c;這種通信帶來了額外的復雜性和成本。傳統的通信方式如RPC&#xff08;Remote Procedure Call&#xff09;和REST&#xff08;Representational State Transfer&#xff09;&#xff0c;雖…

Hive 實操案例五:統計每個類別中 Top10 的視頻熱度

一、數據表結構 視頻表 t_video 字段注釋描述videoId視頻唯一 id&#xff08;String&#xff09;11 位字符串uploader視頻上傳者&#xff08;String&#xff09;上傳視頻的用戶名 Stringage視頻年齡&#xff08;int&#xff09;視頻在平臺上的整數天category視頻類別&#xff0…

一個合理的前端應用文件結構

在大型應用中&#xff0c;最關鍵且最具挑戰性的方面之一就是擁有一個良好且合理的文件結構。在考慮通過微前端將代碼庫拆分成多個應用之前&#xff0c;可以遵循一些步驟來改善項目級別的架構&#xff0c;并在您考慮這一路徑時使過渡更容易。 我們的目標是應用某種模塊化方法&am…