Apache Doris內存與超時參數配置詳解

一、查詢任務內存限制調整

1. ?默認內存限制與問題定位

Apache Doris默認限制單個BE節點上的查詢任務內存使用不超過2GB(即exec_mem_limit=2147483648字節)。當復雜查詢或大規模數據操作超過此限制時,會觸發Memory limit exceeded錯誤。通過以下命令可查看當前配置:

SHOW VARIABLES LIKE "%mem_limit%";

輸出示例:

+----------------+------------+
| Variable_name  | Value      |
+----------------+------------+
| exec_mem_limit | 2147483648 |  -- 默認2GB
| load_mem_limit | 0          |  -- 導入任務內存限制(0表示無限制)
+----------------+------------+
2. ?調整內存限制的方法
  • ?臨時調整(當前會話生效)??
    通過SET命令修改會話級參數,適用于單次查詢優化:sqlSET exec_mem_limit = 8589934592;?-- 設置為8GB
  • ?永久生效(全局配置)??
    添加GLOBAL參數以全局生效,需在FE節點配置中持久化:sqlSET GLOBAL exec_mem_limit = 8589934592;?
  • 注意事項
    • 若集群資源有限,需結合BE節點的總內存(通過mem_limit參數控制)合理分配,避免單任務占用過高導致節點OOM6
    • 高并發場景建議通過資源標簽(Resource Label)隔離關鍵任務,防止資源爭用6

二、查詢超時時間優化

1. ?默認超時機制與配置查詢

Doris默認查詢超時時間為300秒(5分鐘),可通過以下命令查看:

SHOW VARIABLES LIKE "%query_timeout%";

輸出示例:

+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| query_timeout | 300   |
+---------------+-------+
2. ?延長超時時間的操作
  • ?臨時調整(當前會話生效)??sqlSET query_timeout = 600;?-- 設置為600秒(10分鐘)
  • ?永久生效(全局配置)??sqlSET GLOBAL query_timeout = 600;?動態生效特性:與內存參數不同,超時參數修改后通常無需重啟集群即可生效。

三、關聯參數與調優實踐

1. ?內存管理聯動配置
  • ?BE節點總內存限制(mem_limit)??
    控制單個BE進程的最大內存使用,默認根據物理內存自動計算(如物理內存的90%或物理內存-6.4GB)。建議在be.conf中顯式設置,避免資源競爭。bashmem_limit = 80%?# 或具體值如32G
  • ?Compaction內存限制(compaction_memory_bytes_limit)??
    控制數據合并任務的內存使用上限,默認值根據系統配置動態調整。若頻繁因Compaction導致查詢內存不足,可適當調低此參數。
2. ?高并發場景優化策略
  • ?并行度與資源分配?
    提升查詢并行度(parallel_degree)可加速處理,但需平衡CPU和內存消耗。例如:sqlSET GLOBAL parallel_degree = 16;?-- 根據CPU核心數調整
  • ?物化視圖與分區優化?
    對高頻查詢創建物化視圖或合理分區,減少單次查詢的數據掃描量,間接降低內存需求。

四、操作驗證與監控

  1. ?驗證參數生效?
    修改后通過SHOW VARIABLES確認新值是否生效,并執行測試查詢觀察內存使用情況。
  2. ?日志與監控工具?
    • ?FE日志:檢查fe.log中內存超限或超時任務記錄。
    • ?BE監控:通過curl http://BE_IP:8040/api/compaction/show?tablet_id=XXX查看Tablet狀態。
    • ?系統視圖:使用SHOW PROC '/admin/stats'實時監控資源使用

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/pingmian/76380.shtml
繁體地址,請注明出處:http://hk.pswp.cn/pingmian/76380.shtml
英文地址,請注明出處:http://en.pswp.cn/pingmian/76380.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

龍虎榜——20250411

今天縮量,上方壓力依然在,外圍還在升級,企穩還需要時日。 2025年4月11日龍虎榜行業方向分析 一、核心主線方向 半導體與芯片(國產替代加速) ? 代表標的:圣邦股份(模擬芯片)、中電…

若依前后端分離版本從mysql切換到postgresql數據庫

一、修改依賴&#xff1a; 修改admin模塊pom.xml中的依賴,屏蔽或刪除mysql依賴&#xff0c;增加postgresql依賴。 <!-- Mysql驅動包 --> <!--<dependency><groupId>mysql</groupId><artifactId>mysql-connector-java</artifactId> &l…

自定義排序注意點

這段 Java 代碼展示了兩種排序方式的用法&#xff0c;分別是&#xff1a; 對普通數組進行排序&#xff08;Integer[] nums&#xff09;對對象數組進行排序&#xff08;Student[] students&#xff09; 我來一步步給你講清楚&#xff1a; ? 第1部分&#xff1a;普通數組降序排…

第十四屆藍橋杯大賽軟件賽省賽C/C++ 大學 A 組真題

文章目錄 1 幸運數題目描述&#xff1a;答案&#xff1a;4430091 代碼&#xff1a; 2 有獎問答題目描述&#xff1a;重點&#xff1a;答案&#xff1a;8335366 代碼&#xff1a; 3 平方差題目描述&#xff1a;思路&#xff1a;數學找規律代碼&#xff1a; 4 更小的數題目描述&a…

C++ 入門四:類與對象 —— 面向對象編程的核心基石

一、類的定義 1. 類的基本形式 class 類名 { public: // 公有成員&#xff08;類內外均可訪問&#xff09;數據類型 數據成員; // 公有數據成員數據類型 成員函數(參數列表); // 公有成員函數聲明 protected: // 保護成員&#xff08;類內和派生類可訪問&…

嵌入式---電機分類

一、按電流類型分類&#xff08;最基礎分類&#xff09; 1. 直流電機&#xff08;DC Motor&#xff09; 工作原理&#xff1a;通過換向器&#xff08;有刷&#xff09;或電子換向&#xff08;無刷&#xff09;將直流電源轉換為交變磁場&#xff0c;驅動轉子旋轉。 核心特點&a…

【python】并行編程模塊:threading / mutliprocess / parallel / Celery

在并行編程中&#xff0c;Python 具有簡化實現的內置和外部模塊。 本書是基于Python3.X的。 Python的threading模塊 Python的threading模塊為模塊 _thread 提供了一個抽象層&#xff0c;它是一個較低級別的模塊。 它提供的功能可以幫助程序員完成基于線程開發并行系統的艱巨任…

OpengGL教程(七)---攝像機

本章參考官方教程&#xff1a;攝像機 本系列歷史文 OpengGL教程(一)—OpenGL環境的配置(GLFW3,GLAD) OpengGL教程(二)—渲染一個簡單的窗體 OpengGL教程(三)—使用VAO和VBO方式繪制三角形 OpengGL教程(四)—使用EBO方式繪制矩形 OpengGL教程(五)—紋理的應用 OpengGL教程(六)—…

安卓手機怎樣開啟雙WiFi加速

1. 小米/Redmi手機 路徑&#xff1a; 設置 → WLAN → 高級設置 → 雙WLAN加速 操作&#xff1a; 開啟功能后&#xff0c;可同時連接一個2.4GHz WiFi和一個5GHz WiFi&#xff08;或兩個不同路由器&#xff09;。 可選擇“智能選擇”或手動指定輔助網絡。 2. 華為/榮耀手機…

什么是八步工作法?

八步工作法&#xff0c;顧名思義&#xff0c;就是把一項工作拆分成八個步驟來完成。它的核心目的是讓工作變得更有條理&#xff0c;更高效&#xff0c;避免忙而無序&#xff0c;做到事事有著落&#xff0c;件件有結果。這個方法在很多企業和單位中都有應用&#xff0c;尤其適合…

前端Node.js的包管理工具npm指令

?npm&#xff08;Node Package Manager&#xff09;是Node.js的包管理工具&#xff0c;主要用于安裝、更新、刪除和管理JavaScript包。以下是前端開發中常用的npm命令及其用途?&#xff1a; 基本命令 npm提供了一系列命令行工具&#xff0c;用于執行各種包管理操作。以下是一…

掌握C語言文件操作:從理論到實戰指南

文件操作是C語言編程中不可或缺的一部分&#xff0c;它使得程序能夠持久化存儲數據&#xff0c;并在需要時高效讀寫。本文將從基礎概念到實戰技巧&#xff0c;系統講解C語言文件操作的核心知識點&#xff0c;并結合代碼示例幫助讀者深入理解。 一. 為什么需要文件操作&#xf…

Linux 線程:從零構建多線程應用:系統化解析線程API與底層設計邏輯

線程 線程的概述 在之前&#xff0c;我們常把進程定義為 程序執行的實例&#xff0c;實際不然&#xff0c;進程實際上只是維護應用程序的各種資源&#xff0c;并不執行什么。真正執行具體任務的是線程。 那為什么之前直接執行a.out的時候&#xff0c;沒有這種感受呢&#xf…

014_多線程

多線程 多線程創建線程方式一&#xff1a;繼承Thread類方式二&#xff1a;實現Runable接口方式三&#xff1a;實現Callbale接口 Thread的常用方法線程安全線程同步方式一&#xff1a;同步代碼塊同步方法方式三&#xff1a;Lock鎖 線性池創建線程池處理Runnable任務處理Callable…

機場跑道異物檢測數據集VOC+YOLO格式33793張31類別

數據集分辨率都是300x300,都是貼近地面拍攝&#xff0c;具體看圖片 據集格式&#xff1a;Pascal VOC格式YOLO格式(不包含分割路徑的txt文件&#xff0c;僅僅包含jpg圖片以及對應的VOC格式xml文件和yolo格式txt文件) 圖片數量(jpg文件個數)&#xff1a;33793 標注數量(xml文件…

Spring Cloud 遠程調用

4.OpenFeign的實現原理是什么&#xff1f; 在使用OpenFeign的時候&#xff0c;主要關心兩個注解&#xff0c;EnableFeignClients和FeignClient。整體的流程分為以下幾個部分&#xff1a; 啟用Feign代理&#xff0c;通過在啟動類上添加EnableFeignClients注解&#xff0c;開啟F…

Unity中使用FMETP STREAM傳輸實時畫面

一、客戶端&#xff08;發送端&#xff09; 總體思路&#xff1a;先把畫面編碼Encoder&#xff0c;再發送給服務端 新建場景&#xff0c;創建一個實體&#xff0c;名為FMnet&#xff0c;添加組件FMNetworkManager&#xff0c;將NetworkType設置為客戶端Client&#xff0c;設置…

Baklib三步構建企業內容中臺

需求調研構建內容中臺 企業內容中臺建設的首要環節在于精準識別業務需求與知識管理痛點。通過Baklib 是什么類型的工具的定位分析可知&#xff0c;其作為知識管理中樞&#xff0c;能夠系統梳理客戶服務場景中的高頻咨詢、產品文檔更新需求及跨部門協作流程。在需求調研階段&am…

實現抗隱私泄漏的AI人工智能推理

目錄 什么是私人AI? 什么是可信執行環境? TEE 如何在 AI 推理期間保護數據? 使用 TEE 是否存在風險? 有哪些風險? Atoma 如何應對這些風險 為什么去中心化網絡是解決方案 人工智能推理過程中還有其他保護隱私的方法嗎? 私人人工智能可以實現什么? 隱私驅動的應…

一、TorchRec里邊的輸入輸出類型

TorchRec中的輸入和輸出格式 文章目錄 TorchRec中的輸入和輸出格式前言一、JaggedTensor1.1 核心概念1.2 核心屬性&#xff0c;也就是參數1.3 關鍵操作與方法 二、KeyedJaggedTensor2.1 核心概念2.2 核心屬性&#xff0c;也就是參數 3、KeyedTensor總結 前言 TorchRec具有其特…