MaxCompute的Logview分析詳解

文章目錄

  • 一、Logview簡介
    • 1、概述
    • 2、標題與功能
    • 3、基礎信息
  • 二、作業詳情
    • 1、Job Details
    • 2、Fuxi Sensor
    • 3、Result
      • ①當前作業運行成功,顯示的為運行結果。
      • ②當前作業運行失敗,顯示的為失敗原因。
    • 4、SourceXML
    • 5、SQL Script
    • 6、History
    • 7、SubStatusHistory
  • 三、分析調優
  • 四、常見報錯

一、Logview簡介

1、概述

Logview是MaxCompute作業運行狀態信息記錄與展現的一個工具,目前支持如下功能:

1.支持以交互式DAG圖展示作業處理邏輯架構, 查看相應的Operation層級。2.支持回放作業運行過程。3.支持通過Fuxi Sensor查看內存及CPU使用情況。

在這里插入圖片描述

2、標題與功能

參考:
分別對應以下功能

MaxCompute作業時生成的唯一作業ID
打開本地保存的作業詳情文件Logview_detail.txt。
返回Logview 1.0版界面。
將作業詳情文件保存至本地設備。

3、基礎信息

在這里插入圖片描述

參數描述
MaxCompute Service作業使用的MaxCompute服務的Endpoint。Endpoint詳情請參見Endpoint。
Project作業所屬的MaxCompute項目名稱。
Cloud account提交作業的阿里云賬號信息。
Type作業的類型。例如SQL、SQLRT、LOT、XLib、CUPID、AlgoTask和Graph。
Status作業的狀態。狀態取值如下:
Success:作業執行成功。
Failed:作業執行失敗。
Canceled:作業執行取消。
Waiting:作業正在MaxCompute中處理,并沒有提交至Fuxi中運行
Running:作業正在Fuxi中處理。
Terminated:作業已執行結束。
Start Time作業提交時間。
End Time作業執行結束時間。
Latency作業執行消耗的時長。
Progress作業執行進度。
Priority作業優先級。
Queue作業在資源配額組內的排隊位置。

二、作業詳情

在這里插入圖片描述

1、Job Details

主要介紹下Fuxi Task

MaxCompute作業由一個或多個Fuxi Job組成。
每個Fuxi Job由一個或多個Fuxi Task組成。
每個Fuxi Task由一個或者多個Fuxi Instance組成

一個MaxCompute作業由一個或多個Fuxi Job組成
Fuxi Job由一個或多個Fuxi Task組成
Fuxi Task由一個或者多個Fuxi Instance組成
MaxCompute作業
Fuxi Job
Fuxi Task
Fuxi Instance

簡單的MapReduce通常會產生兩個Fuxi Task,一個是Map一個是Reduce,兩個Fuxi Task的名稱分別為M1和R2,當SQL比較復雜時,可能會產生多個Fuxi Task。

您可以在執行界面上看到每個Fuxi Task的名稱。例如M1,表示一個Map Task;R4_3_9的3、9表示它依賴M3、C9_3執行結束才能開始執行。同理,M2_4_9_10_16表示M2要依賴R4_3_9、C9_3、R10_1_16、C16_1四個Task執行結束后才能開始執行。R/W表示Task讀取和寫的行數。

注意事項:

不支持回放Running狀態的Fuxi Task。AlgoTask類型的作業(例如PAI機器學習),由于只有一個Fuxi Task,故不提供作業執行圖。非SQL類型作業,僅能展示Fuxi Job和Fuxi Task層,不支持展示Operation層。如果只有一個Fuxi Job,作業執行圖默認展示Fuxi Task層依賴關系;否則,默認展示Fuxi Job層依賴關系。

2、Fuxi Sensor

AlgoTask和CUPID類型作業,此區域會提供Sensor列,您可以單擊Fuxi Task對應的Sensor查看Fuxi Instance的CPU及內存信息。Fuxi Job分類如下:

M:數據掃描的作業。R:R開頭的是Reduce Job。J: J開頭的是Join Job。C:C開頭的作業是一個虛擬節點,不涉及任何計算,只做判斷選擇分支使用。

Fuxi Sensor功能在西南1(成都)、華南1(深圳)、華東2(上海)、華東1(杭州)、華北3(張家口)和華北2(北京)區域已開放。

Fuxi Task會有可能因為interrupted狀態而重試運行,此時Progress只顯示重試運行部分的進度,所以會出現整個作業已經執行成功但是此Fuxi Task的Progress不是100%的現象,此為正常顯示。

3、Result

①當前作業運行成功,顯示的為運行結果。

如下面命令選擇關閉顯示運行結果。
setproject odps.forbid.fetch.result.by.bearertoken=true;如下Flag參數改變顯示結果樣式。
--CSV格式
set odps.sql.select.output.format=csv;
--Text格式
set odps.sql.select.output.format=HumanReadable;

②當前作業運行失敗,顯示的為失敗原因。

4、SourceXML

XML: 在該頁簽下以XML方式顯示作業等級以及Task相關信息。
Settings: 在該頁簽下顯示了當前Task的相關Setting信息。
Command: 在該頁簽下顯示了當前Task的相關Flag設置情況。

5、SQL Script

顯示當前Task的SQL運行腳本。

6、History

顯示了當前Task的運行歷史記錄。

7、SubStatusHistory

顯示了當前SubTask的運行狀態

狀態解釋
Waiting for scheduling作業已提交,等待MaxCompute框架調度,通常時間很短。
Waiting for cluster resourceMaxCompute框架發現Fuxi計算集群沒資源,等待中。
Waiting for concurrent task slotProject級別流控,Project可以設置并行提交SQL個數。
Waiting for data replication等待數據復制。
Waiting for execution slot系統級別流控。
Waiting for cleaning up of previous task attempt等待清理執行歷史完成。
Waiting for execution從父進程隊列拿出來分發給子進程執行過程,通常很快。
Preparing for execution明確知道交給子進程,如果子進程出問題才會時間長。
Task is executing作業在框架處理中。
SQLTask is initializingSQL作業初始化中。
SQLTask is compiling querySQL作業編譯中。
SQLTask is optimizing querySQL作業優化Query,如果執行計劃復雜,優化時間會稍長,但過長可能就是出問題了。
SQLTask is splitting data sourcesSQL作業優化中,切分Data Sources。
SQLTask is generating execution planSQL作業生成執行計劃中,時間長可能是讀取分區太多,或者小文件太多。
SQLTask is submitting execution planSQL作業提交執行計劃。
Job has been submitted作業提交計算集群。
Offline Job Waiting for running作業提交計算集群后發現Fuxi集群Quota組無資源,此狀態表示作業在等待計算資源。作業提交計算集群前本來以為有計算資源,實際提交后發現無計算資源,就會等待。此狀態只會出現一次,后續就算沒有計算資源也不會再顯示。
Offline Job is runningFuxi作業執行中, 如果運行中無資源,會一直保持該狀態。例如高優先級作業搶占資源,導致部分Fuxi Instance不能運行,狀態為ready。
Offline Job is failedFuxi作業執行失敗。
Offline Job is succeedFuxi作業執行成功。
SQLTask is updating meta informationSQL作業更新元數據信息狀態,生成動態分區時,時間可能會稍長。
SQLTask is finishingSQL作業執行結束。
Online Job is cancelled by fuxiService Mode模式被取消。
Task rerun作業重跑,可能是Service Mode模式執行失敗,采用離線模式,也可能是數據跨集群復制。
Online Job Waiting for runningService Mode模式等待運行。
Online Job is runningService Mode模式運行中。
Online Job is failedService Mode模式執行失敗。
Online Job is succeedService Mode模式運行成功。
Online Job is cancelled by fuxiService Mode模式作業被取消。
Task key-path executing finished作業關鍵路徑完成,但是Detailstatus等尚未完成.
Task key-path is finished作業關鍵路徑完成。
Instance key-path is finishedInstance關鍵路徑完成。
Task execution is finished作業處理完成,生成DetailStatus。
Instance execution is finished作業處理完成。
Execution failed作業執行失敗。

三、分析調優

四、常見報錯

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/909461.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/909461.shtml
英文地址,請注明出處:http://en.pswp.cn/news/909461.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

HTML5白云飄飄動態效果教程

HTML5白云飄飄動態效果教程 這里寫目錄標題 HTML5白云飄飄動態效果教程效果介紹實現步驟步驟一:創建HTML結構步驟二:設計CSS樣式步驟三:添加JavaScript交互 代碼解析HTML結構解析CSS樣式解析JavaScript功能解析 自定義調整總結 效果介紹 本教…

tcp高難度問題

以下是針對這些問題,在面試場景下,既保證理論扎實、邏輯清晰,又具備交流延展性的回答思路與內容,可根據實際面試節奏和面試官反饋靈活調整展開: 1. 客戶端端口號如何確定的? 面試官您好,客戶端…

廣東省省考備考(第二十八天6.13)—資料分析(第二節課)

基期與現期 官方定義:作為對比參照的是基期,而相對于基期比較的是現期 通俗說法:時間靠前的為基期,時間靠后的為現期 增長量與增長率 增長量用來表述基期量與現期量變化的絕對量; 增長率用來表述基期量與現期量變化…

pytorch 中前向傳播和后向傳播的自定義函數

系列文章目錄 文章目錄 系列文章目錄一、torch.autograd.function代碼實例 在開始正文之前,請各位姥爺動動手指,給小店增加一點訪問量吧,點擊小店,同時希望我的文章對你的學習有所幫助。本文也很簡單,主要講解pytorch的…

【項目實訓#08】HarmonyOS知識圖譜前端可視化實現

【項目實訓#08】HarmonyOS知識圖譜前端可視化實現 文章目錄 【項目實訓#08】HarmonyOS知識圖譜前端可視化實現一、背景簡介二、技術方案與架構設計2.1 技術選型2.2 組件架構設計 三、知識圖譜可視化組件實現3.1 KGResultTab組件設計組件模板結構不同狀態的處理用戶交互控制節點…

【軟件開發】什么是DSL

什么是DSL DSL(Domain-Specific Language,領域特定語言)是一種為特定領域或任務設計的編程語言,目的在于提高該領域中的表達能力與開發效率。 1 在腳本語言中的 DSL 是什么? 在腳本語言(如 Python、Lua、…

JasperReport生成PDF/A類型文檔

當JasperReport導出的文檔為PDF/A模式時,該PDF為只讀可以防止被修改。 設置導出參數 JRPdfExporter exporter new JRPdfExporter();exporter.setExporterInput(SimpleExporterInput.getInstance(jasperPrints));exporter.setExporterOutput(new SimpleOutputStre…

微信小程序使用畫布實現飄落泡泡功能

微信小程序使用畫布實現飄落泡泡功能:從組件封裝到頁面調用的完整實踐 先看示例截圖: 一、背景與技術選型 在微信小程序中實現類似于飄落的泡泡或者櫻花飄落的功能,一般主要有 Canvas 和圖片兩種方案: (1&#xff…

使用STM32設置GPIO中斷

使用S? 32設置GPIO中斷 中斷示例按鍵中斷實例設計:EXTI0和EXTI9硬件連接分析STM32代碼實現代碼說明 中斷示例 設計一個按鍵中斷的實例。設置兩個中斷:EXTI0、EXTI9, 在EXTI9的中斷服務之程序中實現LED燈的控制 按鍵中斷實例設計&#xff…

解決在微信小程序中view組件下的text和images設置了樣式display: flex; align-items: center;對不齊

原始代碼的問題 <view style"display: flex; align-items: center;"><text style"line-height: 1;">全國</text><image src"/images/xia.png" style"height: 20rpx; width: 20rpx; display: block;"></im…

歸并排序詳解:優雅的分治藝術

什么&#xff1f;歸并排序&#xff1f;這讓博主想起了大學那會被《數據結構與算法》支配的恐懼… 哈哈言歸正傳&#xff0c;一直想對算法做一個專欄&#xff0c;因為其實工作中很少很少有機會用到算法&#xff0c;倒是很多工具方法底層會使用&#xff0c;工作被各種需求業務“折…

新零售視域下實體與虛擬店融合的技術邏輯與商業模式創新——基于開源AI智能名片與鏈動2+1模式的S2B2C生態構建

摘要&#xff1a;新零售的核心在于打破線上線下邊界&#xff0c;構建“人、貨、場”的全場景融合生態。本文提出&#xff0c;實體線下店與虛擬店的協同發展是新零售的重要演進方向&#xff0c;其底層邏輯在于滿足消費者作為“現實人”的體驗需求與“虛擬人”的效率需求。通過引…

可視化圖解算法51:尋找第K大(數組中的第K個最大的元素)

牛客網 面試筆試 TOP101 | LeetCode 215. 數組中的第K個最大元素 1. 題目 描述 有一個整數數組&#xff0c;請你找出數組中第 k 大的數。 給定一個整數數組 a ,同時給定它的大小n和要找的 k &#xff0c;請返回第 k 大的數(包括重復的元素&#xff0c;不用去重)&…

DataWhale-零基礎網絡爬蟲技術(一)

課程鏈接先給各位 ↓↓↓ &#xff08;點擊即可食用.QAQ Datawhale-學用 AI,從此開始 一、引言 還是在筆記的開始&#xff0c;嘮嘮一些自己的故事 十年前第一次接觸網絡&#xff0c;也可以說是第一次接觸計算機的時候&#xff0c;那時候還是在中學階段&#xff0c;那時候大…

Linux02

目錄 linux常用命令 用戶和權限 壓縮和解壓縮 其他相關命令 Linux中安裝常用軟件 1.1. jdk的安裝 1.1.1. 卸載linux中自帶的open-jdk 1.1.2. 把安裝包上傳到 linux上 1.1.3. 解壓安裝包 1.1.4. 配置環境變量 1.1.5 驗證環境變量 1.3 安裝mysql 1.3.1. 檢查依賴 1.…

JavaSE超詳細筆記-網絡編程篇-基于黑馬

1. 什么是網絡編程【理解】 1.1 概念 在網絡通信協議下&#xff0c;不同計算機上運行的程序&#xff0c;進行的數據傳輸。 應用場景: 即時通信、網游對戰、金融證券、國際貿易、郵件、等等。 不管是什么場景&#xff0c;都是計算機跟計算機之間通過網絡進行數據傳輸Java中可以使…

時序數據庫Influxdb3 core安裝

本文介紹時序數據庫Influxdb3 core(開源版本)的安裝和簡單使用以及調優參數的介紹。 預期&#xff1a; 安裝時序數據庫Influxdb3 core 創建數據庫mydb 寫入數據&#xff1b; 使用influxdb3-cli 和 grafana2種方式查詢寫入的數據 前期準備&#xff1a; linux服務器(本文服…

區間合并:區間合并問題

區間合并&#xff1a;區間合并問題 區間合并 www.acwing.com/problem/content/805/ 按區間的左端點排序 掃描整個區間&#xff0c;在這過程中把可能有交點的區間合并 全包含&#xff1a;不做改動相交&#xff1a;right 后移相離&#xff1a;更新至下一個維護區間 import j…

中國古代數學符號的演進 | 算籌 / 符號 / 算法

注&#xff1a;本文為“中國古代數學符號”相關合輯。 圖片清晰度受引文原圖所限。 略作重排&#xff0c;未整理去重。 如有內容異常&#xff0c;請看原文。 這個中國古代的數學瑰寶&#xff0c;到底厲害在哪&#xff1f; 原創 朱一文 科普中國 2024 年 07 月 31 日 15:30 北…

XMLDecoder、LDAP 注入與修復

問題&#xff1a;XMLDecoder注入 針對 xml 解碼器的注入攻擊 反序列化用戶控制的 XML &#xff0c;程序沒有進行驗證&#xff0c; 會讓攻擊者有機會在服務器上執行惡意代 碼。 例&#xff1a;下面代碼片段中&#xff0c; XMLDecoder 處理不可信的輸入。 ... XMLDecode…