?模型驅動的DeepInsight Copilot在螞蟻的技術實踐

本文整理自潘蘭天（螞蟻數據智能團隊數據分析平臺技術專家)在DA數智大會2025·上海站的演講實錄。

本文圍繞AI技術在數據分析領域的應用及DeepInsight?Copilot產品展開。DeepInsight是一款螞蟻長期深耕數據分析領域的BI產品，本文首先介紹了DeepInsight Copilot產品概要，包括其在數據、信息、洞察、決策建議四個環節的功能與優勢。隨后闡述用戶需求驅動下的技術演進，從FAQ模式到多模式融合分析，分析各代產品優缺點。接著講解了技術架構發展、關鍵能力如門控智能體、可視化圖表生成等。文中還探討了DeepInsight Copilot規模化使用中的痛點及解決方案，探討AI技術帶來的機遇與挑戰。

分享嘉賓｜潘蘭天（螞蟻數據智能團隊數據分析平臺技術專家）

編輯整理｜丁世奇

一、DeepInsight?Copilot?產品概要介紹

數據從生產到內部消費的流程通常涵蓋四個主要環節：數據采集、數據加工、數據分析以及數據應用。在這一流程中，DeepInsight?主要聚焦于數據分析環節。憑借多年的技術實踐積累，我們將數據分析的核心流程提煉為四個關鍵部分。

首先是數據（Data），即傳統意義上的數據表。在這個環節，我們著重保障數據資產的高質量、合規性、低成本以及有序性。

第二部分是信息（Information），其主要載體為報表，用于呈現匯總知識并體現業務語義，助力用戶全面掌握業務狀況。

第三部分為洞見（Insight），側重于挖掘數據中的潛在規律，使用戶能夠先于競爭對手發現關鍵洞見。

第四部分是決策建議（Decison?Recommendation），以可執行策略的形式呈現，其核心目標是借助決策智能系統快速生成決策建議，將最優決策時間壓縮至分鐘級別。

基于?DeepInsight（簡稱?DI），我們對其相關代碼進行了長達八年的深度開發與優化，并推出了一系列商業智能（BI）產品。在數據環節，我們打造了強大的數據準備功能，支持引入?14?種以上不同數據源，并提供多表關聯以及標準化數據集生產服務。數據處理完成后，進入信息環節，我們開發了報表制作與報表閱讀功能。用戶可以方便地創建工作簿與報表，并借助可視化拖拽操作輕松生成各類分析報表。在洞察環節，我們推出了自助分析模塊，用戶能夠靈活取數、開展在線分析以及進行多輪探索，從而挖掘出隱藏在數據中的規律與洞見。最后，在決策建議環節，我們構建了智能分析模塊，為用戶提供了一個智能分析矩陣以及多種增強分析算法。在這些功能的基礎上，我們進一步開發了五大?Copilot?助手，借助數據智能化手段，全方位提升用戶數據分析的效率與效果。

在數據分析領域，我們明確了?Copilot?和智能體的相關定義。Copilot?是?ToB?產品中輔助用戶完成一系列數據分析任務的模塊，通常包含多個智能體；而?Pilot?則是?ToB?產品中替代用戶完成任務的模塊，也是由一系列具有泛化能力的數據分析智能體組成。數據分析智能體能夠理解用戶意圖，并生成相應的數據分析動作。

在我們的場景中，Copilot?和智能體呈多對多關系，一個?Copilot?可復用多個智能體，一個智能體也可被多個?Copilot?使用。

目前，我們已構建了八大智能體，分別對應數據分析的八項能力，包括度量定義、口徑查詢、取數、分析、報表和圖表制作、摘要解讀、資產搜索、產品答疑和教學。基于這些智能體，我們進一步構建了五大?Copilot，每個?Copilot?會根據自身的產品特性和用戶需求，組合使用對應的智能體，以實現數據分析的提效和效果提升。

在報表制作的?Copilot?場景中，它致力于通過智能化手段提升用戶在報表和圖表制作方面的效率。其核心能力體現在利用自然語言技術，讓用戶能夠迅速地創建圖表和生成界面操作。例如，以往用戶可能需要進行十幾次的拖拽操作才能生成一個圖表，而現在只需下達指令，如“生成一個指標卡”或“生成一個折線圖”，系統便能立即展示并生成相應的指標卡和折線圖。此外，還有更高級的功能，用戶可以通過自然語言生成具有完整思路的報表，這一功能尤其適合缺乏經驗的用戶，能夠顯著降低他們制作高質量報表的成本和難度。

報表制作的?Copilot?具備另一項高階能力，即通過自然語言生成具有完整思路的報表。對于缺乏經驗的小白用戶而言，生成高質量報表往往成本較高，因為他們通常不清楚如何安排圖表之間的邏輯關系。而我們的?DI?系統在此場景下可發揮優勢：借助內置的報表思路模板以及用戶自定義的看數思路，用戶只需簡單地發出一句指令，系統便能快速生成整張報表，且報表中的圖表會按照清晰的邏輯和連貫的思路進行排列。

報表制作的?Copilot?還具備知識答疑功能。當用戶配置報表時，如果遇到諸如顏色配置的問題，可以在?Copilot?中直接詢問，例如“顏色怎么配置”，系統會立即提供相關功能的知識支持，從而減少人工咨詢的成本。

同時，在報表閱讀方面，Copilot?側重于提供分析解讀能力。用戶只需在頁面中輸入一句話，即可快速呈現報表的全貌和摘要，并生成解讀報告。此外，用戶還可以針對報表中的特定指標進行深入分析，以產出有價值的分析洞見。

報表閱讀側的第二個核心能力是基于指標的自然語言取數。用戶無需調整圖表或報表，直接通過自然語言即可進行指標的下鉆分析、分布分析等操作，極大提升了數據分析的靈活性和效率。

第三個核心能力是自然語言的口徑問答。當用戶對報表中的指標計算方式或數據來源有疑問時，可以通過自然語言查詢，系統將快速追溯指標的計算邏輯和數據血緣，幫助用戶確認數據資產的準確性和可靠性。

在智能數據?Copilot?中，我們還強化了資產查找功能。用戶可以通過自然語言指令，如“查找某報表”或“定位某指標資產”，快速檢索并確認相關資產，顯著提高資產查找的效率。

此外，在自助分析?Copilot?中，我們引入了基于?Text2DAL（一種自訓練的?SFT?取數模型）的自然取數能力，支持用戶通過自然語言進行多輪取數操作，進一步豐富了數據分析的交互方式。

DI?Copilot具備自然語言定義度量的核心能力。以往用戶生成指標需從?DWD?表生產成?DWS，再生成?ADM?后進行指標計算與聚合，成本高、耗時長。如今用戶僅需一句話即可快速定義指標。此外，DI?Copilot還具備自然語言增強分析能力，用戶可對二維表和取數結果進行預測、異動、波動等分析，快速獲取洞見。

二、用戶需求驅動的DeepInsight?Copilot技術演進

在用戶需求驅動下，DI?Copilot技術歷經三代演進。起步較早的第一代采用?FAQ?模式，回答精準但門檻高，用戶需按固定模板提問，且無法識別用戶真實意圖。為改進不足，第二代引入對話模式。對話模式的優勢在于門檻適中且采納率高。用戶只需輸入部分意圖，系統便會通過對話策略，如澄清追問和缺失反問等方式，逐步引導用戶明確其需求。然而，其不足之處在于用戶可能不知道如何有效提問。

我們由此發展出第三代引導式對話模式，融合業務知識、用戶歷史提問、增強分析算法及大模型，生成并推送最匹配的問題供用戶點擊或修改，快速完成數據分析取數。此模式降低分析門檻，提高采納率，但不足之處在于自然語言指令與視覺可視化仍存在脫節。

我們由此發展出第四代多模式融合分析，將自然語言與組件拖拽相結合。在報表制作中，左側配置區與右側報表組件拖拽區共享同一上下文。用戶可在左側指令區輸入自然語言指令，如“生成指標卡”，中間區域隨即生成相應指標卡。用戶隨后可通過右側拖拽操作為指標卡添加維度和度量，并繼續在左側輸入指令添加過濾器或調整顏色。右側自然語言輸入與左側拖拽操作聯動，不僅提升了報表制作效率，還增強了用戶對工具的熟練度。

我們對應發展了兩代技術架構。第一代基于任務多輪對話系統，主要模塊包括：

1.?NLU（語言理解）：理解用戶輸入，識別意圖和實體信息。

2.?DM（對話管理）：跟蹤對話狀態，生成對話策略。

3.?NLG（自然語言生成）：根據對話策略生成準確結果并返回給用戶。

這一代架構通過多輪對話實現任務目標，但存在效率和表達能力的局限。

在?DI?Copilot?的自助分析功能中，第一代多輪對話系統是這樣實現的：假設用戶提出一個取數問題，比如“幫我查詢最近?30?天各商品類別的折扣平均值”。系統首先會進行意圖識別，判斷這是一個取數請求。接下來，系統會執行?NLU（語言理解）模塊，對問題進行實體拆解，比如識別“最近?30?天”為訂單日期，“折扣”為度量。然后，系統將這些信息以三元組的形式傳遞給?DM（對話管理）模塊。在這里，DST（對話狀態跟蹤）會合并上下文信息，DPO（對話策略生成）則調用?Text2DAL?模型生成取數指令。最終，DAL?指令由執行引擎處理，生成取數結果并返回給?NLG（自然語言生成）模塊，組裝成自然語言回復用戶。這個框架基于工程化思路設計，但在大模型時代，由于大模型能夠覆蓋?NLU?中的槽位提取和?DST?的多輪對話功能，這種架構逐漸顯得落后。

為了應對第一代框架能力不足、無法支持單輪多任務協同以及不適用于復雜場景的問題，我們引入了第二代技術架構，并構建了一個標準的智能體架構。以下是其工作流程：

1.?用戶提問：用戶在?Copilot?矩陣的自助分析模塊中輸入取數問題，例如：“查看最近一年的利潤，以及提升利潤的公式是什么樣子？”

2.?調用智能體結構：系統調用標準智能體結構。

3.?感知與理解：智能體結構中的感知與理解模塊對問題進行實體識別和意圖識別。

4.?推理子系統：將識別后的信息傳遞給推理子系統。

5.?智能化數智平臺：推理子系統調用智能化數值平臺。

6.?模型鏈接與語言生成：智能化數值平臺鏈接基于百靈微調的Text2DAL模型，生成查詢語言。

7.?工程子系統：生成的查詢語言返回給工程子系統。

8.?計算引擎取數：工程子系統調用?DAL?計算引擎執行取數操作。

9.?結果返回：將取數結果組裝并返回給用戶。

從技術實現角度看，AI?應用主要有兩種模式：提示詞工程和微調工程。

提示詞工程具有低成本、高靈活性和良好的適用性等優點，但其效果嚴重依賴提示詞質量，對模型能力也有一定依賴，且穩定性較差。例如，更換或升級模型后，需要重新進行評測和回歸測試。提示詞工程適用于開放式泛化以及需要高度推理和規劃能力的場景，如?DI?中的分析思路生成、看數思路生成和業務簡報報告生成任務。

微調工程具有性能高、垂直領域表現好的優點，能夠解決大模型在特定領域知識不足的問題。然而，其成本較高，每次微調都需要大量的計算和推理資源，還需要合成各種語料。此外，如果合成語料質量不高，可能會導致過擬合風險。微調工程適用于對輸出有嚴格約束或代碼類輸出的場景。

在我們的試用場景中，微調主要應用于以下方面：

1.?NLU（自然語言理解）模型：專注于提升對用戶輸入的精準理解，確保系統能準確識別用戶的查詢意圖。

2.?Text2Chart?模型：負責將用戶的需求轉化為圖表生成的模型描述語言（DSL），實現報表和圖表的自動化生成。

3.?Text2DAL?模型：用于生成我們的專屬分析語言?DAL，支持復雜的分析任務。

4.?Text2Analysis?模型：針對增強分析場景，生成特定的分析指令，助力深入數據分析。

微調在這些場景中發揮作用，通過優化模型以適應特定任務需求，提升任務執行的準確性和效率。

接下來我們深入探討?NLU（自然語言理解）和?Text2Chart模型的設計。關鍵能力之一是我們的門控智能體，其核心在于自然語言理解（NLU）。該智能體基于數據上下文理解用戶意圖，規劃智能體的執行路徑，并協同輸出最終結果。例如，當用戶詢問“最近交易情況怎么樣”時，我們的感知模塊會識別出該問題包含兩個取數意圖（查看最近7天的交易金額和交易數量）以及一個分析意圖（分析交易金額的趨勢）。隨后，任務會被拆解為兩個并行的取數任務和一個分析任務，以便更高效地處理用戶請求。

執行后，取數任務的結果將提供給分析智能體，用于進一步分析。之后，系統會整合分析結果與取數結果，形成統一的輸出。這一過程構成一個完整的任務執行流程。最后，系統會協同工作，將取數和分析結果合并，發起智能體調用，獲取結果并進行整合。

隨著用戶需求和產品功能的不斷發展，我們的NLU系統經歷了四次重要迭代：

1.?第一次迭代：采用規則識別方式，具有較高的精準度。但由于自然語言表達的多樣性，規則無法窮舉所有情況，容易產生沖突。

2.?第二次迭代：引入單職責模型，專注于取數任務的實體提取和意圖識別，但多智能體上下文拓展能力有限。

3.?第三次迭代：開發通用NLU模型，整合多種智能體的通用實體和意圖，但在處理模糊表達和口語化問題時準確率較低。

4.?第四次迭代：采用大模型門控加上強推理能力的DeepSeek進行理解和分發，提高自然語言處理的準確性和效率。

通過這些迭代，NLU系統不斷優化，以更好地理解和處理用戶的自然語言輸入。

第二個關鍵能力是可視化圖表生成流程，其核心在于?Text2Chart?大模型。當用戶輸入諸如“幫我去畫一個主副指標卡，展示最近?7?天的單位成本和數量”之類的指令時，系統首先會在感知與理解階段識別用戶的意圖，即制作圖表。接著，系統會拆解問題中的數據集字段，也就是實體信息，例如，“最近?7?天”對應的是訂單日期，“單位成本”和“數量”則是度量。隨后，系統進入規劃階段，確定如何執行圖表生成任務。之后，系統調用?Text2Chart?模型生成圖表的?DSL（領域特定語言），同時將相關數據集信息填充到?DSL?中。最后，系統調用圖表工具集，根據生成的?DSL?渲染圖表并展示給用戶。這一流程使得用戶能夠通過自然語言快速生成所需的可視化圖表，極大提升了數據分析的效率和用戶體驗。

在可視化圖表生成流程中，系統會根據用戶問題的復雜性進行規劃判斷。如果問題涉及多個圖表制作或需要構建數據分析思路，系統將生成一套詳細的執行流程，并多次調用圖表智能體以確保所有需求得到滿足。接下來，系統進入推理階段，基于?Text2Chart?模型生成圖表的DSL，并將數據集相關信息填充其中。最后，系統調用圖表工具集，生成可供前端渲染的圖表，完成從用戶指令到圖表展示的全過程。

我們對Text2Chart模型的微調流程進行了精心設計，包含以下六大關鍵環節：

1.?語料合成：整合用戶真實問題、專家領域模式以及模糊或長尾問題樣本，構建全面的語料基礎。

2.?模型訓練：建立包含50多種核心圖表類型、150多種界面操作指令以及3000多種自然語言模式的Text2Chart語料體系。

3.?評測集構建：開發從L1到L4的圖表評測分類體系，為模型評估提供標準化框架。

4.?自動化評測平臺：建立自動化評測平臺，實現對模型訓練效果的快速、客觀評估。

5.?強化學習與反饋：基于用戶反饋實施強化學習，針對性地進行模型優化和定向微調。

6.?持續迭代：通過螺旋式上升的方式不斷提升Text2Chart模型的性能和準確性。

這一流程不僅確保了模型能夠準確理解用戶指令并生成相應的圖表，而且通過持續的優化和評估，不斷提升圖表生成的質量和效率。

系統會自動化評估模型訓練效果，并基于用戶反饋進行強化學習，通過中斷率分析和定向微調，持續提升?Text2Chart?模型的性能。我們會構建標準化反饋采集鏈路，收集用戶顯示和隱式反饋。然后通過分治方法調用多次模型，鏈式生成各環節參考答案，結合領域、DSL知識和程序約束校驗答案合理性。LLM?as?Judge?也會調用多次模型，依據預設獎勵規則和批判規則，對線上問題進行標注和正確率評價，形成分析結果明細。基于明細構建用戶問題正確率分析報告，指導產品設計，自動化構建評測語料和線上合成語料，形成反饋閉環，持續提升模型技術水位。

依托?DI?Copilot，我們構建了數據領域的自動化評測平臺，對取數搜索和圖表智能體進行全面評測。以圖表為例，定義了?L1?到?L4?級別的指令評測集，形成豐富正確率評價體系，目前圖表正確率已達到?94.71%。

第三個關鍵能力是自然語言生成分析報告。系統結合用戶輸入、系統或用戶配置的分析主題、思路和方法，自動化生成分析報告。例如，用戶提問：“我想看一下GMV的變動是怎么樣子，然后他哪個地方有問題？然后他的未來發展是什么樣子？”系統基于內置的多種基礎算子進行深度歸因分析，挖掘出根本原因。

通過多個步驟，如預測分析、異動分析和分布分析，系統最終生成一個圖文融合的分析報告。這一過程展示了系統如何利用自然語言處理和數據分析能力，為用戶提供了一個全面、深入的分析報告，幫助他們更好地理解和預測業務發展趨勢。

三、DeepInsight?Copilot?高階智能化技術建設

在?DI?Copilot?高階智能化技術建設中，我們在螞蟻內部廣泛應用?DI?Copilot，但在使用過程中遇到了一些挑戰。首先，部分用戶不清楚如何提問以獲取有效的數據分析結果。其次，許多用戶尤其是新手，缺乏生成高質量報表的思路。此外，一些用戶在深度分析方面存在困難，不知道如何運用智能分析算法。

為了解決這些問題，我們設計了一套引導式問題推薦系統。該系統根據用戶的不同等級（新手用戶、普通用戶、專家用戶）推薦相應難度的問題，幫助用戶快速上手并提升數據分析能力。針對報表生成問題，我們引入了多種分析思路，包括基礎思路、行業特定思路和經典分析模型，以幫助用戶生成高質量報表。系統還會根據用戶提問，調用智能體進行分析思路規劃和圖表生成，最終完成報表渲染。