微軟周二宣布推出一款能夠自主分析并分類軟件的人工智能(AI)代理系統,旨在提升惡意軟件檢測能力。這款基于大語言模型(LLM)的自主惡意軟件分類系統目前仍處于原型階段,被微軟內部代號命名為"憤怒計劃"(Project Ire)。
系統工作原理
微軟表示:"該系統自動化實現了惡意軟件分類的黃金標準——在沒有任何來源或目的線索的情況下,對軟件文件進行完整的逆向工程。它使用反編譯器等工具分析輸出結果,并判斷軟件是惡意還是良性的。"
該系統采用專用工具對軟件進行逆向工程,執行從低級二進制分析到控制流重建、再到代碼行為高級解釋的多層次分析。微軟指出:"其工具使用API使系統能夠通過多種逆向工程工具更新對文件的理解,包括基于'弗雷塔計劃'(Project Freta)的微軟內存分析沙箱、定制和開源工具、文檔搜索以及多種反編譯器。"
"弗雷塔計劃"是微軟研究院的一項倡議,可在內存審計期間對實時Linux系統的內存快照進行"未檢測惡意軟件的發現掃描",如rootkit和高級惡意軟件。
多步驟評估流程
評估過程分為多個步驟:
- 自動逆向工程工具識別文件類型、結構及潛在關注區域
- 系統使用angr和Ghidra等框架重建軟件控制流圖
- 大語言模型通過API調用專用工具識別并總結關鍵功能
- 系統調用驗證工具對照證據核實發現結果,對文件進行分類
系統會生成詳細的"證據鏈"日志,記錄得出結論的過程,使安全團隊能夠在出現錯誤分類時審查和改進流程。
測試表現優異
在"憤怒計劃"團隊對公開可獲取的Windows驅動程序數據集進行的測試中,分類器正確標記了90%的文件,僅將2%的良性文件誤判為威脅。對近4000個"高難度目標"文件的二次評估顯示,系統正確分類了近90%的惡意文件,誤報率僅為4%。
微軟表示:"基于這些早期成功,'憤怒計劃'原型將在微軟Defender組織內部作為二進制分析器用于威脅檢測和軟件分類。我們的目標是擴展系統的速度和準確性,使其能夠正確分類來自任何來源的文件,即使是首次遇到的樣本。最終愿景是實現大規模內存中的新型惡意軟件直接檢測。"
微軟漏洞賞金計劃創紀錄
微軟同時宣布,2024年通過漏洞報告計劃向來自59個國家的344名安全研究人員發放了創紀錄的700萬美元賞金。2024年7月至2025年6月期間共提交了1469份符合條件的漏洞報告,最高個人賞金達20萬美元。去年,該公司向來自55個國家的343名安全研究人員支付了660萬美元賞金。