針對軟件架構師、技術專業人士如何更好的把 GenAI 如何融入解決方案，提升用戶體驗、生產力并帶來差異化成果的趨勢，Gartner發布了《Integrating GenAI Into Your Application
Architecture》研究報告。

報告首先介紹了 GenAI 的發展背景，指出其已成為主流趨勢，大型語言模型（LLMs）成為通用計算模型，引發各界對 GenAI 模型及相關技術的應用探索。接著闡述了 GenAI 應用設計的關鍵在于如何利用不可預測的 AI 組件構建足夠可靠的系統，并提出了集成 GenAI 能力的詳細步驟，包括定義目標與約束、選擇 GenAI 模型、定義運營流程、準備與測試模型、集成模型交互等。

此外，報告還分析了 GenAI 的常見用例，如文本生成、圖像生成、生成式設計、音頻生成、結構化數據生成等，并探討了 GenAI 解決方案的層次結構，包括基礎模型、微調、模型編排、系統提示和應用提示等。同時，指出了 GenAI 面臨的諸多挑戰，如數據偏差、模型生命周期管理、模型漂移、成本問題、設計與開發過程中的試錯、測試難題以及安全風險等。

文章主要觀點

第二步：選擇 GenAI 模型

第三步：定義運營流程

第四步：準備和測試選擇的模型

第五步：集成模型交互

• GenAI 應用廣泛但需合理選擇 ：LLMs 等 GenAI 模型具有通用性，能適用于多種任務，但 GenAI 并非萬能鑰匙，有時判別式 AI 模型、業務規則引擎或代碼可能是特定決策或預測的更佳選擇。

• GenAI 集成需考慮多方面因素 ：包括目標與約束的明確、模型的選擇與評估、運營流程的定義、模型的準備與測試以及與應用的集成等，且每一步都有其關鍵要點和注意事項。

• GenAI 帶來新挑戰 ：如模型輸出的偏差、模型行為隨時間的變化（模型漂移）、高昂的訓練和推理成本、設計開發過程中的不確定性、測試難度增加以及安全風險等，這些都需要軟件架構師在集成 GenAI 時予以充分考慮。

• 解決方案建議

• 第一步：定義目標和約束

• 明確問題與價值 ：需確定試圖解決的問題是什么，是移除價值交付的障礙還是解鎖新的價值，避免陷入為技術而技術的誤區，確保聚焦于實現業務成果。

• 了解受影響者 &#x