Spring AI

Spring AI開發框架提供對接應用與AI模型的集成開發能力，讓開發者更加容易地開發智能體以及其他生成式人工智能的應用：

模型（Model）

AI模型是算法與數據的集合，用于處理信息以及生成信息，主要AI模型的類別包括，LLM大語言模型、圖像或者視頻生成模型、文本到語音模型、語音到文本模型、嵌入式表示模型、集合不同類別的模型在一起的多模態模型：

提示詞（Prompt）

提示詞是提示也是問題，即以提示性的方式向AI模型提問題或者需求，用于指導AI模型更加準確地實現人工與機器之間的交互。

嵌入式表示（Embedding）

嵌入式表示包括算法與數據結構，算法將輸入的文本或者多媒體的信息轉換為標準數字，存儲在向量的數據結構中，實現高效地計算數據之間的相關性：

分詞（Token）

分詞作為AI模型處理文本輸入與輸出的最小單元，將輸入的文本轉化為token列表以及將輸出的token列表轉化為文本，理論上，單詞與token之間的對應關系是1對多的關系，一個相同的單詞可以出現在多個不同的token中。

結構化輸出

Spring AI開發框架在AI模型處理的流程中，支持合法數據的輸入以及結構化數據的輸出：

AI模型支持供給側的數據以及API接口調用

AI模型在數據處理的流程中，支持處理應用直接輸入的數據以及調用應用提供的API接口獲取第三方的數據，應用與AI模型的交互流程中，AI模型需要獲取本地化的數據，AI模型支持數據本地化的方式包括，AI模型運行前使用機器學習微調本地化數據，AI模型運行中使用提示詞加本地化數據作為上下文輸入：

檢索增強式生成（RAG）

RAG技術是傳統的增強型索引系統技術，使用RAG技術從傳統的大數據系統的向量數據集合中，獲取用戶業務的本地上下文數據，用于為提示詞提供更加準確的本地化上下文數據，從而提升人工與機器之間交互的準確度：

工具調用（Tool Calling）

AI模型由算法與固定不變的數據構成，在AI模型運行的流程中，需要使用工具調用向第三方獲取動態的數據，Spring AI開發框架提供數據與第三方調用API接口信息的輸入，AI模型使用工具調用向Spring AI發送調用第三方接口的請求，Spring AI代理執行第三方接口的調用，Spring AI將第三方接口的響應返回給AI模型，AI模型結合工具調用獲取到的動態數據與自身處理的數據，返回給客戶端應用：