目錄
- 一、引言
- 二、集成ToolContext示例
- 步驟1: 在`@Tool`標注的工具方法中集成`ToolConext`參數
- 步驟2:`ChatClient`運行時動態設置`ToolContext`參數
- 三、填坑
一、引言
在使用AI大模型的工具調用機制時,工具參數都是由大模型解析用戶輸入上下文獲取的,由大模型提供參數給本地工具調用。對于那些涉密數據(access_token、app_secret等)、租戶標識(tenant_id等)、用戶身份(user_id等)又或者無法根據用戶輸入上下文獲取到的參數,Spring AI 支持通過 ToolContext API 傳遞額外的應用側(客戶端)參數給工具調用,如此應用側在執行工具調用的過程中,便可獲取到應用側傳遞的上下文參數,同時又可獲取到AI大模型傳遞的工具參數。
相較于原Tool Calling
調用流程,使用Tool Context
機制后的流程主要變化在第1步和第3步:
- 第1步: 除了提供
工