大語言模型的應用探索AI Agent初探！

前言

大語言模型的應用之一是與大語言模型進行聊天也就是一個ChatBot，這個應用已經很廣泛了。

接下來的一個應用就是AI Agent。

AI Agent是人工智能代理（Artificial Intelligence Agent）的概念，它是一種能夠感知環境、進行決策和執行動作的智能實體，通常基于機器學習和人工智能技術，具備自主性和自適應性，在特定任務或領域中能夠自主地進行學習和改進。一個更完整的Agent，一定是與環境充分交互的，它包括兩部分——一是Agent的部分，二是環境的部分。此刻的Agent就如同物理世界中的「人類」，物理世界就是人類的「外部環境」。

效果

今天就基于開源的大語言模型Qwen2-7B-Instruct與開源的LLM應用框架SenmanticKernel實現我們的第一個AI Agent！

入門先從一個簡單的例子入手，比如叫大語言模型將字符串打印至控制臺。

在ChatBox應用中，我們叫大語言模型將字符串打印至控制臺，它的回答可能是這樣子的：

而在簡易的AI Agent應用中，大語言模型會幫我們完成這項簡單的任務。

又比如，我們需要從數據庫中檢索信息，假設需要檢索的信息如下所示：

 List<Order> Orders = new List<Order>(){new Order(){Id=1,Name="iPhone15",Address="武漢"},new Order(){Id=2,Name="iPad",Address="北京"},new Order(){Id=3,Name="MacBook",Address="上海"},new Order(){Id=4,Name = "HuaWei Mate60 ",Address = "深圳"},new Order(){Id = 5,Name = "小米14",Address = "廣州"}};

在ChatBox應用中，我們如果問Id為1的訂單信息是什么？大語言模型是不會知道我們想干什么的，回答可能如下所示：

而在簡易的AI Agent應用中，AI回答如下：

實踐

上一篇文章講過，在SemanticKernel中OpenAI支持Function Call的模型與月之暗面支持Function Call的模型，只需進行簡單的設置即可實現自動函數調用，但我嘗試了其他開源的模型，發現做不到。

通過github了解到，其他的模型可以通過提示工程來實現本地函數調用。

什么是提示工程？

提示工程（Prompt Engineering）是一種自然語言處理（NLP）技術，主要應用于生成式AI模型，如GPT-3等。它通過精心設計輸入提示（prompt），引導模型生成特定類型的輸出。在提示工程中，用戶可以控制模型的輸出內容、風格和格式，以滿足不同的應用場景需求。

提示工程的關鍵在于設計有效的提示，這通常需要對模型的能力和限制有深入的了解。通過調整提示的結構、語言和上下文，可以顯著提高模型生成結果的質量和相關性。在實際應用中，提示工程可以用于文本生成、問答、翻譯、摘要、對話系統等多個領域。

上面兩個簡單的AI Agent應用實現的原理是一樣的，選擇第二個獲取訂單的引用進行講解。

實現的方法來自上一篇博客提到的項目：

Jenscaasen/UniversalLLMFunctionCaller: A planner that integrates into Semantic Kernel to enable function calling on all Chat based LLMs (Mistral, Bard, Claude, LLama etc) (github.com)

在kernel中導入插件：

public sealed class OrderPlugin
{List<Order> Orders = new List<Order>(){new Order(){Id=1,Name="iPhone15",Address="武漢"},new Order(){Id=2,Name="iPad",Address="北京"},new Order(){Id=3,Name="MacBook",Address="上海"},new Order(){Id=4,Name = "HuaWei Mate60 ",Address = "深圳"},new Order(){Id = 5,Name = "小米14",Address = "廣州"}};[KernelFunction, Description("根據Id獲取訂單")][return: Description("獲取到的訂單")]public string GetOrderById([Description("訂單的Id")] int id){var order = Orders.Where(x => x.Id == id).FirstOrDefault();if(order != null){return order.ToString();}else{return "找不到該Id的訂單";}}
}

_kernel.ImportPluginFromType<OrderPlugin>("Order");

 UniversalLLMFunctionCaller planner = new(_kernel);string result = await planner.RunAsync(AskText);

重點在planner.RunAsync中。

導入為了實現目的內置的插件：

 // Initialize pluginsvar plugins = _kernel.Plugins;var internalPlugin = _kernel.Plugins.AddFromType<UniversalLLMFunctionCallerInternalFunctions>();

UniversalLLMFunctionCallerInternalFunctions插件如下：

    internal class UniversalLLMFunctionCallerInternalFunctions{//   [KernelFunction, Description("Call this when the workflow is done and there are no more functions to call")]//   public string Finished(//  [Description("Wrap up what was done and what the result is, be concise")] string finalmessage//)//   {//       return string.Empty;//       //no actual implementation, for internal routing only//   }[KernelFunction, Description("當工作流程完成，沒有更多的函數需要調用時，調用這個函數")]public string Finished([Description("總結已完成的工作和結果，盡量簡潔明了。")] string finalmessage){return string.Empty;//no actual implementation, for internal routing only}//[KernelFunction, Description("Gets the name of the spaceship of the user")]//public string GetMySpaceshipName()//{//    return "MSS3000";//}[KernelFunction, Description("獲取用戶飛船的名稱")]public string GetMySpaceshipName(){return "嫦娥一號";}//   [KernelFunction, Description("Starts a Spaceship")]//   public void StartSpaceship(//  [Description("The name of the spaceship to start")] string ship_name//)//   {//       //no actual implementation, for internal routing only//   }[KernelFunction, Description("啟動飛船")]public void StartSpaceship([Description("啟動的飛船的名字")] string ship_name){//no actual implementation, for internal routing only}}
}

我將英文原版注釋掉并增加了一個中文的版本。

將插件轉化為文本：

// Convert plugins to text
string pluginsAsText = GetTemplatesAsTextPrompt3000(plugins);

獲取到了插件中所有本地函數的信息。

nextFunctionCall = await GetNextFunctionCallAsync(chatHistory, pluginsAsText);

讓大語言模型獲取下一次需要調用的函數。

在對話示例中加入一個提示，這個提示是關鍵！

英文原版如下：

        private string GetLoopSystemMessage(string pluginsAsTextPrompt3000){string systemPrompt = $@"You are a computer system. You can only speak TextPrompt3000 to make the user call functions, and the user will behaveas a different computer system that answers those functions.Below, you are provided a goal that needs to be reached, as well as a list of functions that the user could use.You need to find out what the next step for the user is to reach the goal and recommend a TextPrompt3000 function call. You are also provided a list of functions that are in TextPrompt3000 Schema Format.The TextPrompt3000 Format is defined like this:{GetTextPrompt300Explanation()}##available functions##{pluginsAsTextPrompt3000}##end functions##The following rules are very important:1) you can only recommend one function and the parameters, not multiple functions2) You can only recommend a function that is in the list of available functions3) You need to give all parameters for the function. Do NOT escape special characters in the name of functions or the names of parameters (dont do aaa\_bbb, just stick to aaa_bbb)!4) Given the history, the function you recommend needs to be important to get closer towards the goal5) Do not wrap functions into each other. Stick to the list of functions, this is not a math problem. Do not use placeholders.We only need one function, the next one needed. For example, if function A() needs to be used as parameter in function B(), do NOT do B(A()). Instead,if A wasnt called allready, call A() first. The result will be used in B in a later iteration.6) Do not recommend a function that was recently called. Use the output instead. Do not use Placeholders or Functions as parameters for other functions7) Only write a Function Call, do not explain why, do not provide a reasoning. You are limited to writing a function call only!8) When all  necessary functions are called and the result was presented by the computer system, call the Finished function and present the resultIf you break any of those rules, a kitten dies. ";return systemPrompt;}

我翻譯了一個中文版本并添加了使用中文回答如下：

        private string GetLoopSystemMessage(string pluginsAsTextPrompt3000){string systemPrompt = $@"你是一個計算機系統。
你只能使用TextPrompt3000指令，讓用戶調用對應的函數，而用戶將作為另一個回答這些函數的計算機系統。
以下是您所需實現的目標，以及用戶可以使用的函數列表。
您需要找出用戶到達目標的下一步，并推薦一個TextPrompt3000函數調用。 
您還會得到一個TextPrompt3000 Schema格式的函數列表。
TextPrompt3000格式的定義如下所示:
{GetTextPrompt300Explanation()}
##可用函數列表開始##
{pluginsAsTextPrompt3000}
##可用函數列表結束##以下規則非常重要：
1) 你只能推薦一個函數及其參數，而不是多個函數
2) 你可以推薦的函數只存在于可用函數列表中
3) 你需要為該函數提供所有參數。不要在函數名或參數名中轉義特殊字符，直接使用（如只寫aaa_bbb，不要寫成aaa\_bbb）
4) 你推薦的歷史記錄與函數需要對更接近目標有重要作用
5) 不要將函數相互嵌套。 遵循列表中的函數，這不是一個數學問題。 不要使用占位符。
我們只需要一個函數，下一個所需的函數。舉個例子， 如果 function A() 需要在 function B()中當參數使用, 不要使用 B(A())。 而是,
如果A還沒有被調用, 先調用 A()。返回的結果將在下一次迭代中在B中使用。
6) 不要推薦一個最近已經調用過的函數。 使用輸出代替。 不要將占位符或函數作為其他函數的參數使用。
7) 只寫出一個函數調用，不解釋原因，不提供理由。您只能寫出一個函數調用！
8) 當所有必需的函數都被調用，且計算機系統呈現了結果，調用Finished函數并展示結果。
9) 請使用中文回答。如果你違反了任何這些規定，那么會有一只小貓死去。
";return systemPrompt;}

第一次直觀感受到了提示工程的魔法。

根據這個模板與對話歷史詢問大語言模型下一步需要執行的函數名稱與參數是什么：

大語言模型回答需要調用的函數名為GetOrderById，參數id為3，接下來驗證是否可以轉化為一個Function Call：

在plugins中查找是否有同名的函數，如果有KernelArguments，進行本地函數調用：

private async Task<string> InvokePluginAsync(FunctionCall functionCall)
{List<string> args = new List<string>();foreach (var paraam in functionCall.Parameters){args.Add($"{paraam.Name} : {paraam.Value}");}Debug.WriteLine($">>invoking {functionCall.Name} with parameters {string.Join(",", args)}");// Iterate over each plugin in the kernelforeach (var plugin in _kernel.Plugins){// Check if the plugin has a function with the same name as the function callvar function = plugin.FirstOrDefault(f => f.Name == functionCall.Name);if (function != null){// Create a new context for the function callKernelArguments context = new KernelArguments();// Add the function parameters to the contextforeach (var parameter in functionCall.Parameters){context[parameter.Name] = parameter.Value;}// Invoke the functionvar result = await function.InvokeAsync(_kernel, context);Debug.WriteLine($">>Result: {result.ToString()}");return result.ToString();}}

 // Invoke the functionvar result = await function.InvokeAsync(_kernel, context);

在本例中會執行：

[KernelFunction, Description("根據Id獲取訂單")]
[return: Description("獲取到的訂單")]
public string GetOrderById(
[Description("訂單的Id")] int id)
{var order = Orders.Where(x => x.Id == id).FirstOrDefault();if(order != null){return order.ToString();}else{return "找不到該Id的訂單";}
}

這個函數，得到如下結果：

大語言模型判斷已經完成了任務，下一步執行

   [KernelFunction, Description("當工作流程完成，沒有更多的函數需要調用時，調用這個函數")]public string Finished([Description("總結已完成的工作和結果，盡量簡潔明了。")] string finalmessage
){return string.Empty;//no actual implementation, for internal routing only}

這個函數，如下所示：

下一個調用的函數是Finished的，會跳出循環：

返回最后的信息：

最終的效果如下所示：

以上就是本次分享的全部內容，嘗試使用開源的大語言模型與SenmanticKernel框架結合，構建自己的簡易的AI Agent，不過AI Agent的效果還不是很好，任務變復雜有可能會出錯，具體學習可以看推薦的項目的源代碼，作者寫的還是比較清晰的。感謝硅基流動提供的平臺，讓我等沒有硬件資源的人，也可以流暢的使用開源的大語言模型，進行大語言模型的應用探索。