之前的案例都是運行在單臺機器上以單進程形式運行,受限于 Python 的全局解釋器鎖,實際只能有效利用一個 CPU 的計算資源,并且無法支持多個用戶從自己的電腦上接入同一個 Multi-Agent 應用進行交互。?為了提高運行效率并支持多用戶接入同一個應用中,AgentScope 提供了分布式模式,支持將同一個應用中的多個 Agent 運行在不同的進程甚至不同的機器上。同時為了讓更多完全沒有分布式程序編寫經驗的小白也能輕松上手,AgentScope 提供了簡單的轉化函數,能夠將已經寫好的單機單進程應用擴展到多進程、分布式的場景中。
-
AgentScope 分布式的使用方法。AgentScope 原生提供了基于 gRPC 的分布式模式, 在這種模式下,一個應用程序中的多個智能體可以部署到不同的進程或者甚至不同的機器上,從而充分利用計算資源,提高效率。
-
與傳統模式相比,AgentScope 的分布式模式不需要修改主進程代碼。只需在初始化智能體時調用 to_dist 函數。
-
基本概念
-
主進程:AgentScope 應用程序所在的進程被稱為主進程。例如,上一節中的 run 函數就是在主進程中運行的。每個 AgentScope 應用程序只有一個主進程。
-
智能體服務器進程:AgentScop
-