一、軟件介紹
文末提供程序和源碼下載
? ? ? Modus 是一個開源的無服務器框架,用于在 Go 和 AssemblyScript 中構建代理系統和 AI 應用程序。
? ? ? ?它簡化了模型、上下文和數據的集成。我們將繼續添加其他功能,以更好地支持工具的構建和調用。
You write a function. ?您編寫一個函數。
export function sayHello(name: string): string {
? return `Hello, ${name}!`;
}
Then, Modus: ?然后,Modus:
- 提取函數的元數據
- 使用基于主機環境的優化來編譯您的代碼
- 將編譯后的模塊緩存在內存中以便快速檢索
- 為每個函數準備一個調用計劃
- 從應用程序的清單中提取連接、模型和其他配置詳細信息
- 生成 API 架構并激活端點
You query the endpoint ?您查詢終端節點
query SayHello {
? sayHello(name: "World")
}
In a few milliseconds, Modus:
在幾毫秒內,Modus 可以:
- 將編譯后的代碼加載到具有專用內存空間的沙盒執行環境中
- 運行您的代碼,并借助為 Modus API 提供支持的主機函數
- 根據需要安全地查詢數據和 AI 模型,而無需向代碼公開憑據
- 通過 API 結果響應并釋放執行環境
現在,您為支持 AI 的應用程序擁有了一個生產就緒的可擴展終端節點。啟動和迭代。
二、快速入門
安裝 Modus CLI
npm install -g @hypermode/modus-cli
Initialize your Modus app
初始化您的 Modus 應用程序
modus new
Run your app locally with fast refresh
通過快速刷新在本地運行應用
modus dev
三、?它有什么好處?
? ? ? ?我們認為,代理流程從根本上說仍然是應用程序。因此,我們將 Modus 主要設計為一個通用框架,它恰好將模型、代理和工具視為一流的組件。
? ? ? ?Modus 針對需要亞秒級響應時間的應用程序進行了優化。我們進行了權衡,優先考慮速度和簡單性。
編程語言
? ? 由于 Modus 基于 WebAssembly,您可以使用各種編程語言編寫 Modus 應用程序。每種語言都提供 Modus 框架的全部功能。
目前,您可以選擇支持的語言包括:
- Go - 最初由 Google 設計的通用編程語言。
- AssemblyScript - 一種專為 WebAssembly 設計的類似 TypeScript 的語言。
? ? ? ?Modus 是一個免費的開源框架,歡迎您在自己的硬件或任何滿足您需求的托管平臺上運行 Modus 應用程序。
? ? ? Modus 是一個免費的開源框架,歡迎您在自己的硬件或任何滿足您需求的托管平臺上運行 Modus 應用程序。
軟件下載
夸克網盤分享
本文信息來源于GitHub作者地址:https://github.com/hypermodeinc/modus