前言
在安裝本地大模型后,我們都會為大模型安裝一個用戶界面,這樣就可以實現語音輸入,對話保存,微調,構建本地知識庫等高階功能。
目前最火的本地大模型UI,就是gihub上的webUI,但他不僅依賴較為復雜的dockor,還涉及到向境外獲取鏡像。操作非常繁瑣。
而且經常出現各種各樣的報錯,很難安裝成功,對小白也很不友好。
于是,我找到了一款擁有webui所有功能,甚至還更好用的平替產品——chatbox!
chatbox是由國內公司開發的API統一管理UI,也可以作為本地大模型的UI。圖為chatbox界面
提示
本教程僅適用于已經安裝本地大模型,需要本地大模型UI的用戶,如還未安裝,請參考我
的其文章!
安裝方法
下載應用
點擊以下超鏈接自動開始下載
https://download.chatboxai.app/releases/Chatbox-1.9.5-Setup.exe
安裝應用
點擊下載好的安裝包,用普通方法安裝軟件,安裝用時大概2分鐘,非常簡單
設置API接口
打開安裝好的應用,關閉彈出的窗口。
點擊右下角的設置按鍵
彈出API設置框,按以下參數設置。
模型提供方:OLLMAM API
API域名:http://localhost:11434
模型:
在下拉框內選擇你安裝好的模型。
使用本地大模型
關閉設置框,在右邊菜單內選擇新對話,即可開始與AI模型的暢聊!