如果需要建站,那得選安裝Openresty。點擊應用商店,安裝 Openresty
接下來安裝Ollama,可以部署本地模型提供給WebUi平臺使用
最后是安裝 WebUi,安裝時需要填寫Ollama的地址:? ?容器地址:30000
?這些安裝都很方便,直接在應用商店里安裝就行,容器會自己搭建起來。
這些安裝完成,服務就可以使用了,輸入IP地址:3000就可以打開站點了。不過我們先配置下域名。點擊左邊菜單中的網站,然后創建,選擇反向代理,開始配置
配置完成后,添加SSL,
?
接下來就可以通過域名訪問站點了
第一次訪問站點,會讓你配置管理員賬戶,接著通過管理員賬戶登錄后,就可以看到主頁面了
?我們可以通過管理員面板,添加模型,點擊右上角菜單,選擇管理員面板-設置-模型,在本地安裝模型,這些模型都是通過之前安裝的ollama部署的
模型安裝完成后,就可以使用了
另外,還有許多擴展的模型和函數提供,可以直接安裝,非常方便,也非常有趣。
比如我有Gemini的API,想在我的站點使用,可以安裝插件
如果你希望快速完成集成,最便捷的方式是使用 Open WebUI 的第三方插件。例如,https://openwebui.com/f/matthewh/google_genai?插件專為 Gemini API 提供支持,安裝和配置非常簡單。配置步驟包括:第一,安裝插件:在 Open WebUI 的插件市場中搜索并安裝?google_genai?插件。打開 Open WebUI 的設置頁面,找到函數,然后導入這個插件的代碼。第二,配置 API 密鑰:輸入你的 Gemini API 密鑰。第三,啟用插件: 為函數點擊啟用,將默認模型設置為?gemini。完成配置后,你可以開始使用 Gemini 模型進行生成任務。使用插件是最簡單的方式,特別適合希望快速體驗 Gemini API 功能的用戶。插件本身通常是免費的,你只需支付 Gemini API 的調用費用。
?