本地搭建AI模型
- 說明:
- 1、下載Ollama
- 2、下載模型
- 3、pip安裝open-webui(不推薦)
- 1、Python版本不對應
- 2、下載wheels失敗
- 4、docker安裝open-webui
說明:
在windows上搭建本地AI,使用Ollama+open-webui的方式,可以直接在網頁上訪問
參考連接:
Ollama的github地址: https://github.com/ollama/ollama
Ollama官網地址: https://ollama.com/
open-webui地址: https://github.com/open-webui/open-webui
AI模型: https://ollama.com/library/
python倉庫 https://pypi.org/
docker官網下載:https://www.docker.com/
1、下載Ollama
github地址: https://github.com/ollama/ollama
官網地址: https://ollama.com/
雙擊運行安裝
打開http://localhost:11434/查看運行狀態
2、下載模型
查看可下載的模型: https://ollama.com/library/
點擊進入后,復制命令行
打開電腦的命令行工具,輸入命令下載模型
win+r
cmd
輸入命令行:例ollama run deepseek-r1
3、pip安裝open-webui(不推薦)
地址: https://github.com/open-webui/open-webui
可以直接使用電腦上的pip安裝
pip install open-webui
1、Python版本不對應
需要3.11以上版本的python
進入官網下載:https://www.python.org/ftp/python/3.12.0/
選擇對應版本下載并雙擊安裝
設置環境變量
驗證配置成功,再次下載–》成功
2、下載wheels失敗
可以通過手動下載的方式,再用pip install安裝。找到下載的wheels,點擊下載
鏈接: https://www.cgohlke.com/
或者在 https://pypi.org/里搜索后下載
執行安裝
pip install 下載的地址\pandas-2.2.3-cp312-cp312-win_amd64.whl
4、docker安裝open-webui
官網下載docker:https://www.docker.com/
安裝運行后,直接搜索open-webui,pull拉取鏡像
#在命令行工具中輸入命令,查看鏡像
docker images
#運行鏡像
docker run -d -p 8088:8080 --name webui --restart always dyrnq/open-webui:git-9e726a3
訪問http://127.0.0.1:8088/
點擊Sign up注冊賬號,登錄后就可以使用啦