文章目錄
- 前言
- 1. 本地部署Ollama+DeepSeek
- 2. Page Assist瀏覽器插件安裝與配置
- 3. 簡單使用演示
- 4. 遠程調用大模型
- 5. 安裝內網穿透
- 6. 配置固定公網地址
前言
最近,國產AI大模型Deepseek成了網紅爆款,大家紛紛想體驗它的魅力。但隨著熱度的攀升,不少小伙伴在使用時遇到了‘服務器繁忙,請稍后再試’的尷尬情況。別急!其實你完全可以在自己的Windows電腦上輕松部署Deepseek大模型,并通過Page Assist插件在瀏覽器中快速搭建Web UI頁面與它互動。這個方法不僅簡單易學,連新手都能迅速上手。更重要的是,有了cpolar內網穿透工具的助力,無論你在哪兒,只要有網絡,就能隨時享受與DeepSeek暢聊的樂趣,再也不用為公網IP和云服務器發愁了!讓我們一起開始這段有趣的旅程吧!
【視頻教程】
本地部署Deepseek大模型結合page assist瀏覽器插件輕松網頁AI對話
1. 本地部署Ollama+DeepSeek
如果您的Windows設備中還沒有安裝Ollama與DeepSeek,這篇教程:《Windows本地部署deepseek-r1大模型并使用web界面遠程交互》 中有詳細的安裝步驟。
簡單總結:
首先要訪問Ollama的官網,下載適配你的操作系統的客戶端,安裝后用cmd
打開Windows系統自帶的終端界面:
然后回到Ollama的官網,找到你想要下載的各種量級的模型對應的模型下載命令:
比如我這里下載1.5b的輕量級deepseek模型,就在cmd終端中執行這個命令就能安裝了:
ollama run deepseek-r1:1.5b
現在我們就已經能夠在本地Windows電腦上通過ollama正常使用deepseek-r1模型與AI進行聊天了!
2. Page Assist瀏覽器插件安裝與配置
Github 官網:https://github.com/n4ze3m/page-assist
首先打開Chrome瀏覽器,進入應用商店:
在頂部搜索框中搜索Page Assist:
點擊添加至Chrome:
在彈出的提示框中點擊添加擴展程序:
添加后在瀏覽器右上角的擴展程序圖標中打開它即可看到Web UI界面了:
點擊右上角設置,可以修改界面語言顯示:
PS:如果訪問不了chrome應用商店添加插件,我已打包插件文件到網盤,需要的可以自取:
鏈接: https://pan.baidu.com/s/1gzrgj1os64-VDOm1oWO0dA?pwd=6666 提取碼: 6666
下載好插件文件后,在chrome瀏覽器中輸入:
chrome://extensions/
進入擴展程序安裝界面將插件文件拖入這個界面,點擊安裝擴展程序即可。
3. 簡單使用演示
回到Page Assist的Web UI主界面,點擊上方模型選擇可以看到剛才本地部署的deepseek-r1:1.5b:
選擇好模型后即可在下方輸入框中與deepseek聊天啦!
底部聯網開關打開,還可以進行聯網搜索:
點擊左上角展開側邊欄圖標可以看到聊天歷史記錄:
點擊右上角三個點按鈕,可以復制與下載回答,支持多種格式:
復制與下載按鈕旁邊是當前聊天模型設置
功能,在這里可以添加臨時系統提示,控制請求后模型在內存中保持的時間,溫度值,隨機種子值,上下文數量,最大令牌數等參數信息。
點擊最右側的設置按鈕,可以看到這款插件雖然只是一個webui服務,但支持的功能真的非常多,而且非常實用:
除了一些常規使用設置,還可對網絡搜索
進行管理:
支持對文本轉語音
進行設置:
進入ollama設置
,還可以對模型地址進行修改,這樣就能實現同一局域網內的其他小伙伴如果在瀏覽器中安裝了Page Assist插件后,也可以直接訪問你在本地部署的DeepSeek大模型了!
4. 遠程調用大模型
同一局域網內其他人使用Page Assist瀏覽器插件和Anything LLM遠程調用你在本地部署DeepSeek大模型的方法幾乎一樣,首先也需要對ollama進行一下環境變量設置!
打開cmd終端,執行下面兩個命令:
setx OLLAMA_HOST "0.0.0.0"
setx OLLAMA_ORIGINS "*"
然后點擊電腦桌面右下角的ollama圖標退出并重啟服務:
重新開啟ollama服務后,同一局域網下的小伙伴在Page Assist插件的ollama設置中將地址改為你的電腦IP加上端口號11434,點擊保存后,就能使用你在本地部署的大模型進行網頁聊天了。
PS:如何查詢我的本機IP?打開cmd終端,輸入ipconfig,回車!
5. 安裝內網穿透
不過我們目前只能在同一個局域網內多人使用安裝了Page Assist插件的瀏覽器遠程訪問本地部署的deepseek大模型,如果想讓異地好友也能使用你在部署的deepseek大模型應該怎么辦呢?很簡單,只要安裝一個cpolar內網穿透工具就能輕松實現遠程訪問內網主機中部署的服務了,接下來介紹一下如何安裝cpolar內網穿透。
首先進入cpolar官網:
cpolar官網地址: https://www.cpolar.com
點擊免費使用
注冊一個賬號,并下載最新版本的cpolar:
登錄成功后,點擊下載cpolar到本地并安裝(一路默認安裝即可)本教程選擇下載Windows版本。
cpolar安裝成功后,在瀏覽器上訪問http://localhost:9200,使用cpolar賬號登錄,登錄后即可看到配置界面,結下來在WebUI管理界面配置即可。
接下來配置一下 Ollama 的公網地址,
登錄后,點擊左側儀表盤的隧道管理——創建隧道,
- 隧道名稱:ollamads(可自定義命名,注意不要與已有的隧道名稱重復)
- 協議:選擇 http
- 本地地址:11434
- 域名類型:選擇隨機域名
- 地區:選擇China Top
隧道創建成功后,點擊左側的狀態——在線隧道列表,查看所生成的公網訪問地址,有兩種訪問方式,一種是http 和https:
現在你的好友在安裝了Page Assist插件的Chrome瀏覽器的ollama設置中使用上面的任意一個公網地址替換剛才IP加端口號的地址,點擊保存按鈕后,就可以實現隨時隨地遠程訪問你在本地部署的deepseek大模型聊天了!使用了cpolar的公網域名,無需自己購買云服務器,輕松搞定跨網絡環境遠程訪問本地服務!
小結
為了方便演示,我們在上邊的操作過程中使用cpolar生成的HTTP公網地址隧道,其公網地址是隨機生成的。這種隨機地址的優勢在于建立速度快,可以立即使用。然而,它的缺點是網址是隨機生成,這個地址在24小時內會發生隨機變化,更適合于臨時使用。
如果有長期使用Chrome瀏覽器遠程訪問本地部署的DeepSeek等大模型,或者異地訪問與使用其他本地部署的服務的需求,但又不想每天重新配置公網地址,還想讓公網地址好看又好記并體驗更多功能與更快的帶寬,那我推薦大家選擇使用固定的二級子域名方式來配置公網地址。
6. 配置固定公網地址
接下來演示如何為ollama服務配置固定的HTTP公網地址,該地址不會變化,方便分享給別人長期訪問你部署的大模型,而無需每天重復修改服務器地址。
配置固定http端口地址需要將cpolar升級到專業版套餐或以上。
登錄cpolar官網,點擊左側的預留,選擇保留二級子域名,設置一個二級子域名名稱,點擊保留,保留成功后復制保留的二級子域名名稱:
保留成功后復制保留成功的二級子域名的名稱:myolds,大家也可以設置自己喜歡的名稱。
返回Cpolar web UI管理界面,點擊左側儀表盤的隧道管理——隧道列表,找到所要配置的隧道:ollamads,點擊右側的編輯:
修改隧道信息,將保留成功的二級子域名配置到隧道中
- 域名類型:選擇二級子域名
- Sub Domain:填寫保留成功的二級子域名:
myolds
點擊更新
(注意,點擊一次更新即可,不需要重復提交)
更新完成后,打開在線隧道列表,此時可以看到公網地址已經發生變化,地址名稱也變成了固定的二級子域名名稱的域名:
最后,我們在Chrome瀏覽器的Page Assist插件ollama設置界面中使用上面的任意一個固定的二級子域名公網地址替換剛才的隨機公網地址,現在開始就不用每天都更換公網地址來遠程訪問本地部署的大模型了。
以上就是如何在Windows系統上安裝Ollama大模型工具及deepseek r1模型,并通過Chrome瀏覽器的Page Assist插件快速搭建Web頁面,結合cpolar內網穿透工具實現隨時隨地遠程訪問本地部署的大模型,配置固定不變的二級子域名公網地址與AI聊天的完整步驟。感謝你的耐心閱讀!如果你還有任何疑問或有趣的體驗,歡迎在評論區留言交流,讓我們一起探索更多好玩的玩法,順便給Deepseek點個贊吧!