文章目錄
- 1 前言
- 2 部署流程
- 2.1 準備工作
- 2.2 Ollama
- 2.2.1 使用有網絡的電腦下載Ollama
- 2.2.2 安裝Ollama(有網絡的電腦)
- 2.2.3 安裝Ollama(無網絡的電腦)
- 2.2.4 安裝驗證
- 2.2.5 修改大模型安裝位置
- 2.2.6 下載Deepseek模型
- 2.3 將deepseek部署到vscode
- 2.3.1 下載插件的visx文件
- 2.3.2 拷貝visx文件
- 2.3.3 在無網絡的電腦中導入插件
- 2.3.4 添加大模型
- 3 總結
1 前言
由于在公司中使用的云桌面是沒有網絡的,所以在閱讀部門大哥們的代碼時無法使用ai工具,加上本人才疏學淺,閱讀起來十分困難、效率不高,因此通過網上資料搜尋并總結出了在無網絡的windows電腦中本地部署deepseek,從而能夠通過工具解釋代碼,進行愉快的閱讀和開發
2 部署流程
2.1 準備工作
- 一臺無網絡的windows電腦(虛擬機、云桌面)
- 一臺有網絡的windows電腦
2.2 Ollama
首先需要通過Ollama下載需要部署的大模型到電腦中
2.2.1 使用有網絡的電腦下載Ollama
我這里直接分享我網盤中的安裝包:
Ollama安裝包,提取碼: jwj2
2.2.2 安裝Ollama(有網絡的電腦)
安裝推薦使用命令行方式安裝,因為直接雙擊exe文件安裝的話,安裝的位置默認會在C盤(一般是在C:\Users\用戶名\AppData\Local\Ollama),使用命令行安裝則可以制定安裝的路徑
1、在安裝包OllamaSetup.exe所在目錄按住Shift + 鼠標右鍵
,點擊彈窗中的在此處打開 Powershell 窗口
2、在彈出的PowerShell輸入如下命令
.\OllamaSetup.exe /DIR="D:\Ollama"
其中DIR的值為D:\Ollama,該值就是你想要安裝的位置
3、回車后會彈出安裝窗體,點擊install
等待安裝完成
2.2.3 安裝Ollama(無網絡的電腦)
將下載好的安裝包從有網絡的電腦拷貝到無網絡的電腦中,重復2.2.2中的步驟,在無網絡的電腦中安裝Ollama
2.2.4 安裝驗證
在Powershell中輸入命令ollama
,若出現如下打印則安裝成功
2.2.5 修改大模型安裝位置
在有網絡和無網絡的電腦中都執行如下操作:
在環境變量中的新建用戶變量
變量名:OLLAMA_MODELS
變量值:D:\Ollama\Models
其中變量值是大模型下載存儲的路徑,可以根據需要進行自定義,我這里就是存儲在D:\Ollama\Models
這一步設置完一定要重新啟動一下Ollama,配置才會生效
2.2.6 下載Deepseek模型
在有網絡的電腦中執行以下步驟:
1、進入Ollama官網,點擊菜單欄中的Models
搜索deepseek-r1
并點擊
可以根據需要以及電腦配置選擇模型
由于我的電腦沒有GPU,因此部署最小的1.5b的模型
2、復制
3、打開2.2.5中配置的大模型安裝路徑的目錄,按
Shift+鼠標右鍵
,,點擊彈窗中的在此處打開 Powershell 窗口
4、輸出粘貼的命令ollama run deepseek-r1:1.5b
并等待其下載完成,當出現如下界面則安裝成功
同時,在指定了大模型安裝的目錄下會生成兩個文件夾,如果指定的目錄下沒有這兩個文件夾,則2.2.5的配置沒有生效,模型安裝在默認路徑(C:\User\用戶名\.ollama\models)
將這兩個文件夾拷貝到2.2.5中配置的無網絡電腦的大模型安裝路徑下
2.3 將deepseek部署到vscode
2.3.1 下載插件的visx文件
由于無網絡的電腦中無法直接通過vscode下載插件,只能通過vsix文件導入。
1、在有網絡的電腦中打開vscode,搜索continue
,下載vsix文件
2、選擇下載平臺
我這里也給出vsix文件的網盤鏈接
continue.continue-1.0.11-win32-x64.vsix
提取碼: 6n7n
2.3.2 拷貝visx文件
將下載好的vsix文件從有網絡的電腦拷貝到無網絡的電腦中
2.3.3 在無網絡的電腦中導入插件
在無網絡的電腦中,打開vscode,點擊從vsix安裝
,安裝continue插件
2.3.4 添加大模型
在無網絡的電腦中,點擊左側continue插件圖標,添加大模型
Provider
選擇Ollama,Model
選擇Autodetect,電腦會根據2.2.5步驟配置的用戶變量的大模型路徑自動檢測有什么模型,點擊Connect
出現以下界面后,則恭喜你成功在無網絡的電腦中的vscode本地部署了deepseek,進行愉快的代碼閱讀了!
3 總結
- 本文參考了以下兩位大佬的文章,特別鳴謝!
全網最全!!!手把手教你本地部署DeepSeek+VS Code,一鍵搭建本地大模型
[軟件工具使用記錄] windows離線ollama部署本地模型并配置continue實現離線代碼補全 - 由于電腦沒有顯卡GPU,因此即使跑最小的模型也會有些許卡頓,但是問題不大,還是可以正常使用的
- 有任何問題歡迎評論或私信留言