??除了使用Ollama部署DeepSeek,還可以使用LM Studio部署DeepSeek,后者是一款允許用戶在本地計算機上運行大型語言模型(LLMs)的桌面應用程序,旨在簡化本地模型的使用,無需云端連接或復雜配置即可體驗 AI 功能。本文學習并記錄基于LM Studio部署DeepSeek的過程。
??登錄lmstudio官網,下載并安裝LM Studio軟件,如下圖所示。
??運行 LM Studio,第一次啟動時會顯示下圖所示界面,點擊右上角的“Skip onboarding”直接進入主界面。
??點擊主界面左側的“發現”圖標(圖標為一放大鏡),點擊左下角的App Settings按鈕,可以在右側設置語言、主題等設置。
??在同一界面,點擊左上角的Model Search標簽,在左側按需搜索模型文件,本文中選擇了配置要求較低的deepseek-r1-distill-qwen-1.5b模型,然后點擊右下角的Download按鈕下載并加載模型。
??點擊主界面左側第一個聊天圖標,在下圖圈紅處下拉選擇模型,本文測試過程中會提示模型加載失敗,報“Exit code: 18446744072635812000”的錯誤。
??百度上述錯誤信息,找到參考文獻3,提示可能是選擇的運行時有問題。在主界面左側點擊發現圖標,然后點擊Runtime標簽,在右下側的配置運行環境中將GGUF設置為“CPU llama.cpp (Windows)。
??再切換回聊天頁面,在頁面上方選擇模型,然后就可以正常和本地模型對話了。
參考文獻:
[1]https://lmstudio.ai/
[2]https://blog.csdn.net/hj960511/article/details/145390784
[3]https://blog.csdn.net/huangyabin001/article/details/145817292