Windows 10 GPU STACK 0.5.1 安裝
- 1 GPUStack 安裝
- 1.Python安裝（3.10/11/12）
- 2.GPUStack 下載
- 3.生成密碼
- 4.訪問
- 5.設置模型下載目錄
- 6.禁用開機自啟并重啟服務
- 7.安裝模型
- 8.查看安裝的進度
- 2.試驗場聊天測試
- 1.對話模式
- 3.API Key 測試
1 GPUStack 安裝
1.Python安裝（3.10/11/12）
默認已安裝，查看版本
python --version
pip --version
安裝和初始化 PIPX
python -m pip install --user pipx
python -m pipx ensurepath
升級 PIP（謹慎操作）
python.exe -m pip install --upgrade pip
2.GPUStack 下載
Invoke-Expression (Invoke-WebRequest -Uri "https://get.gpustack.ai" -UseBasicParsing).Content
查看版本
gpustack version
3.生成密碼
## Ab!123456
Get-Content -Path "$env:APPDATA\gpustack\initial_admin_password" -Raw
此密碼可以直接使用，或者生成后修改為自己的密碼
4.訪問
http://localhost/
5.設置模型下載目錄
查看源代碼，找到如下位置，可通過設置環境變量值為 GPUStack 指定部分配置
新建一個空白文件夾，并配置系統環境變量，GPUSTACK_CACHE_DIR
查看是否生效
6.禁用開機自啟并重啟服務
打開 Windows 的服務管理頁面
7.安裝模型
以 DeepSeek-R1 1.5B 為例
8.查看安裝的進度
模型列表
2.試驗場聊天測試
1.對話模式
3.API Key 測試
新建一個 KEY
復制值：gpustack_005232ef37c19bbc_b4f2650cbba8fa9ca538f78d508ae102
調用，設置請求頭和參數
請求頭
Authorization Bearer gpustack_005232ef37c19bbc_b4f2650cbba8fa9ca538f78d508ae102
請求體
{"model": "deepseek-r1-1.5b","messages":[{"role": "user","content": "你好嗎?"}]
}
返回值
{"id": "chatcmpl-jeoUHK3mBIFLaU6E4tQ7OVRHygBJcHtr","created": 1740382427,"model": "deepseek-r1-1.5b","object": "chat.completion","choices": [{"index": 0,"finish_reason": "stop","message": {"content": "<think>\n\n</think>\n\n你好！—I'm just here to help you out! What do you need to talk about or ask? 😊","role": "assistant"},"logprobs": null}],"usage": {"completion_tokens": 28,"prompt_tokens": 6,"total_tokens": 34,"time_to_first_token_ms": 127.332,"time_per_output_token_ms": 7.058928571428572,"tokens_per_second": 141.6645585631166}
}
