文章目錄
- 前言
- 操作步驟
- 步驟1:注冊賬號
- 步驟2:在線體驗
- 步驟3:獲取API密鑰
- 步驟4:安裝chatbox
- 步驟5:chatbox設置
- 價格方面
前言
最近在使用DeepSeek時,開啟深度思考功能后,頻繁遇到“服務器繁忙,請稍后再試”
的提示,體驗大打折扣。
為了解決這個問題,我嘗試在本地配置deepseek-r1的蒸餾模型(如Ollama+chatbox,支持7B、14B、32B、70B版本),但發現70B以下的模型效果與網頁版差距較大,本地部署的意義有限。
此外,我有時并不需要開啟R1深度思考模型,而是更傾向于使用V3版本。同時,我還想嘗試Qwen 2.5 32B模型在代碼編寫輔助方面的表現。
經過一番搜索,我發現了另一種更靈活的解決方案:通過大模型云服務平臺,以免費或付費的方式將所需模型的API整合到chatbox中,實現便捷的訪問和模型切換。
本文將以硅基流動為例,分享這類一站式云服務平臺與chatbox的配置教程,供大家參考。
操作步驟
步驟1:注冊賬號
登錄硅基流動https://cloud.siliconflow.cn/i/ai8Z8qFu,注冊賬號。
步驟2:在線體驗
網站注冊后可領14元的體驗額度,可通過點擊可用贈費
篩選出可供免費體驗的模型,如deepseek-ai/DeepSeek-R1
。
對于部分模型,平臺同時提供免費版和收費版。免費版按照原名稱命名;收費版會在名稱前加上“Pro/”以示區分。例如,DeepSeek-R1
的免費版命名為“deepseek-ai/DeepSeek-R1”,收費版則命名為“Pro/deepseek-ai/DeepSeek-R1”。
步驟3:獲取API密鑰
API密鑰相當于訪問硅基流動模型庫的授權碼,可通過API密鑰->新建密鑰獲取,具體步驟如下:
創建API密鑰后,即可通過復制得到完整的API密鑰,需要注意的是不要將自己的API密鑰泄露給其他人。
步驟4:安裝chatbox
chatbox網址:https://chatboxai.app/zh
步驟5:chatbox設置
1.安裝chatbox后,打開左下角的設置
窗口
2. 添加自定義提供方,在下拉菜單,選擇添加自定義提供方
3. 添加硅基流動API
可參考下圖進行設置,需要設置的參數包括:
API模式
:OpenAI API兼容名稱
:自定義,如硅基流動)API域名
:https://api.siliconflow.cn/v1API路徑
:/chat/completionsAPI密鑰
(重要):輸入步驟三中創建的密鑰模型
(重要):要添加的模型名稱
其中,模型
參數通過手動輸入添加,可在硅基流動官網點擊模型旁邊的復制按鈕獲取。
以下是一些常用的模型名稱
deepseek-ai/DeepSeek-R1
deepseek-ai/DeepSeek-V3
deepseek-ai/DeepSeek-R1-Distill-Llama-70B
Qwen/Qwen2.5-Coder-32B-Instruct
Pro/deepseek-ai/DeepSeek-R1
(收費版)
Pro/deepseek-ai/DeepSeek-V3
(收費版)
通過以上步驟后,就可以在chatbox的對話框右下角靈活的切換各種模型,并進行對話了
價格方面
個人的理解是該網站租了一些算力部署本地的deepseek-r1版模型,然后將這部分成本平坦給用戶。付費價格方面,對比deepseek官網的token價格基本一致,R1模型均為輸入 4元/M Tokens, 輸出16元/M Tokens。
最后,需要說明的是,盡管多數平臺聲稱其模型為671B滿血版,但模型性能不僅取決于參數量。實際表現與DeepSeek官網存在差距。