2025年3月10日更新—DeepSeek-R1現已作為完全托管的無服務器模型在Amazon Bedrock上提供。

2025年2月5日更新—DeepSeek-R1 Distill Llama 和 Qwen模型現已在Amazon Bedrock Marketplace和Amazon SageMaker JumpStart中提供。

在最近的Amazon re:Invent大會上，亞馬遜 CEO安迪·賈西分享了公司在開發近1000個生成式 AI 應用程序過程中獲得的重要經驗。基于這一大規模 AI 部署的實踐，賈西提出了三個關鍵觀察，這些觀察塑造了亞馬遜在企業 AI 實施方面的策略。

首先，隨著生成式 AI 應用程序的規模擴大，計算成本變得至關重要。人們對更高的性價比有著極大的需求。其次，構建一個真正出色的生成式 AI 應用程序其實非常困難。第三，當我們讓開發者自由選擇他們想要使用的工具時，模型的多樣性就顯現出來。這一點并不讓我們感到意外，因為我們一再吸取同樣的教訓：永遠不會有一個工具能夠統治整個 AI 領域。

正如安迪所強調的，亞馬遜提供的廣泛而深入的模型系列使客戶能夠選擇最適合其獨特需求的精準能力。通過密切關注客戶需求和技術發展，亞馬遜云科技定期擴展我們精選的模型庫，既包括成熟行業寵兒，也囊括前景廣闊的新興模型。這種高性能和差異化模型產品的持續擴展，幫助客戶保持在 AI 創新最前沿。

這讓我們將目光轉向中國的 AI 初創公司深度求索（DeepSeek）。深度求索于 2024 年 12 月發布了 DeepSeek-V3，隨后在 2025 年 1 月 20 日推出了DeepSeek-R1、擁有 6710 億參數的 DeepSeek-R1-Zero，以及參數范圍在15億至 700 億之間的DeepSeek-R1-Distill模型。2025年1月 27日，他們又增加了基于視覺的Janus-Pro-7B模型。這些模型均公開可用，據報道，其性價比比同類模型高出90%至95%。據深度求索表示，其模型因其推理能力而脫穎而出，這得益于通過強化學習等創新訓練方法實現的突破。

如今，您可以在AmazonBedrock和Amazon SageMaker AI中部署 DeepSeek-R1 模型。Amazon Bedrock最適合希望通過API快速集成預訓練基礎模型的團隊。Amazon SageMaker AI則非常適合希望進行高級定制、訓練和部署，并能夠訪問底層基礎設施的組織。此外，您還可以使用Amazon Trainium和AmazonInferentia，通過Amazon Elastic Compute Cloud（Amazon EC2或Amazon SageMaker AI經濟高效地部署DeepSeek-R1-Distill模型。

通過 亞馬遜云科技，您可以使用DeepSeek-R1模型以最小的基礎設施投資構建、試驗并負責任地擴展生成式 AI 項目，得益于其強大的成本效益。您還可以基于 亞馬遜云科技專為安全設計的服務，自信地推動生成式AI創新。我們強烈建議將DeepSeek-R1模型的部署與Amazon Bedrock Guardrails集成，為您的生成式AI應用程序增加一層保護，該功能可供Amazon Bedrock和Amazon SageMaker AI客戶共同使用。

現在，您可以通過以下幾種方式在 亞馬遜云科技 上部署DeepSeek-R1模型： ?
1. 通過Amazon Bedrock Marketplace獲取DeepSeek-R1模型， ?
2. 通過Amazon SageMaker JumpStart獲取DeepSeek-R1模型， ?
3. 通過Amazon Bedrock自定義模型導入功能獲取DeepSeek-R1-Distill模型， ?
4. 通過Amazon EC2 Trn1實例獲取DeepSeek-R1-Distill模型。 ?

讓我為您詳細介紹在 亞馬遜云科技上開始使用DeepSeek-R1模型的各種路徑。無論您是構建首個 AI 應用程序還是擴展現有解決方案，這些方法都可以根據團隊的技能和需求提供靈活的起點。

1. Amazon Bedrock Marketplace中的DeepSeek-R1模型
Amazon Bedrock Marketplace提供了超過 100 個流行、新興和專業的基礎模型（FMs），同時與當前行業領先的模型一起供選擇。您可以輕松地在單一目錄中發現模型，訂閱模型，然后在托管的端點上部署模型。 ?

要訪問Amazon Bedrock Marketplace中的DeepSeek-R1模型，請進入Amazon Bedrock控制臺，在“基礎模型”部分選擇“模型目錄”。您可以通過搜索或按模型提供商篩選快速找到DeepSeek模型。

?在查看模型詳細信息頁面（包括模型的功能和實施指南）后，您可以直接部署模型，只需提供端點名稱、選擇實例數量并選擇實例類型即可。

您還可以配置高級選項，以自定義DeepSeek-R1模型的安全性和基礎設施設置，包括VPC網絡、服務角色權限和加密設置。對于生產部署，您應審查這些設置，以確保其符合您組織的安全性和合規性要求。

通過Amazon Bedrock Guardrails，您可以獨立評估用戶輸入和模型輸出。您可以通過生成式AI應用程序中過濾不良和有害內容，根據自定義的策略集控制用戶與DeepSeek-R1之間的交互。Amazon Bedrock Marketplace中的DeepSeek-R1模型只能與Bedrock的ApplyGuardrail API結合使用，以評估用戶輸入和模型響應，適用于Amazon Bedrock之外的自定義和第三方基礎模型（FMs）。了解更多信息，請閱讀[使用 Amazon Bedrock Guardrails 實施模型無關的安全措施](https://Amazon.amazon.com/cn/blogs/machine-learning/implement-model-independent-safety-measures-with-amazon-bedrock-guardrails/)。

Amazon Bedrock Guardrails還可以與其他Bedrock工具集成，包括Amazon Bedrock Agents和 Amazon Bedrock Knowledge Bases，以構建更安全、更符合負責任AI政策的生成式AI應用程序。了解更多信息，請訪問[亞馬遜云科技負責任AI頁面](https://Amazon.amazon.com/cn/machine-learning/responsible-ai/)。

2025年2月1日更新 — 您可以使用Bedrock的Playground功能，了解模型對各種輸入的響應方式，并優化提示詞以獲取最佳結果。

在使用DeepSeek-R1模型與Bedrock的Playground或InvokeModel API時，請使用DeepSeek的聊天模板以獲得最佳效果。例如:

<｜begin_of_sentence｜><｜User｜>content for inference<｜Assistant｜>.

2. Amazon SageMaker JumpStart中的DeepSeek-R1模型??
Amazon SageMaker JumpStart是一個機器學習（ML）中心，提供基礎模型（FMs）、內置算法和預構建的ML 解決方案，只需點擊幾下即可部署。要在SageMaker JumpStart中部署DeepSeek-R1模型，您可以在SageMaker Unified Studio、SageMaker Studio或SageMaker AI控制臺中發現該模型，或通過SageMaker Python SDK以編程方式查找。

在Amazon SageMaker AI控制臺中，打開SageMaker Studio，選擇JumpStart，然后在“所有公共模型”頁面中搜索“DeepSeek-R1”。

?選擇模型后，點擊“部署”即可使用默認設置創建端點。當端點狀態變為“InService”（服務中）時，您可以通過向其端點發送請求來進行推理。