文章目錄
- 亞馬遜云科技全面托管DeepSeek-R1模型現已上線
- 在Amazon Bedrock中開始使用DeepSeek-R1模型
- DeepSeek-R1現已可用
亞馬遜云科技全面托管DeepSeek-R1模型現已上線
亞馬遜云科技提供眾多免費云產品，可以訪問：亞馬遜云科技
截至1月30日，DeepSeek-R1模型通過Amazon Bedrock Marketplace和Amazon Bedrock Custom Model Import在Amazon Bedrock中正式可用。此后，數千名客戶已在Amazon Bedrock中部署了這些模型。客戶們非常看重其強大的防護措施和全面的工具支持，以確保AI的安全部署。今天，我們通過擴展選項范圍，包括全新的無服務器解決方案，進一步簡化了在Amazon Bedrock中使用DeepSeek的流程。
完全托管的DeepSeek-R1模型現已在Amazon Bedrock中全面可用。亞馬遜網絡服務（亞馬遜云科技）是首家以完全托管形式提供DeepSeek-R1模型的云服務提供商（CSP）。可以在亞馬遜云科技上使用DeepSeek加速創新并交付切實的商業價值，而無需管理基礎設施的復雜性。通過Amazon Bedrock的完全托管服務，只需使用單個API即可為生成式AI應用程序提供DeepSeek-R1的功能支持，并享受其豐富的功能和工具帶來的優勢。
根據DeepSeek的說法，他們的模型在MIT許可下公開可用，具備強大的推理、編碼和自然語言理解能力。這些能力支持智能決策、軟件開發、數學問題解決、科學分析、數據洞察以及全面的知識管理系統。
與所有AI解決方案一樣，在生產環境中實施時需謹慎考慮數據隱私要求，檢查輸出中的偏差，并監控結果。在實施像DeepSeek-R1這樣的公開模型時，請考慮以下幾點：
數據安全 – 可以利用Amazon Bedrock的企業級安全、監控和成本控制功能，這些功能對于負責任地大規模部署AI至關重要，同時可以完全掌控數據。用戶的輸入和模型輸出不會與任何模型提供商共享。可以默認使用這些關鍵安全功能，包括靜態和傳輸中的數據加密、細粒度訪問控制、安全連接選項，并在與Amazon Bedrock中的DeepSeek-R1模型通信時下載各種合規性認證。
負責任的AI – 可以通過Amazon Bedrock Guardrails根據應用需求和負責任的AI政策實施定制的防護措施。這包括內容過濾、敏感信息過濾以及可定制的安全控制等關鍵功能，通過上下文 grounding 和自動化推理檢查防止幻覺（hallucination）。這意味著可以通過定義的政策集控制用戶與Bedrock中DeepSeek-R1模型的交互，過濾掉不受歡迎和有害的內容。
模型評估 – 可以通過Amazon Bedrock model evaluation tools在幾步之內評估和比較模型，以確定適合用例的最佳模型（包括DeepSeek-R1）。可以選擇使用預定義指標（如準確性、魯棒性和毒性）進行自動評估，或者選擇基于主觀或自定義指標（如相關性、風格和品牌聲音一致性）的人工評估流程。模型評估提供內置的精選數據集，也可以引入自己的數據集。
我們強烈推薦將Amazon Bedrock Guardrails和Amazon Bedrock model evaluation features與DeepSeek-R1模型集成，以為生成式AI應用程序提供強大的保護。欲了解更多信息，請訪問Protect your DeepSeek model deployments with Amazon Bedrock Guardrails和Evaluate the performance of Amazon Bedrock resources。
在Amazon Bedrock中開始使用DeepSeek-R1模型
如果是DeepSeek-R1模型的新用戶，請前往Amazon Bedrock console，在左側導航欄中選擇“Bedrock configurations”下的“Model access”。要訪問完全托管的DeepSeek-R1模型，請在DeepSeek中為DeepSeek-R1請求訪問權限。隨后，將在Amazon Bedrock中獲得對該模型的訪問權限。
- 訪問DeepSeek-R1模型
接下來，要在Amazon Bedrock中測試DeepSeek-R1模型，請在左側菜單欄中選擇“Playgrounds”下的“Chat/Text”。然后在左上角選擇“Select model”，選擇“DeepSeek”作為類別，“DeepSeek-R1”作為模型，然后點擊“Apply”。
- 選擇DeepSeek-R1模型
使用選定的DeepSeek-R1模型，我運行了以下提示示例：
一個家庭有5000美元用于明年度假的儲蓄。他們可以將錢存入年利率2%的儲蓄賬戶，或者存入年利率4%的定期存款，但在這之前無法動用資金。如果他們在一年中需要1000美元的緊急支出，他們應如何在兩種選擇之間分配資金，以最大化他們的度假基金？
這個提示需要復雜的思維鏈，并產生非常精確的推理結果。
- 在Chat Playground中測試DeepSeek-R1
要了解更多關于提示使用建議的信息，請參閱DeepSeek-R1 model prompt guide。
通過選擇“View API request”，還可以使用Amazon Command Line Interface (Amazon CLI)和Amazon SDK中的代碼示例訪問模型。可以使用“us.deepseek.r1-v1:0”作為模型ID。
以下是Amazon CLI命令示例：
aws bedrock-runtime invoke-model \--model-id us.deepseek.r1-v1:0 \--body "{\"prompt\": \"<｜begin_of_sentence｜><｜User｜>Type_Your_Prompt_Here<｜Assistant｜><think>\n\", \"max_tokens\": 512, \"temperature\": 0.5, \"top_p\": 0.9}" \--cli-binary-format raw-in-base64-out \--region us-west-2 \invoke-model-output.txt
該模型同時支持InvokeModel和Converse API。以下Python代碼示例展示了如何使用Amazon Bedrock Converse API向DeepSeek-R1模型發送文本消息以進行文本生成。欲了解更多信息，請訪問DeepSeek model inference parameters and responses。
import boto3
from botocore.exceptions import ClientError# 在想使用的亞馬遜云科技區域創建一個Bedrock Runtime客戶端。
client = boto3.client("bedrock-runtime", region_name="us-west-2")# 設置模型ID，例如DeepSeek-R1模型。
model_id = "us.deepseek.r1-v1:0"# 開始與用戶消息的對話。
user_message = "Type_Your_Prompt_Here"
conversation = [{"role": "user","content": [{"text": user_message}],}
]try:# 使用基本推理配置將消息發送到模型。response = client.converse(modelId=model_id,messages=conversation,inferenceConfig={"maxTokens": 512, "temperature": 0.5, "topP": 0.9},)# 提取并打印響應文本。response_text = response["output"]["message"]["content"][0]["text"]print(response_text)except (ClientError, Exception) as e:print(f"ERROR: Can't invoke '{model_id}'. Reason: {e}")exit(1)
要為DeepSeek-R1模型啟用Amazon Bedrock Guardrails，在左側導航欄中選擇“Safeguards”下的“Guardrails”，通過配置所需數量的過濾器創建防護欄。例如，如果過濾“politics”這個詞，防護欄將識別提示中的這個詞并顯示被阻止的消息。
可以使用不同的輸入測試防護欄，以評估其性能。可以通過設置禁止主題、詞語過濾器、敏感信息過濾器和阻止消息來調整防護欄，直到滿足需求。
要了解更多關于Amazon Bedrock Guardrails的信息，請訪問Stop harmful content in models using Amazon Bedrock Guardrails或亞馬遜云科技機器學習博客頻道上關于Amazon Bedrock Guardrails的其他深入博客文章。
以下是展示如何利用Amazon Bedrock中完全托管的DeepSeek-R1模型的演示演練：
DeepSeek-R1現已可用
DeepSeek-R1現已在Amazon Bedrock中以完全托管形式提供，支持美國東部（弗吉尼亞北部）、美國東部（俄亥俄州）和美國西部（俄勒岡州）亞馬遜云科技區域，通過跨區域推理提供服務。請查看完整的區域列表以獲取未來更新。欲了解更多信息，請查看DeepSeek in Amazon Bedrock product page和Amazon Bedrock pricing page。
立即在Amazon Bedrock console中試用DeepSeek-R1模型，并通過Amazon re:Post for Amazon Bedrock或常用的亞馬遜云科技支持聯系方式發送反饋。
— Channy
2025年3月10日更新 — 修復了模型選擇和模型ID的截圖。
2025年3月13日更新 — 添加了DeepSeek-R1 model prompt guide和DeepSeek model inference parameters and responses的指南鏈接。
亞馬遜云科技的免費云產品，助您零成本開啟云計算之旅，探索無限可能！
)
