回顧2023 亞馬遜云科技 re_Invent，創新AI，一路同行

作為全球云計算龍頭企業的亞馬遜云科技于2023年11月27日至12月1日在美國拉斯維加斯舉辦了2023 亞馬遜云科技 re:Invent，從2012年開始舉辦的亞馬遜云科技 re:Invent 全球大會,到現如今2023 亞馬遜云科技 re:Invent，回顧歷屆re:Invent大會，亞馬遜云科技在每一屆大會上都會推出新產品，其推行的創新概念已日趨成為全球云計算行業創新的風向標。

數據規模拓展無極限，引領 Serverless 構建之路

亞馬遜云科技高級副總裁 – Peter 在re:Invent大會的第一天發布了數據庫和應用領域的三項 Serverless 創新，使客戶能夠更快、更輕松地擴展其數據基礎設施，以支持苛刻的業務用例。

老枝新芽？三大全新Serverless服務推出

**全新 Amazon Aurora Limitless Database **可自動擴展到每秒數百萬個寫入事務并管理 PB 級數據，同時保持操作單個數據庫的簡單性；
全新 Amazon ElastiCache Serverless 可以更快、更輕松地創建高可用緩存服務并立即擴展以滿足應用程序需求；
全新 Amazon Redshift Serverless 使用 AI 模型來預測工作負載并自動擴展和優化，提供高達10倍的性價比提升。

Amazon Aurora Limitless Database 數據拓展無極限

回顧近年來亞馬遜云科技在其龐大云服務體系上構建大規模的 Serverless 服務，有包括用于存儲的 Amazon S3、用于計算的 Amazon Lambda、以及用于數據庫的 Amazon DynamoDB。到后來2018年，亞馬遜云科技推出了 Amazon Aurora Serverless，它能夠根據工作負載需求自動無縫地調整數據庫容量，而無需對數據庫進行任何調整或故障切換。雖然推出了Amazon Aurora Serverless，但是Peter 得出結論：“我們仍然受到物理服務器大小的限制，這并不是 Serverless。但是，**數據庫分片是一種眾所周知的改進技術。考慮到將數據水平劃分為子集并將其分布到一堆物理上獨立的數據庫服務器（稱為分片），以利用單個服務器的數據庫性能。” ,所以亞馬遜云科技推出了全新 Amazon Aurora Limitless Database：客戶可輕松擴展其數據庫，突破單個服務器的容量限制，并通過數據庫分片實現高性能，**有了無限的數據庫，就無需擔心新增需要管理的新數據庫，您的應用程序只是一個可用的數據庫入口。

Amazon ElastiCache Serverless 即刻構建云上中堅力量

Amazon ElastiCache Serverless是一種新的無服務器選項，允許客戶在一分鐘內創建緩存并根據應用程序流量模式立即擴展容量。Amazon ElastiCache Serverless 與兩種流行的開源緩存解決方案 Redis 和 Memcached 兼容。
從作者本人的使用經驗來看，在以往使用Elasticache創建Redis或者Memcached的時候，都至少會等待4-5分鐘的時間，同時刪除也需要等待很長時間，若是針對于測試環境，是非常浪費時間的一個環節，那么現在Elaticache Serverless推出后，作者立刻就去體驗了一番Elasticache Serverless，實際上操作下來，其實啟動速度不一定是官方宣稱的1分鐘內，當然也有，但是大多數情況下是在1分鐘至2分鐘這個區間，創建的緩存數據庫才會變為可用狀態。
小節一下

速度確有提升，猜測可能是因為資源量的原因，導致可能速度不那么快
Serverless的一大特點就是自動拓展資源量，在默認情況下資源不設限，可自行增長。當然也給了客戶可選，自行設置最大資源量

Amazon Redshift Serverless AI助力，省時省力

亞馬遜云科技在2021年推出了**Amazon Redshift Serverless，**但是對于一些苛刻的工作負載，仍需要人工干預。Peter 通過介紹一些具有挑戰性的數據倉庫模式來展示這些問題

對于儀表板和報告的小型查詢，需要持續低于秒級的低延遲；
對于大型 ETL 批處理作業，需要在不干擾其他工作負載的情況下高效運行。這些作業可能處理數十億行；
對于特殊的復雜分析查詢，需要優化性能而不影響生產工作負載。這些查詢可能是典型查詢的10-100倍大小。

基于上述問題，亞馬遜云科技推出了一項新的**Amazon Redshift Serverless 功能：下一代 AI 驅動的擴展和優化。**該功能使用 AI 模型來預測工作負載并自動擴展和優化資源，將現有的基于查詢態的資源分配升級為基于查詢、數據量級計算復雜度等多方面維度，利用機器學習模型將計算資源動態分配，以幫助客戶實現性價比目標。

亞馬遜云科技在 Serverless 技術方面以開創性工作為基礎，旨在幫助客戶管理任何規模的數據并大幅簡化其運營，以便他們能夠專注于為最終用戶進行創新，而無需花費時間和精力來配置、管理和擴展其數據基礎設施。主要包含以下能力：

基于機器學習的預測模型，能夠預測未來工作負載模式并提前調整資源容量。
實時查詢分析器，利用機器學習估算每個查詢的資源需求并進行合理分配。該系統能分析每個查詢的超過50個獨特特征。
針對客戶需求，優化每個查詢以降低成本或提高性能。查詢具有線性、次線性和超線性等不同擴展模式。

軟硬兼施，AI加持，全棧生成式 AI 能力

亞馬遜云科技與 Anthropic 深化合作關系

Adam 強調了在快速發展的人工智能領域中，客戶靈活選擇權的重要性。為了實現這一目標，亞馬遜云科技持續拓展與業界領先的創新公司，比如開創性的 AI 初創公司 Anthropic 的合作。通過與 Anthropic 建立新的合作關系，后者將利用亞馬遜云科技的專用機器學習芯片 Trainium 來訓練他們的下一代復雜 Claude 模型。Amazon Bedrock 的客戶還將享有獨家早期使用權，體驗其他地方無法使用的先進 Claude 定制和微調模型功能。

Amazon AI 再發力！

Amazon Bedrock 發布更多模型選擇和全新開發工具，助力安全構建和規模化生成式 AI 應用

Amazon Bedrock 現已支持新推出的基礎模型版本包括：Anthropic Claude 2.1、Meta Llama 2 70B 以及 Amazon Titan Family 等

Amazon Bedrock 全新功能，包括模型的微調、檢索增強生成（RAG）以及基于 Amazon Titan 大模型的預訓練

在生成式 AI 的頂層，另一個關鍵層面是通過 Amazon Bedrock 為客戶提供簡單快速和安全地訪問各種基礎模型的 API 的途徑。Amazon Bedrock 在兩個月前推出，已經吸引了超過10,000名來自各個行業的活躍客戶使用它來快速構建和擴展生成式 AI 應用。Adam 也發布了 Amazon Bedrock 的全新功能，包括模型的微調、檢索增強生成（RAG）以及基于 Amazon Titan 大模型的預訓練。

Agents for Amazon Bedrock

**借助全新 GA 的 Agents for Amazon Bedrock，用戶可以通過簡單的幾個步驟創建和部署完全托管式的 Agent，通過動態調用 API 來執行復雜的業務任務。**Amazon Bedrock 可以根據用戶提供的自然語言指令完成任務所需的 API 架構。

Guardrails for Amazon Bedrock

在亞馬遜云科技，我們致力于以負責任的方式開發 AI，Adam 本次針對生成式 AI 的安全，全新發布 Guardrails for Amazon Bedrock 預覽版，根據應用程序需求和 AI 政策定制保障措施。Guardrails 可以跨基礎模型，為所有應用程序提供一致的 AI 安全級別，阻止生成式 AI 應用程序中不需要的話題，根據 AI 策略過濾有害內容等。生成式 AI 一定要是安全的，是負責任的，這是亞馬遜云科技的 Job Zero。

全新一代 Graviton 處理器 —— Amazon Graviton4

回顧近幾屆亞馬遜云科技Re:Invent大會，幾乎都會推出硬件

2018 年，AWS 發布了適用于開源和非性能關鍵型腳本工作負載的第一個版本的 Graviton，作為其 A1 實例系列的一部分。
2019 年 12 月第二代 AWS Graviton2 發布，作為其第六代實例中的第一個，AWS 承諾與第五代 Intel 和 AMD 實例相比，性價比提高 40%，平均降低 72%在功耗方面。
2022 年 5 月，AWS 提供了 Graviton3 處理器作為其第七代 EC2 實例的一部分，計算性能比 Graviton2 進一步提高了 25%。

如今，2023年亞馬遜云科技Re:Invent推出全新一代Graviton—Amazon Graviton 4：96 個 Neoverse V2 內核、每個內核 2MB 的 L2 緩存和 12 個 DDR5-5600 通道共同作用，使得 Graviton4 與 Graviton3 相比，處理數據庫的速度提升多達 40%，處理 Web 應用程序的速度提升 30%，處理大型 Java 應用程序的速度提升 45%。
對于支持Amazon Graviton 4的R8G實例將提供多種大小，與第 7 代基于 Graviton3 的內存優化型實例（R7g）相比，具有 3 倍的 vCPU 數量和 3 倍的內存量。
亞馬遜云科技計算和網絡副總裁 David Brown 表示：“通過將我們的芯片設計重點放在對客戶重要的實際工作負載上，我們能夠為他們提供最先進的云基礎設施。” “Graviton4 標志著我們在短短五年內推出的第四代芯片，是我們為廣泛的工作負載打造的最強大、最節能的芯片。”

注:表中以"/"填充的表示作者沒有找到相關數據進行填充

處理器	Graviton1	Graviton2	Graviton3(E)	Graviton4
實例	A1	M6g/M6gd
C6g/C6gd/C6gn
R6g/R6gd
T4g
X2gd
G5g
I4g/Im4gn/Is4gen	C7g/C7gd/C7gn
M7g/M7gd
R7g/R7gd
Hpc7g	R8G
核心	Cortex-A72	Neoverse-N1	Neoverse-V1	Neoverse V2
最大頻率	2000MHz	2500MHz	2600MHz
架構修訂	ARMv8.0	ARMv8.2-a	ARMv8.4-a	ARMv9.0-A
核心數	16	64	64	96
L1緩存（每個核心）	48KB inst / 32KB data	64KB inst / 64KB data	64KB inst / 64KB data	/
L2緩存（每個核心）	512KB	1MB	1MB	2MB
LLC（共享）	/	32MB	32MB	/
DRAM	/	8x DDR4	8x DDR5	12x DDR5-5600
DDR加密	/	yes	yes	/

全新一代 Amazon Trainium2 芯片

**基于訓練芯片 Trainium 的成功經驗，Adam 正式發布了全新一代 Trainium2 芯片。**它擁有數千億甚至數萬億個參數的基礎模型訓練做了優化，性能比上一代芯片提高到4倍，擁有65 EFlops 可以按需提供性能支持。明星生成式 AI 企業 Anthropic 計劃用 Trainium2 芯片構建模型。

在進行創新的時候，我們會在各種不同的 FM 還有 API 之間交互，Amazon Bedrock 能夠提供各式各樣模型，例如 AI21 labs、Anthropic、Cohere、Meta，還有 Amazon Titan 模型。此外亞馬遜云科技也是首個集成 Meta Llama 2 模型的云廠商。

亞馬遜云科技成為首家推出 NVIDIA GH200 NVL32 實例的云廠商

NVIDIA 創始人、CEO Jensen Huang 宣布，亞馬遜云科技成為首家推出 NVIDIA GH200 NVL32 實例的云廠商。這款實例帶有32個 GH200 超級芯片，它們之間通過高達 900GB/s NVLink 網絡進行互聯，形成一個具有高達 20TB 共享內存的實例，可用于加速訓練具有1萬億參數的 AI 大模型

有Q必有A，亞麻家王炸產品Amazon Q

有問題必定有答案，亞馬遜云科技在2023 Re:Invent上推出王炸產品 **Amazon Q：**一款基于生成式人工智能（AI）的新型助手，專為輔助工作而設計，可以針對客戶的業務量身定制，可為開發人員和 IT 專業人員提供支持，可在 AWS 的多個領域提供，無論您在哪里工作，都可以快速訪問答案和創意
提供多種功能和使用場景

借助 Amazon Q，AI 專家將隨時待命，回答問題、更快地編寫代碼、排查問題、優化工作負載，甚至可以幫助您編寫新功能。這些功能簡化了在 AWS 上構建應用程序的所有階段的工作。
如果需要額外的幫助，Amazon Q 還支持您直接從 Q 界面與 AWS Support 座席進行互動，從而消除客戶自助服務體驗中的任何難題。與 AWS Support 的集成在控制臺中提供，并提供 AWS Support 套餐中包含的權益。

亞馬遜云科技的技術哲學

Amazon CTO Werner Vogels 博士今年在 re:Invent 上的主題演講，以一種特殊的角度將亞馬遜作為一個最佳實踐，向我們展示了如何設計出成本優先的技術架構。

“在商業活動中識別最有盈利潛力的領域，并以此為中心來構建和優化整個業務架構。” 這句話其實在某種程度上也昭示了亞馬遜的技術哲學，即技術總是圍繞商業來構建的，它的目的也是讓商業運轉得更具效率。這樣就不難看出為什么是亞馬遜首先將云技術普及給了用戶，并且它一直代表了云技術領域最先進的思潮。

第一法則：將成本視作一種非功能性需求
在設計、開發和運營系統時，要在早期就開始以及持續考慮成本問題，以平衡功能、上線時間和效率。
第二法則：系統的耐久性取決于其成本與業務模型的匹配度
設計與業務模式的盈利杠桿相契合的系統，以利用規模經濟，順勢而為，確保收益的同時不斷成長。無限制的增長若沒有盈利將削弱價值。
第三法則：架構設計就是一系列取舍的集合
每個設計決策都伴隨著權衡。定期重新評估技術和商業上的權衡，投入資源以滿足業務需求至關重要。
第四法則：無法觀察的系統將帶來無法估量的成本
盡管監控系統需要前期投資，但它們讓組織能夠精準找出浪費的行為，優化工作流程，并將資源有序地用于優先級高的事情。
第五法則：成本感知架構實現成本控制
有了強大的監控體系，您可以在發現改進機會的領域采取行動。通過實施細致的控制，您可以在成本與用戶體驗之間取得最佳平衡。
第六法則：成本優化是漸進的過程
追求成本效率是一個持續的過程。監控您的系統以了解其模式并消除低效率。持續優化需要重新審視系統，以找到更多的改進空間。
第七法則：未經挑戰的成功會導致盲目自信
持續質疑過去有效的方法。重新審視先前成功的方法和工具。正如 Grace Hopper（著名計算機科學家，COBOL 之母）所說，英語中最危險的短語之一是：“我們一直都是這樣做的”。

展望未來

從2020年開始，亞馬遜云科技就開始對來年進行預測，并積極應對未來的發展

對于2021：從學校教育到太空：關于技術將如何在來年繼續改變我們的生活的八個預測

云將無處不在
機器學習的互聯網
2021年，圖片、視頻、音頻將勝過文字
技術將像數字世界一樣改變我們的物理世界
遠程學習在教育中贏得一席之地
小型企業將競相向云計算，東南亞和撒哈拉以南非洲地區將引領潮流
量子計算開始蓬勃發展

對于2022：

人工智能支持的軟件開發占據主導地位
無處不在的云有優勢
智能空間的興起，尤其是在老年護理領域
可持續發展有自己的架構
新的連接浪潮將帶來新的應用類別

對于2023：

云技術將重新定義我們所知道的體育運動
模擬世界將重塑我們的實驗方式
智能能源創新浪潮
即將到來的供應鏈轉型
定制芯片成為主流

對于2024

生成式 AI 將逐漸具備文化意識
女性科技終于騰飛
AI 助手重塑開發者生產力
教育變革緊跟科技創新步伐

從近幾年的預測以及社會發展，足見亞馬遜云科技對于未來的深謀遠見，在應對未來的發展也一直在做出積極響應，自研芯片、助力教育和女性發展、加速AI創新等等。

活動預告：2023 亞馬遜云科技 re:Invent 中國行 —— 10個城市巡展來了

為進一步將 2023 亞馬遜云科技 re:Invent 精華內容以及體驗帶給中國客戶與云計算愛好者，我們特舉辦2023亞馬遜云科技 re:Invent 中國行活動！城市巡展將覆蓋北京、上海、廣州、深圳、成都、青島、南京、西安、杭州、長沙10個城市。誠邀您體驗最新技術和產品，感知運用 AI 解決方案提升技能構建新應用，實現行業賦能獲取實踐成果。全球盛會，中國共享，亞馬遜云科技期待您的蒞臨！

2023亞馬遜云科技 re:Invent 中國行之re:Invent 2023 主題演講分享

在2023亞馬遜云科技 re:Invent 中國行城市巡展中，我們還將邀請到神秘重磅嘉賓，帶你全景解讀2023亞馬遜云科技 re:Invent 的眾多重磅發布及應用創新！想要緊跟大咖腳步，全面探索大會前沿？分享不容錯過，敬請期待！

2023亞馬遜云科技 re:Invent 中國行之解鎖北京站隱藏彩蛋

在城市巡展中，北京站還精心準備了面向業務/技術決策者的生成式 AI 入門的早鳥課程。本課程將為大家提供生成式 AI 的概覽，以及規劃生成式 AI 項目和建立生成式 AI 準備組織的方法。學員可以了解什么是生成式 AI、它如何解決高管的擔憂和難題，以及它如何助力業務增長，如何為大量行業帶來革命性巨變。