亞馬遜云科技在re:Invent 2023上宣布推出Amazon Bedrock更多模型選擇和強大功能,幫助客戶更輕松地構建和規模化針對其業務定制的生成式AI應用程序。
?Amazon Bedrock是一項全面托管的服務,用戶可輕松訪問來自AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜云科技的多種行業領先大語言模型和其他模型,以及客戶構建生成式AI應用程序所需的廣泛的功能,包括確保隱私和安全的同時簡化開發。
?此次發布進一步降低了生成式AI應用的門檻——為客戶提供了更多行業領先的模型選擇和評估模型新功能,以簡化客戶使用相關和專有數據定制模型的方式;提供自動執行復雜任務的工具;并為客戶配備了提供負責任地構建和部署應用程序的保障。Amazon Bedrock的這些新功能為千行百業、各種規模的企業應用生成式AI的方式都帶來改變,助力企業激發創新并重塑客戶體驗。
?Anthropic、Cohere、Meta和Stability AI的最新模型
?以及亞馬遜Titan的新增功能為客戶提供了更多模型選擇
?沒有一個模型適合所有場景。模型的功能、價格和性能都不盡相同。客戶需要輕松訪問各種模型選擇,多次嘗試和切換模型,最終選出最匹配需求的模型。
?借助Amazon Bedrock,客戶可以利用最新版本的模型快速創新,包括新推出的Anthropic Claude 2.1和Meta Llama 2 70B以及最近推出的Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed多語言模型——全部可通過API訪問。除了Amazon Titan Text Embeddings和Amazon Titan Text模型(現已全面可用)之外,亞馬遜云科技還提供了Titan Multimodal Embeddings和Amazon Titan Image Generator為客戶使用模型構建生成式AI應用程序提供更多選擇和靈活性。Amazon Titan模型由Amazon Bedrock獨家提供,由亞馬遜云科技在適用于各種用例的大型且多樣化的數據集上創建和預訓練,并內置對負責任地使用AI的支持。如果正式可用的Amazon Titan模型或其輸出的內容侵犯了第三方版權,亞馬遜云科技將對使用這些模型的客戶進行賠償。
-
Amazon Bedrock上的Anthropic Claude 2.1:
?Anthropic是一家從事AI安全和科研的公司,致力于構建可靠、可解釋和可控的AI系統。Anthropic已將其最新版本的語言模型Claude 2.1引入Amazon Bedrock。Claude 2.1提供了長達200,000個token的上下文窗口,并且提高了長文檔的準確性。客戶可以處理文本密集型文檔,例如財務報表和內部數據集。Claude 2.1能夠總結和對比文檔、進行問答等。Anthropic報告稱,與此前模型相比,Claude 2.1在開放式對話中的錯誤陳述減少了50%,錯誤陳述率減少了一半。
-
Amazon Bedrock上的Meta Llama 2 70B:
?Llama 2是Meta的下一代語言模型。Llama 2的訓練數據比Llama 1多40%,上下文長度是Llama 1的兩倍。除了最近發布的Llama 2 130億參數模型之外,Llama 2 700億參數模型也已在Amazon Bedrock上提供。Llama 2 Chat建立在預訓練的Llama模型之上,通過指令數據集和超過100萬條人工注釋進行調優,針對對話場景進行了優化。這些模型在多個外部基準測試中的表現卓越,包括推理、編碼、熟練程度和知識測試,并在Amazon Bedrock上提供了極高的性能價格組合。
-
新的Amazon Titan Image Generator現已推出預覽版:
?Amazon Titan Image Generator可幫助廣告、電子商務、媒體和娛樂等行業的客戶通過使用自然語言提示生成高質量、逼真的圖像或增強現有圖像,以便以低成本快速構思和大量迭代圖像。這一模型可以理解復雜的提示詞并生成相關圖像,且準確度較高很少失真,也不易含有有害內容,減少錯誤信息傳播。
?客戶可以在Amazon Bedrock控制臺中使用該模型,在配置維度參數并指定模型應生成變化圖像的數量之前,可以直接輸入自然語言提示來生成圖像或上傳圖像進行自動編輯。在編輯過程中,客戶可以隔離圖像的某些部分以添加或替換細節(例如,將沖浪板插入海灘場景或將汽車廣告背景中的高山替換為森林),或者他們可以使用其他與原作風格相同的細節擴展圖像的邊界。為了兌現亞馬遜云科技今年早些時候在白宮做出的承諾,所有Amazon Titan生成的圖像都包含不可見水印,以通過建立嚴謹的識別AI生成圖像的機制來幫助減少錯誤信息的傳播,促進AI技術的安全、可靠和透明發展。亞馬遜云科技是首批廣泛發布內置隱形水印的模型提供商之一,這些水印集成到輸出的圖像中,并設計為拒絕更改。
-
新的Amazon Titan Multimodal Embeddings現已正式可用:
?Amazon Titan Multimodal Embeddings可幫助客戶為最終用戶提高多模態搜索和推薦體驗,讓輸出結果更準確且與上下文相關。模型可以將圖像和短文本轉換為embedding數字表示形式,使模型能夠輕松理解語義以及數據之間的關系。最終用戶可以使用圖像和文本提示的任意組合進行搜索查詢。該模型將為搜索查詢生成嵌入,并將它們與已有的嵌入相匹配,以產生更相關的搜索和推薦結果。
?例如,擁有數億張圖像的圖庫攝影公司可以使用該模型來增強其搜索功能,這樣用戶就可以使用短語、圖像或圖像和文本的組合來搜索圖像(例如,“我要和這張照片類似的圖像,但天空是晴朗的”)。一般情況下,使用該模型生成向量非常適合于需要高準確度和快速響應的搜索場景。然而,客戶也可以生成更小的維度來優化速度和性能。Amazon Titan Text Embeddings模型可以將詞語、短句、長文檔等文本輸入轉化為嵌入(embeddings),用于搜索和個性化推薦等場景,這一模型加入了Amazon Titan Text Embeddings。
?新功能可幫助客戶高效評估、比較和選擇
?最適合其應用場景和業務需求的模型
?如今,企業擁有廣泛的模型選項來為其生成式AI應用程序提供支持。在具體應用場景中,為了在準確性和性能之間取得適當的平衡,企業必須有效地比較模型并根據其首選指標找到最佳選擇。為了比較模型,企業必須首先花幾天時間確定基準、設置評估工具并運行評估,所有這些都需要深厚的數據科學專業知識。此外,這些測試無法用于主觀標準的評估(例如,品牌聲量、相關性和風格),因為主觀標準需要通過繁瑣、耗時的人工審核進行判斷。對于每個新場景模型,這些比較所需的時間、專業知識和資源使企業望而卻步,從而限制了他們對生成式AI的使用。
?Amazon Bedrock中的模型評估功能現已推出預覽版,可幫助客戶使用自動或人工評估來評估、比較和選擇適合其特定應用場景的最佳模型。在Amazon Bedrock控制臺中,客戶可以選擇他們想要針對給定任務(例如問答或內容摘要)進行比較的模型。如需自動評估,客戶可以選擇預定義的評估標準(例如準確性、魯棒性和是否含有有害內容)并上傳自己的測試數據集或從內置的公開數據集中進行選擇。
?對于需要復雜判斷的主觀標準或細微內容,客戶只需點擊幾下即可輕松設置基于人工的評估工作流程。這些工作流程利用客戶的內部員工隊伍或使用亞馬遜云科技提供的員工隊伍來評估模型響應。在基于人的評估過程中,客戶可以定義特定的指標(例如,相關性、風格和品牌聲量)。客戶完成設置后,Amazon Bedrock就會運行評估并生成報告,以便客戶可以輕松了解模型在關鍵標準上的表現,并可以做出最佳權衡,從而快速選擇最適合其應用場景的模型。