????????關于openAI大模型如何使用？Azure OpenAI 是一套 AI 服務，允許你對數據應用自然語言算法，而無需任何數學、數據科學或機器學習的先驗知識。它可以幫助您使應用更加智能，而無需為自然語言編寫實際代碼。

二、什么是 Azure OpenAI?

2.1 網絡結構? ? ? ?

????????Azure OpenAI是指Microsoft Azure（云計算平臺）和OpenAI（人工智能研究組織）之間的協作。

2.2 、為什么使用 Azure OpenAI

????????它包括廣泛的功能，包括自然語言處理、計算機視覺、語音識別等。Azure OpenAI 的主要功能之一是它能夠使用高級語言模型生成高質量的、類似人類的文本。

借助 Azure OpenAI，可以利用這些語言模型對數據執行各種任務。

例如

1. 匯總大型文件或文檔
2. 提取最重要的信息并以簡潔的格式呈現。
3. Q&A App（詢問有關您的私人數據或公共數據（互聯網）的問題，并獲得基于最新可用信息的答案。
4. 自動生成代碼。
5. 分析和匯總其他類型的媒體，例如視頻或圖像文件。
6. 要求自然語言查詢到您的結構數據（幫助從英語文本構建 SQL 查詢并生成結果。
7. 編寫博客、電子郵件、測試用例、基于規范的示例數據和描述等。
8. 還有很多

2.3 如何使用 Azure OpenAI

????????Azure OpenAI 提供了一個 Web 應用，只需單擊幾下即可使用模型。此外，它還以 JSON 格式為您生成代碼，這可以幫助您更深入地理解它。該服務使用基于文本、代碼或嵌入構建的模型。您可以對您的私人數據或來自互聯網數據的公共數據應用簡單或語義搜索。

三、從哪里開始 Azure OpenAI 之旅

????????隨著你對 Azure OpenAI 的熟悉程度越來越高，你可以探索更高級的功能，例如 Azure 認知搜索和具有嵌入模型的矢量數據庫。

3.1 關于 Azure OpenAI，我還需要了解什么

????????若要充分利用 Azure OpenAI，需要 Azure 認知搜索或矢量數據庫。對于向量數據庫，還必須使用嵌入模型。

3.2 RBAC 權限和角色

3.3 演示 1：在公共數據上應用 Azure Open AI（通過 Internet）

讓我們在 Open Data 上創建 Azure OpenAI

通過執行這些步驟，用戶可以輕松了解設置、測試、部署和使用 Azure OpenAI 服務的過程。

1. 創建 Azure OpenAI 實例：Create Azure OpenAI Instance：第一步是設置 Azure OpenAI 實例。
2. 使用數學查詢進行測試：?使用搜索框輸入一個簡單的數學查詢，例如“2 + 2 =？”。驗證結果是否顯示為“4”。
3. 使用位置查詢進行測試：查詢當地信息，例如，“在北安普敦哪里可以搭乘火車？觀察并確認系統是否提供了北安普敦的火車位置地址。
4. 一鍵部署：如果你具有必要的權限，只需單擊一下即可部署 Azure OpenAI 實例，從而生成 Web 應用。請注意，您需要客戶端 ID 和密鑰，因此您需要創建應用程序注冊的權限，或者您需要擁有客戶端 ID
5. 自動代碼生成：?系統將自動生成各種格式的代碼片段，例如 JSON、C#、CURL 等。
6. 終結點和密鑰預配：?部署過程還將為你提供終結點和密鑰，使你能夠有效地調用 Azure OpenAI 服務。

3.3 演示 2：?在自己的數據（私有數據）上應用 Azure Open AI

????????讓我們使用存儲在 Azure Data Lake Gen2 中的自己的數據創建一個 Azure OpenAI 模型。

高級設計圖：

需要以下 Azure 資源：

1. 創建 Azure AI 搜索。
2. 使用容器創建 Azure Blob 存儲。

• 在 Azure 門戶中，創建新的?Azure Blob 存儲資源。
• 在存儲帳戶中，創建一個容器來保存文件（例如 PDF）。

3. 上傳PDF文件：

• 將所需的 *.pdf 文件上傳到在步驟 3 中創建的容器。

4. 創建 Azure OpenAI 實例。

5. 模型部署：

• 將經過訓練的模型部署到在步驟 4 中創建的 Azure OpenAI 實例。

6. Chat Playground — 添加您的數據：

• 訪問 Chat Playground 功能。
• 選擇“Azure Blob 存儲”作為數據源。
• 配置 Blob 存儲、容器和 Azure OpenAI 等屬性。
• 提供合適的索引名稱，然后選擇矢量搜索以外的選項。

7. 生成索引：

• 系統將根據您的配置生成索引。
• 可以在 Azure AI 服務中查看此索引。

8. 使用查詢進行測試：

• 使用基于您的數據的查詢（例如，“您能給我一份迪拜的酒店列表嗎？
• 系統將從存儲在 Azure Blob 存儲中的文件中檢索相關信息。

9. 一鍵部署：

• 如果具有必要的權限，只需單擊一下即可部署 Azure OpenAI 實例。
• 這將為你生成一個 Web 應用程序。
• 請注意，需要客戶端 ID?和機密。確保您有權創建應用注冊或獲取客戶端 ID。

10. 自動代碼生成：

• 系統將自動生成各種格式（JSON、C#、CURL等）的代碼片段，供您部署使用。
• 當您單擊 查看代碼 ，您還將在下面看到步驟 11 中需要的內容。

11. 端點和密鑰配置：

• 模型部署過程將為你提供終結點和密鑰。
• 可以使用這些來有效地調用 Azure OpenAI 服務。

四、如何使用無代碼方法將 Azure OpenAI 集成到 Azure 數據工廠管道、Azure Synapse 數據集成管道或 Microsoft Fabric 中

可以將 Azure OpenAI 用作 Rest API。讓我們看看如何使用 Azure 數據工廠使用它

• 在 ADF 管道中，添加?Web 活動。
• 配置 Web 活動以向 Azure OpenAI REST API 終結點發出 HTTP 請求。
• 將必要的參數（例如提示或輸入數據）傳遞給 API。
• 處理 ADF 管道中的響應。

????????注意 — 同樣的想法在 Azure Synapse 數據集成管道和 Microsoft Fabric 中有效

五、如何使用 Postman 測試 Azure OpenAI？

????????使用 Azure OpenAI Rest URL+Key +API version +Content-Type，可以按如下方式調用 Azure OpenAI 到 Postman。

六、幾個關鍵詞：

?大型語言模型 （LLM）：預構建模型 ChatGPT 和 GPT-4

?令牌：令牌是模型讀取或寫入的一段文本。例如，“hello”是一個標記，“.”是另一個標記。

?提示：提示是您作為輸入提供給模型的文本。例如，“寫一首關于愛情的詩”就是一個提示。

?完成：完成是模型根據提示作為輸出提供的文本。例如，“愛是一種充滿心靈的感覺/充滿喜悅、溫暖和光明”是一種完成。

?嵌入：嵌入是表示文本含義的數字。例如，“cat”的嵌入更接近于“dog”的嵌入，而不是“car”的嵌入。

?溫度：溫度是一個數字，用于控制模型輸出的創造性或可預測性。例如，在高溫下，模型可能會寫“愛是燃燒靈魂的火/充滿激情、憤怒和痛苦”。在低溫下，模型可能會寫“愛是連接兩個人的紐帶/帶著信任、尊重和關懷”。

七、幾個提示：

部署后的耐心：?在 Azure OpenAI 中部署模型后，必須耐心等待。有時，可能會出現最初的打嗝或錯誤。給它一點時間安頓下來并穩定下來。如果遇到任何問題，請定期刷新頁面以查看問題是否已解決。

語義搜索和索引設置：?將語義搜索與 Azure AI 搜索配合使用時，請確保為語義功能正確配置了搜索索引。

區域選擇：?為 Azure OpenAI 和 Azure AI 搜索選擇正確的區域。請記住，Azure OpenAI 可能并非在所有區域都可用。

Azure AI 搜索 SKU：Azure AI Search SKU：?設置 Azure AI 搜索時，請考慮至少使用基本 SKU。

AI 搜索的計劃選擇：?如果將“將自己的數據與 Azure AI 搜索配合使用”，請注意所選的搜索計劃。

YouTube錄制：待定

八、結論?

????????Azure OpenAI 是一個功能強大的平臺，提供對高級 AI 模型和工具的訪問。它可用于執行與數據分析和處理相關的各種任務，包括文本摘要、問答、代碼生成和媒體分析。通過利用 Azure OpenAI 的功能，企業和開發人員可以節省時間和資源，同時從數據中獲得有價值的見解。

九、其它文章

如何使用 Azure OpenAI 服務生成文本 — Azure OpenAI |Microsoft學習

如何使用 Python 在 OpenAI 和 Azure OpenAI 服務終結點之間切換 — Azure OpenAI 服務 |Microsoft學習

快速入門 - 開始將 GPT-35-Turbo 和 GPT-4 與 Azure OpenAI 服務配合使用 — Azure OpenAI 服務 |Microsoft學習