阿里云百煉通義大模型

阿里云百煉通義大模型

  • Part one(阿里云百煉大模型)
  • 一、什么是百煉
    • (一)調用大模型
  • 二、支持的大模型
  • 三、模型總覽
  • 四、為什么選擇百煉?
  • 五、開始使用百煉
  • Part two
  • 一、開發參考
  • 二、模型調用
    • (一)通義千問API參考
      • 1.文本輸入
      • 2.流式輸出
      • 3.圖像輸入
      • 4.視頻輸入
      • 5.工具調用
      • 6.聯網搜索
      • 7.異步調用
      • 8.文檔理解
      • 9.文字提取


Part one(阿里云百煉大模型)

阿里云百煉通義大模型企業級服務平臺,助力企業輕松打造最優落地效果的AI應用

一、什么是百煉

阿里云的大模型服務平臺百煉是一站式的大模型開發及應用構建平臺。不論是開發者還是業務人員,都能深入參與大模型應用的設計和構建。您可以通過簡單的界面操作,在5分鐘內開發出一款大模型應用,或在幾小時內訓練出一個專屬模型,從而將更多精力專注于應用創新。

(一)調用大模型

只需如下幾行代碼,即可與大模型進行對話,實現內容創作、摘要生成等。

百煉兼容OpenAI接口規范,base_url為https://dashscope.aliyuncs.com/compatible-mode/v1
import os
from openai import OpenAIclient = OpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"), # 如何獲取API Key:https://help.aliyun.com/zh/model-studio/developer-reference/get-api-keybase_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)completion = client.chat.completions.create(model="qwen-plus", # 模型列表:https://help.aliyun.com/zh/model-studio/getting-started/modelsmessages=[{'role': 'system', 'content': 'You are a helpful assistant.'},{'role': 'user', 'content': '你是誰?'}]
)
print(completion.choices[0].message.content)

二、支持的大模型

旗艦模型通義千問-Max適合復雜任務,推理能力最強通義千問-Plus效果、速度、成本均衡通義千問-Turbo適合簡單任務,速度快、成本極低通義千問-Long適合大規模文本分析,效果與速度均衡、成本較低
最大上下文長度(Token數)32,768131,0721,000,00010,000,000

Token是指模型處理和生成文本時的基本單元,中文的Token通常是一個字或詞,英文的Token通常是一個單詞、子詞或詞組。

除了上述文生文的通義大模型,百煉還支持圖像、音視頻、數學、法律等方面的通義大模型。

同時,百煉也支持眾多第三方大模型,例如DeepSeek、Llama、ChatGLM、零一萬物、Stable Diffusion等。

關于所有模型以及詳細信息,請參見模型總覽。

三、模型總覽

類別模型說明
文本生成通義千問通義千問大語言模型:商業版(通義千問-Max、通義千問-Plus、通義千問-Turbo)、開源版(QwQ、Qwen2.5、Qwen2、Qwen1.5、Qwen)、超長文檔模型Qwen-Long;多模態模型:視覺理解模型通義千問VL、音頻理解模型通義千問Audio、全模態模型通義千問Omni;數學模型:通義千問數學模型;代碼模型:通義千問Coder;翻譯模型:通義千問翻譯模型
文本生成第三方模型DeepSeek、Llama、百川、ChatGLM、零一萬物等。
圖像生成通義萬相通義千問大語言模型:商業版(通義千問-Max、通義千問-Plus、通義千問-Turbo)、開源版(QwQ、Qwen2.5、Qwen2、Qwen1.5、Qwen)、超長文檔模型Qwen-Long;多模態模型:視覺理解模型通義千問VL、音頻理解模型通義千問Audio、全模態模型通義千問Omni;數學模型:通義千問數學模型;代碼模型:通義千問Coder;翻譯模型:通義千問翻譯模型 可生成圖像或編輯圖像,適用于生成證件照、電商主圖、模特圖、各種風格人像圖(動漫、國風、二次元等),也可用于摳圖、生成背景、更改圖片元素等。
圖像生成第三方模型Stable Diffusion和FLUX。
語音合成與識別語音合成CosyVoice和Sambert可實現文本轉語音,適用于智能語音客服、有聲讀物、車載導航、教育輔導等場景。
語音合成與識別語音識別Paraformer 和 SenseVoice 可實現語音轉文本,適用于實時會議記錄、實時直播字幕、電話客服等場景。
視頻編輯與生成其他(1)舞蹈視頻:舞動人像AnimateAnyone基于人物圖片和動作視頻生成舞蹈視頻。(2)對口型視頻:悅動人像EMO基于人物圖片和音頻,適合唱演場景。靈動人像LivePortrait基于人物圖片和音頻,適合語音播報場景。聲動人像VideoRetalk基于人物視頻和音頻,適合短視頻制作、視頻翻譯等場景。(3)風格替換:幻影人像Motionshop將視頻中的人物形象替換為3D角色。視頻風格重繪可將視頻轉換為日式漫畫、美式漫畫等風格。
向量文本向量CosyVoice和Sambert可實現文本轉語音,適用于智能語音客服、有聲讀物、車載導航、教育輔導等場景。
向量多模態向量Paraformer 和 SenseVoice 可實現語音轉文本,適用于實時會議記錄、實時直播字幕、電話客服等場景。
行業通義法睿適用于法律咨詢、案例分析和法規解讀等。
行業意圖理解意圖理解模型能夠在毫秒級時間內解析用戶意圖,并選擇合適工具來解決用戶問題。

四、為什么選擇百煉?

  • 豐富的模型選擇:百煉提供通義千問商業版的官方API接口,同時支持主流第三方大模型,涵蓋文本、圖像、音視頻等模態,并提供行業定制化模型。
  • 便捷的開發工具:百煉提供的Prompt自動優化、知識庫管理、函數調用、流程編排、模型定制等能力,能幫助您更快地構建一個生產級別的大模型應用。
  • 更低的使用成本:相比本地部署大模型,您無需在前期投入巨額成本來購置硬件,后期也無需考慮硬件的維護和折舊。只需按實際用量付費,可顯著降低成本。
  • 嚴格的數據保護:阿里云嚴格保護數據隱私,絕不會將您的數據用于模型訓練。同時,您在構建應用或訓練大模型過程中傳輸的數據都會經過加密,確保數據安全。

五、開始使用百煉

  • 在線體驗大模型:模型體驗

  • 發起第一個API請求:首次調用通義千問API

  • 構建第一個大模型應用:0代碼構建私有知識問答應用


Part two

一、開發參考

# 安裝或更新DashScope SDK
pip install dashscope -i https://pypi.tuna.tsinghua.edu.cn/simple

二、模型調用

(一)通義千問API參考

金融云:使用 SDK 調用時需配置的 base_url:

https://dashscope-finance.aliyuncs.com/compatible-mode/v1

公有云:使用SDK調用時需配置的base_url:

https://dashscope.aliyuncs.com/compatible-mode/v1

1.文本輸入

import os
from openai import OpenAIclient = OpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"), base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(model="qwen-plus", # 此處以qwen-plus為例,可按需更換模型名稱。模型列表:https://help.aliyun.com/zh/model-studio/getting-started/modelsmessages=[{'role': 'system', 'content': 'You are a helpful assistant.'},{'role': 'user', 'content': '你是誰?'}],)print(completion.model_dump_json())

2.流式輸出

import os
from openai import OpenAIclient = OpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"),base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(model="qwen-plus",  # 此處以qwen-plus為例,可按需更換模型名稱。模型列表:https://help.aliyun.com/zh/model-studio/getting-started/modelsmessages=[{'role': 'system', 'content': 'You are a helpful assistant.'},{'role': 'user', 'content': '你是誰?'}],stream=True,stream_options={"include_usage": True})
for chunk in completion:print(chunk.model_dump_json())

3.圖像輸入

import os
from openai import OpenAIclient = OpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"),base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(model="qwen-vl-plus",  # 此處以qwen-vl-plus為例,可按需更換模型名稱。模型列表:https://help.aliyun.com/zh/model-studio/getting-started/modelsmessages=[{"role": "user","content": [{"type": "text","text": "這是什么"},{"type": "image_url","image_url": {"url": "https://dashscope.oss-cn-beijing.aliyuncs.com/images/dog_and_girl.jpeg"}}]}])
print(completion.model_dump_json())

4.視頻輸入

import os
from openai import OpenAIclient = OpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"),base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(# 此處以qwen-vl-max-latest為例,可按需更換模型名稱。模型列表:https://help.aliyun.com/zh/model-studio/getting-started/modelsmodel="qwen-vl-max-latest",messages=[{"role": "user","content": [{"type": "video","video": ["https://img.alicdn.com/imgextra/i3/O1CN01K3SgGo1eqmlUgeE9b_!!6000000003923-0-tps-3840-2160.jpg","https://img.alicdn.com/imgextra/i4/O1CN01BjZvwg1Y23CF5qIRB_!!6000000003000-0-tps-3840-2160.jpg","https://img.alicdn.com/imgextra/i4/O1CN01Ib0clU27vTgBdbVLQ_!!6000000007859-0-tps-3840-2160.jpg","https://img.alicdn.com/imgextra/i1/O1CN01aygPLW1s3EXCdSN4X_!!6000000005710-0-tps-3840-2160.jpg"]},{"type": "text","text": "描述這個視頻的具體過程"}]}]
)
print(completion.model_dump_json())

5.工具調用

import os
from openai import OpenAIclient = OpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"),base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",  # 填寫DashScope SDK的base_url
)tools = [# 工具1 獲取當前時刻的時間{"type": "function","function": {"name": "get_current_time","description": "當你想知道現在的時間時非常有用。","parameters": {}  # 因為獲取當前時間無需輸入參數,因此parameters為空字典}},  # 工具2 獲取指定城市的天氣{"type": "function","function": {"name": "get_current_weather","description": "當你想查詢指定城市的天氣時非常有用。","parameters": {  "type": "object","properties": {# 查詢天氣時需要提供位置,因此參數設置為location"location": {"type": "string","description": "城市或縣區,比如北京市、杭州市、余杭區等。"}},"required": ["location"]}}}
]
messages = [{"role": "user", "content": "杭州天氣怎么樣"}]
completion = client.chat.completions.create(model="qwen-plus",  # 此處以qwen-plus為例,可按需更換模型名稱。模型列表:https://help.aliyun.com/zh/model-studio/getting-started/modelsmessages=messages,tools=tools
)print(completion.model_dump_json())

6.聯網搜索

import os
from openai import OpenAIclient = OpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"), base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",  # 填寫DashScope服務的base_url
)
completion = client.chat.completions.create(model="qwen-plus",  # 此處以qwen-plus為例,可按需更換模型名稱。模型列表:https://help.aliyun.com/zh/model-studio/getting-started/modelsmessages=[{'role': 'system', 'content': 'You are a helpful assistant.'},{'role': 'user', 'content': '中國隊在巴黎奧運會獲得了多少枚金牌'}],extra_body={"enable_search": True})
print(completion.model_dump_json())

7.異步調用

import os
import asyncio
from openai import AsyncOpenAI
import platformclient = AsyncOpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"),base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)async def main():response = await client.chat.completions.create(messages=[{"role": "user", "content": "你是誰"}],model="qwen-plus",  # 此處以qwen-plus為例,可按需更換模型名稱。模型列表:https://help.aliyun.com/zh/model-studio/getting-started/models)print(response.model_dump_json())if platform.system() == "Windows":asyncio.set_event_loop_policy(asyncio.WindowsSelectorEventLoopPolicy())
asyncio.run(main())

8.文檔理解

import os
from pathlib import Path
from openai import OpenAIclient = OpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"),base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
file_object = client.files.create(file=Path("百煉系列手機產品介紹.docx"), purpose="file-extract")
completion = client.chat.completions.create(model="qwen-long",  # 模型列表:https://help.aliyun.com/zh/model-studio/getting-started/modelsmessages=[{'role': 'system', 'content': f'fileid://{file_object.id}'},{'role': 'user', 'content': '這篇文章講了什么?'}]
)
print(completion.model_dump_json())

9.文字提取

# pip install -U openai
import os
from openai import OpenAIclient = OpenAI(# 若沒有配置環境變量,請用百煉API Key將下行替換為:api_key="sk-xxx",api_key=os.getenv("DASHSCOPE_API_KEY"),base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(model="qwen-vl-ocr",  # 模型列表:https://help.aliyun.com/zh/model-studio/getting-started/modelsmessages=[{"role": "user","content": [{"type": "image_url","image_url": "https://help-static-aliyun-doc.aliyuncs.com/file-manage-files/zh-CN/20241108/ctdzex/biaozhun.jpg","min_pixels": 28 * 28 * 4,"max_pixels": 1280 * 784},# 目前為保證識別效果,模型內部會統一使用"Read all the text in the image."作為text的值,用戶輸入的文本不會生效。{"type": "text", "text": "Read all the text in the image."},]}])print(completion.model_dump_json())

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/70094.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/70094.shtml
英文地址,請注明出處:http://en.pswp.cn/web/70094.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Golang學習筆記_33——橋接模式

Golang學習筆記_30——建造者模式 Golang學習筆記_31——原型模式 Golang學習筆記_32——適配器模式 文章目錄 橋接模式詳解一、橋接模式核心概念1. 定義2. 解決的問題3. 核心角色4. 類圖 二、橋接模式的特點三、適用場景1. 多維度變化2. 跨平臺開發3. 動態切換實現 四、與其他…

低代碼(Low Code)全解析:從概念到應用,從選擇到價值

?在數字化浪潮席卷全球的當下,企業對軟件開發的效率與靈活性愈發重視,低代碼平臺應運而生并迅速掀起技術熱潮。 本文基于筆者 6 年的低代碼實踐經驗,深入剖析低代碼的諸多方面,涵蓋其定義、發展歷程、國內平臺對比、開發流程、與…

函數重載講解

雖然在初識C-CSDN博客中介紹過,但還是感覺要單發出來大概講解下 什么是函數重載? 函數重載是指在同一個作用域內,函數名相同,但它們的 參數列表 不同。C 允許你根據函數的參數個數、類型或者順序的不同來定義多個同名函數。編譯…

14-H指數

給你一個整數數組 citations ,其中 citations[i] 表示研究者的第 i 篇論文被引用的次數。計算并返回該研究者的 h 指數。 根據維基百科上 h 指數的定義:h 代表“高引用次數” ,一名科研人員的 h 指數 是指他(她)至少發…

關于es6-module的語法

ES6(ECMAScript 2015)引入了模塊化的概念,旨在使 JavaScript 更加模塊化、可維護和可重用。ES6 模塊允許我們在不同的文件中組織和管理代碼,使得不同模塊之間的依賴關系更加清晰。 1. 導出(Export) 1.1 命…

Chrome多開終極形態解鎖!「窗口管理工具+IP隔離插件

Web3項目多開,繼ads指紋瀏覽器錢包被盜后,更多人采用原生chrome瀏覽器,當然對于新手,指紋瀏覽器每月成本也是一筆不小開支,今天逛Github發現了這樣一個解決方案,作者開發了窗口管理工具IP隔離插件&#xff…

DeepSeek核心算法解析:如何打造比肩ChatGPT的國產大模型

注:此文章內容均節選自充電了么創始人,CEO兼CTO陳敬雷老師的新書《自然語言處理原理與實戰》(人工智能科學與技術叢書)【陳敬雷編著】【清華大學出版社】 文章目錄 DeepSeek大模型技術系列一DeepSeek核心算法解析:如何…

arm 入坑筆記

1.開發環境(IDE)使用keil_5 (keil_mdk) 2.兩個手冊需要關注:用戶手冊(編程需要),數據手冊(硬件) 3.32bit地址空間:0~2^324GB尋址空間及(0-FFFF_FFFF&#x…

弱監督語義分割學習計劃(0)-計劃制定

經過與deepseek的一番討論和交流,DeepSeek為我設計了一個30天高強度學習計劃,重點聚焦弱監督/無監督語義分割在野外場景的應用,結合理論與實踐,并最終導向可落地的開源項目。以下是詳細計劃: 總體策略 優先級排序&…

vscode遠程報錯:Remote host key has changed,...

重裝了Ubuntu系統之后,由20.04改為22.04,再用vscode遠程,就出現了以上報錯。 親測有效的辦法 gedit ~/.ssh/known_hosts 打開這個配置文件 刪掉與之匹配的那一行,不知道刪哪一行的話,就打開第一行這個 /.ssh/confi…

Python - 爬蟲利器 - BeautifulSoup4常用 API

文章目錄 前言BeautifulSoup4 簡介主要特點:安裝方式: 常用 API1. 創建 BeautifulSoup 對象2. 查找標簽find(): 返回匹配的第一個元素find_all(): 返回所有匹配的元素列表select_one() & select(): CSS 選擇器 3. 訪問標簽內容text 屬性: 獲取標簽內純文本get_t…

DeepSeek驅動下的數據倉庫范式轉移:技術解耦、認知重構與治理演進

DeepSeek驅動下的數據倉庫范式轉移:技術解耦、認知重構與治理演進 ——基于多場景實證的架構革命研究 一、技術解耦:自動化編程范式的演進 1.1 語義驅動的ETL生成機制 在金融風控場景中,DeepSeek通過動態語法樹解析(Dynamic Syn…

代碼隨想錄算法訓練營day38(補0206)

如果求組合數就是外層for循環遍歷物品,內層for遍歷背包。 如果求排列數就是外層for遍歷背包,內層for循環遍歷物品。 1.零錢兌換 題目 322. 零錢兌換 給你一個整數數組 coins ,表示不同面額的硬幣;以及一個整數 amount &#xff0c…

golang channel底層實現?

底層數據實現 type hchan struct { qcount uint // 當前隊列中的元素數量 dataqsiz uint // 環形隊列的大小 buf unsafe.Pointer // 指向環形隊列的指針 elemsize uint16 // 元素大小 closed uint32 // chan…

圖的最小生成樹算法: Prim算法和Kruskal算法(C++)

上一節我們學習了最短路徑算法, 這一節來學習最小生成樹. 最小生成樹(Minimum Spanning Tree, MST)算法是圖論中的一種重要算法, 主要用于在加權無向圖中找到一棵生成樹, 使得這棵樹包含圖中的所有頂點, 并且所有邊的權重之和最小. 這樣的樹被稱為最小生成樹. 最小生成樹廣泛應…

矩陣系統源碼搭建的數據管理開發功能解析,支持OEM

一、引言 在矩陣系統中,數據猶如血液,貫穿整個系統的運行。高效的數據管理開發功能是確保矩陣系統穩定、可靠運行的關鍵,它涵蓋了數據的存儲、處理、安全等多個方面。本文將深入探討矩陣系統源碼搭建過程中數據管理功能的開發要點。 二、數據…

DeepSeek 助力 Vue 開發:打造絲滑的日期選擇器(Date Picker),未使用第三方插件

前言:哈嘍,大家好,今天給大家分享一篇文章!并提供具體代碼幫助大家深入理解,徹底掌握!創作不易,如果能幫助到大家或者給大家一些靈感和啟發,歡迎收藏關注哦 💕 目錄 Deep…

操作系統知識點2

1.P,V操作可以實現進程同步,進程互斥,進程的前驅關系 2.先來先服務調度算法是不可搶占的算法 3.UNIX操作系統中,對文件系統中空閑區的管理通常采用成組鏈接法 4.對于FAT32文件系統,它采用的是鏈接結構 5.不同的I/O…

【個人開發】deepspeed+Llama-factory 本地數據多卡Lora微調【完整教程】

文章目錄 1.背景2.微調方式2.1 關鍵環境版本信息2.2 步驟2.2.1 下載llama-factory2.2.2 準備數據集2.2.3 微調模式2.2.3.1 zero-1微調2.2.3.2 zero-2微調2.2.3.3 zero-3微調2.2.3.4 單卡Lora微調 2.2.4 實驗2.2.4.1 實驗1:多GPU微調-zero12.2.4.2 實驗2:…

iOS 中使用 FFmpeg 進行音視頻處理

在 iOS 中使用 FFmpeg 進行音視頻處理,通常需要將 FFmpeg 的功能集成到項目中。由于 FFmpeg 是一個 C 庫,直接在 iOS 中使用需要進行一些配置和封裝。 1. 在 iOS 項目中集成 FFmpeg 方法 1:使用 FFmpeg 預編譯庫 下載 FFmpeg iOS 預編譯庫: 可以從以下項目中獲取預編譯的 …