一、Spring AI 簡介
SpringAI整合了全球(主要是國外)的大多數大模型,而且對于大模型開發的三種技術架構都有比較好的封裝和支持,開發起來非常方便。
不同的模型能夠接收的輸入類型、輸出類型不一定相同。SpringAI根據模型的輸入和輸出類型不同對模型進行了分類:
二、AI大模型簡介
通常發布大模型的官方、大多數的云平臺都會提供開放的、公共的大模型服務。這里我們看一些國內提供大模型服務的云平臺:
云平臺 | 公司 | 地址 |
---|---|---|
阿里百煉 | 阿里巴巴 | https://bailian.console.aliyun.com |
騰訊TI平臺 | 騰訊 | https://cloud.tencent.com/product/ti |
千帆平臺 | 百度 | https://console.bce.baidu.com/qianfan/overview |
SiliconCloud | 硅基流動 | https://siliconflow.cn/zh-cn/siliconcloud |
火山方舟-火山引擎 | 字節跳動 | https://www.volcengine.com/product/ark |
這些開放平臺并不是免費,而是按照調用時消耗的token來付費,每百萬token通常在幾毛~幾元錢,而且平臺通常都會贈送新用戶百萬token的免費使用權。
調用大模型,我們通過訪問模型對外暴露的API接口,實現與大模型的交互。
我們以DeepSeek官方給出的文檔為例:
# Please install OpenAI SDK first: `pip3 install openai`from openai import OpenAI# 1.初始化OpenAI客戶端,要指定兩個參數:api_key、base_url
client = OpenAI(api_key="<DeepSeek API Key>", base_url="https://api.deepseek.com")# 2.發送http請求到大模型,參數比較多
response = client.chat.completions.create(model="deepseek-chat", # 2.1.選擇要訪問的模型messages=[ # 2.2.發送給大模型的消息{"role": "system", "content": "You are a helpful assistant"},{"role": "user", "content": "Hello"},],stream=False # 2.3.是否以流式返回結果
)print(response.choices[0].message.content)