背景
chainlit 是一款簡單易用的Web UI goggle,它支持使用 Python 語言快速構建 LLM 應用程序,提供了豐富的功能,包括文本分析,情感分析等。
這里我們以官網openai提供的例子,快速的開發一個帶有UI的聊天界面,且支持MCP方式。
鑒于國內需要VPN訪問openai的模型問題, 我們以 chainlit + deepseek(openai) 的方式進行演練。
獲取deepseek apikey
通過deepseek官網登陸 獲取到apikey ,對于api的調用的話,這里也提供了一些案例
結合OpenAi
from openai import AsyncOpenAI
import chainlit as cl
client = AsyncOpenAI(api_key='xxx', base_url='https://api.deepseek.com/v1')# Instrument the OpenAI client
cl.instrument_openai()settings = {"model": "deepseek-reasoner"# "temperature": 0,# ... more settings
}@cl.on_message
async def on_message(message: cl.Message):response = await client.chat.completions.create(messages=[{"content": "你是個很有幫助的機器人,總是又中文回復","role": "system"},{"content": message.content,"role": "user"}],stream=True,**settings)await cl.Message(content=response.choices[0].message.content).send()
這里面的 api_key 用你在deepeeek 申請到的 api_key替換即可。
用一下命令運行:
chainlit run app.py -w --port 8010
訪問http://localhost:8010,接下來就可以進行交互了