Chainlit 快速構建Python LLM應用程序

背景

chainlit 是一款簡單易用的Web UI goggle,它支持使用 Python 語言快速構建 LLM 應用程序,提供了豐富的功能,包括文本分析,情感分析等。
這里我們以官網openai提供的例子,快速的開發一個帶有UI的聊天界面,且支持MCP方式。
鑒于國內需要VPN訪問openai的模型問題, 我們以 chainlit + deepseek(openai) 的方式進行演練。

獲取deepseek apikey

通過deepseek官網登陸 獲取到apikey ,對于api的調用的話,這里也提供了一些案例

結合OpenAi

from openai import AsyncOpenAI
import chainlit as cl
client = AsyncOpenAI(api_key='xxx', base_url='https://api.deepseek.com/v1')# Instrument the OpenAI client
cl.instrument_openai()settings = {"model": "deepseek-reasoner"# "temperature": 0,# ... more settings
}@cl.on_message
async def on_message(message: cl.Message):response = await client.chat.completions.create(messages=[{"content": "你是個很有幫助的機器人,總是又中文回復","role": "system"},{"content": message.content,"role": "user"}],stream=True,**settings)await cl.Message(content=response.choices[0].message.content).send()

這里面的 api_key 用你在deepeeek 申請到的 api_key替換即可。

用一下命令運行:

chainlit run app.py -w --port 8010

訪問http://localhost:8010,接下來就可以進行交互了

在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/76208.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/76208.shtml
英文地址,請注明出處:http://en.pswp.cn/web/76208.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

華為OD機試真題——硬件產品銷售方案(2025A卷:100分)Java/python/JavaScript/C++/C語言/GO六種最佳實現

2025 A卷 100分 題型 本文涵蓋詳細的問題分析、解題思路、代碼實現、代碼詳解、測試用例以及綜合分析; 并提供Java、python、JavaScript、C、C語言、GO六種語言的最佳實現方式! 2025華為OD真題目錄全流程解析/備考攻略/經驗分享 華為OD機試真題《硬件產品…

【數據結構_6】雙向鏈表的實現

一、實現MyDLinkedList(雙向鏈表) package LinkedList;public class MyDLinkedList {//首先我們要創建節點(因為雙向鏈表和單向鏈表的節點不一樣!!)static class Node{public String val;public Node prev…

做Data+AI的長期主義者,加速全球化戰略布局

在Data與AI深度融合的新紀元,唯有秉持長期主義方能真正釋放數智化的深層價值。2025年是人工智能從技術爆發轉向規模化落地的關鍵節點,也是標志著袋鼠云即將迎來十周年的重要里程碑。2025年4月16日,袋鼠云成功舉辦了“做DataAI的長期主義者——…

構建基于PHP和MySQL的解夢系統:設計與實現

引言 夢境解析一直是人類心理學和文化研究的重要領域。隨著互聯網技術的發展,構建一個在線的解夢系統能夠幫助更多人理解自己夢境的含義。本文將詳細介紹如何使用PHP和MySQL構建一個功能完整的解夢系統,包括系統架構設計、數據庫模型、核心功能實現以及優化策略。 本文源碼下…

【桌面】【系統應用】Samba共享文件夾

目錄 場景一:銀河麒麟桌面與銀河麒麟桌面之間共享文件夾 環境準備 實現目標 操作步驟 (一)配置主機A共享文件夾 1、環境準備 2、在主機A創建共享文件夾 3、設置共享文件密碼 (二)主機B訪問主機A 場景二&…

OpenCV 圖形API(37)圖像濾波-----分離過濾器函數sepFilter()

操作系統:ubuntu22.04 OpenCV版本:OpenCV4.9 IDE:Visual Studio Code 編程語言:C11 算法描述 應用一個可分離的線性濾波器到一個矩陣(圖像)。 該函數對矩陣應用一個可分離的線性濾波器。也就是說,首先&a…

webpack理解與使用

一、背景 webpack的最初目標是實現前端工程的模塊化,旨在更高效的管理和維護項目中的每一個資源。 最早的時候,我們通過文件劃分的方式實現模塊化,也就是將每個功能及其相關狀態數據都放在一個JS文件中,約定每個文件就是一個獨立…

rac環境下,增加一個控制文件controlfile

先關閉節點二,在節點一上操作 1、查看控制文件個數和路徑 SQL> show parameter control 2、備份參數文件 SQL> create pfile/home/oracle/orcl.pfile20250417 from spfile; 3、修改控制文件參數 SQL> alter system set contr…

git安裝(windows)

通過網盤分享的文件:資料(1) 鏈接: https://pan.baidu.com/s/1MAenYzcQ436MlKbIYQidoQ 提取碼: evu6 點擊next 可修改安裝路徑 默認就行 一般從命令行調用,所以不用創建。 用vscode,所以這么選擇。

Spring Boot整合難點?AI一鍵生成全流程解決方案

在當今的軟件開發領域,Spring Boot 憑借其簡化開發流程、快速搭建項目的優勢,成為了眾多開發者的首選框架。然而,Spring Boot 的整合過程并非一帆風順,常常會遇到各種難點。而飛算 JavaAI 的出現,為解決這些問題提供了…

Python批量處理PDF圖片詳解(插入、壓縮、提取、替換、分頁、旋轉、刪除)

目錄 一、概述 二、 使用工具 三、Python 在 PDF 中插入圖片 3.1 插入圖片到現有PDF 3.2 插入圖片到新建PDF 3.3 批量插入多張圖片到PDF 四、Python 提取 PDF 圖片及其元數據 五、Python 替換 PDF 圖片 5.1 使用圖片替換圖片 5.2 使用文字替換圖片 六、Python 實現 …

山東大學軟件學院創新項目實訓開發日志(15)之中醫知識問答歷史對話查看bug處理后端信息響應成功但前端未獲取到

在開發中醫知識問答歷史對話查看功能的時候,出現了前后端信息獲取異同的問題,在經過非常非常非常艱難的查詢之后終于解決了這一問題,而這一問題的罪魁禍首就是后端沒有setter和getter方法!!!!&a…

Arkts應用全局UI狀態存儲和持久化V2(AppStorageV2、PersistenceV2和@Type)

目錄 應用全局UI狀態存儲和持久化V2版本 AppStorageV2 connect remove keys 示例 使用限制 PersistenceV2 connect remove keys save notifyOnError 示例 使用限制 Type 使用限制 應用全局UI狀態存儲和持久化V2版本 以下實例AppStorageV2、PersistenceV2和裝飾…

最大子序和問題——動態規劃/貪心算法解決

目錄 一:問題描述 二:解決思路1——動態規劃思想 三:C 語言代碼實現 四:復雜度分析 五:解決思路2——貪心算法思想 六:具體步驟 七: C語言代碼實現 八:復雜度分析 一:問題描述 …

【Python入門】文件讀取全攻略:5種常用格式(csv/excel/word/ppt/pdf)一鍵搞定 | 附完整代碼示例

大家好,我是唐叔!今天給大家帶來一篇Python文件讀取的終極指南。無論是數據分析、辦公自動化還是爬蟲開發,文件讀取都是Python程序員必須掌握的核心技能。本文將詳細介紹Python處理5大常用文件格式的方法,包含完整可運行的代碼示例…

四、小白如何用Pygame制作一款跑酷類游戲(頁面暫停和主角跑步動作的實現)

四、小白如何用Pygame制作一款跑酷類游戲(頁面暫停和主角跑步動作的實現) 提示:寫完文章后,目錄可以自動生成,如何生成可參考右邊的幫助文檔 文章目錄 四、小白如何用Pygame制作一款跑酷類游戲(頁面暫停和主…

《基于 RNN 的股票預測模型代碼優化:從重塑到直接可視化》

在深度學習領域,使用循環神經網絡(RNN)進行股票價格預測是一個常見且具有挑戰性的任務。本文將圍繞一段基于 RNN 的股票預測代碼的改動前后差別展開,深入剖析代碼的優化思路和效果。 原始代碼思路與問題 原始代碼實現了一個完整…

Lambda 函數與 peek 操作的使用案例

Lambda 函數和 peek 操作是 Java 8 Stream API 中非常有用的特性&#xff0c;下面我將介紹它們的使用案例。 Lambda 函數使用案例 Lambda 表達式是 Java 8 引入的一種簡潔的匿名函數表示方式。 集合操作 List<String> names Arrays.asList("Alice", "B…

Docker私有倉庫頁面訪問實現

通過 docker run -d -p 5000:5000 --name registry registry:2 命令搭建的Docker私有倉庫默認不提供網頁訪問界面。它是一個基于API的后端服務&#xff0c;主要用于鏡像的存儲和管理。但可以通過以下兩種方式實現網頁訪問&#xff1a; 一、通過第三方Web UI工具擴展 1. 使用 D…

[王陽明代數講義]語言模型核心代碼調研

語言模型核心代碼調研 基于Consciciteation?的才氣張量持續思考綜述將文本生成建模為才氣張量網絡擴散過程&#xff0c;實現非自回歸推理通過才氣張量的群-拓撲流形交叉注意力實現多模態推理&#xff0c;將輸入壓縮到低維空間持續迭代提出「條件計算提前終止」機制&#xff0c…