langchain4j集成QWen、Redis聊天記憶持久化

? ? ? ? langchain4j實現聊天記憶默認是基于進程內存的方式,InMemoryChatMemoryStore是具體的實現了,是將聊天記錄到一個map中,如果用戶大的話,會造成內存溢出以及數據安全問題。位了解決這個問題 langchain4提供了ChatMemoryStore接口,讓開發者可以靈活的選擇存儲策略,常用的可以使用mysql、redis、mongodb等,本文以redis為例,集成百煉平臺通義千問實現大模型聊天記憶持久化。

?一、引入依賴

? ? ? ?具體詳情可參考官網

https://docs.langchain4j.dev/integrations/language-models/dashscope
    implementation group: 'org.springframework.boot', name: 'spring-boot-starter-data-redis', version: '3.4.0'// langchain4j AiService整合spring bootimplementation group: 'dev.langchain4j', name: 'langchain4j-spring-boot-starter', version: '1.0.0-beta4'// langchain4j整合千問dashscopeimplementation group: 'dev.langchain4j', name: 'langchain4j-community-dashscope-spring-boot-starter', version: '1.0.0-beta4'

? ? ? ? ? yaml配置

langchain4j:## https://docs.langchain4j.dev/integrations/language-models/dashscopecommunity:dashscope:chat-model:api-key: 百煉平臺申請model-name: qwen-plusspring:data:redis:host: server200port: 6379database: 3

二、持久化配置

? ? ? ? 官網參考地址https://docs.langchain4j.dev/tutorials/chat-memory/

@Configuration
public class ChatMemoryConf {/*** 聊天記錄持久化存儲到redis中* @param redisTemplate* @return*/public ChatMemoryStore chatMemoryStore(RedisTemplate<String,String>  redisTemplate){return  new ChatMemoryStore(){@Overridepublic List<ChatMessage> getMessages(Object memoryId) {String value = redisTemplate.opsForValue().get("chat:" + memoryId.toString());if(value == null || value.isEmpty()){return List.of();}return ChatMessageDeserializer.messagesFromJson(value);}@Overridepublic void updateMessages(Object memoryId, List<ChatMessage> list) {String messages = ChatMessageSerializer.messagesToJson(list);redisTemplate.opsForValue().set("chat:" + memoryId.toString(), messages);}@Overridepublic void deleteMessages(Object memoryId) {redisTemplate.delete("chat:" + memoryId.toString());}};}@Beanpublic ChatMemoryProvider chatMemoryProvider(RedisTemplate<String,String>  redisTemplate){return memoryId -> MessageWindowChatMemory.builder().maxMessages(10).id(memoryId).chatMemoryStore(chatMemoryStore(redisTemplate)).build();}}

三、創建AiService代理

? ? ? ?AiService的具體功能,可以看官網(https://docs.langchain4j.dev/tutorials/ai-services),上面有很詳細的解釋和示例

@AiService
public interface DashScopeAssistant {@SystemMessage("Answer using slang")String chat(@MemoryId String  chatId, @UserMessage  String userMessage);}

@Service
public class DashScopeChatMemoryService {private final static Logger LOGGER = LoggerFactory.getLogger(DashScopeChatMemoryService.class);private final DashScopeAssistant dashScopeAssistant;@Autowiredpublic DashScopeChatMemoryService(QwenChatModel qwenChatModel,ChatMemoryProvider chatMemoryProvider) {dashScopeAssistant =  AiServices.builder(DashScopeAssistant.class).chatMemoryProvider(chatMemoryProvider).chatModel(qwenChatModel).build();}public String persistentChat(String chatId, String userMessage){String chat = dashScopeAssistant.chat(chatId, userMessage);LOGGER.info("persistent chat output : {}" ,chat);return chat;}
}

?四、測試持久化

chatMemoryService.persistentChat("101", "我是趙光義");
chatMemoryService.persistentChat("101", "我是北宋的第二位皇帝,在高粱河被遼國打敗了");
chatMemoryService.persistentChat("101", "你知道為為什么叫車神嗎?");

? ? 通過斷點觀察,數據已經成功存入redis


?

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/905373.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/905373.shtml
英文地址,請注明出處:http://en.pswp.cn/news/905373.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Tomcat 日志體系深度解析:從訪問日志配置到錯誤日志分析的全鏈路指南

一、Tomcat 核心日志文件架構與核心功能 1. 三大基礎日志文件對比&#xff08;權威定義&#xff09; 日志文件數據來源核心功能典型場景catalina.out標準輸出 / 錯誤重定向包含 Tomcat 引擎日志與應用控制臺輸出&#xff08;System.out/System.err&#xff09;排查 Tomcat 啟…

萬物互聯時代:ONVIF協議如何重構安防監控系統架構

前言 一、ONVIF協議是什么 ONVIF&#xff08;Open Network Video Interface Forum&#xff0c;開放式網絡視頻接口論壇&#xff09;是一種全球性的開放行業標準&#xff0c;由安訊士&#xff08;AXIS&#xff09;、博世&#xff08;BOSCH&#xff09;和索尼&#xff08;SONY&…

leetcode - 雙指針問題

文章目錄 前言 題1 移動零&#xff1a; 思路&#xff1a; 參考代碼&#xff1a; 題2 復寫零&#xff1a; 思考&#xff1a; 參考代碼&#xff1a; 題3 快樂數&#xff1a; 思考&#xff1a; 參考代碼&#xff1a; 題4 盛最多水的容器&#xff1a; 思考&#xff1a;…

從概念表達到安全驗證:智能駕駛功能迎來系統性規范

隨著輔助駕駛事故頻發&#xff0c;監管機制正在迅速補位。面對能力表達、使用責任、功能部署等方面的新要求&#xff0c;行業開始重估技術邊界與驗證能力&#xff0c;數字樣機正成為企業合規落地的重要抓手。 2025年以來&#xff0c;圍繞智能駕駛功能的爭議不斷升級。多起因輔…

java數組題(5)

&#xff08;1&#xff09;&#xff1a; 思路&#xff1a; 1.首先要對數組nums排序&#xff0c;這樣兩數之間的差距最小。 2.題目要求我們通過最多 k 次遞增操作&#xff0c;使數組中某個元素的頻數&#xff08;出現次數&#xff09;最大化。經過上面的排序&#xff0c;最大數…

Python(1) 做一個隨機數的游戲

有關變量的&#xff0c;其實就是 可以直接打印對應變量。 并且最后倒數第二行就是可以讓兩個數進行交換。 Py快捷鍵“ALTP 就是顯示上一句的代碼。 —————————————————————————————— 字符串 用 雙引號或者單引號 。 然后 保證成雙出現即可 要是…

【認知思維】驗證性偏差:認知陷阱的識別與克服

什么是驗證性偏差 驗證性偏差&#xff08;Confirmation Bias&#xff09;是人類認知中最普遍、最根深蒂固的心理現象之一&#xff0c;指的是人們傾向于尋找、解釋、偏愛和回憶那些能夠確認自己已有信念或假設的信息&#xff0c;同時忽視或貶低與之相矛盾的證據。這種認知偏差影…

Wpf學習片段

IRegionManager 和IContainerExtension IRegionManager 是 Prism 框架中用于管理 UI 區域&#xff08;Regions&#xff09;的核心接口&#xff0c;它實現了模塊化應用中視圖&#xff08;Views&#xff09;的動態加載、導航和生命周期管理。 IContainerExtension 是依賴注入&…

消息~組件(群聊類型)ConcurrentHashMap發送

為什么選擇ConcurrentHashMap&#xff1f; 在開發聊天應用時&#xff0c;我們需要存儲和管理大量的聊天消息數據&#xff0c;這些數據會被多個線程頻繁訪問和修改。比如&#xff0c;當多個用戶同時發送消息時&#xff0c;服務端需要同時處理這些消息的存儲和查詢。如果用普通的…

Stapi知識框架

一、Stapi 基礎認知 1. 框架定位 自動化API開發框架&#xff1a;專注于快速生成RESTful API 約定優于配置&#xff1a;通過標準化約定減少樣板代碼 企業級應用支持&#xff1a;適合構建中大型API服務 代碼生成導向&#xff1a;顯著提升開發效率 2. 核心特性 自動CRUD端點…

基于深度學習的水果識別系統設計

一、選擇YOLOv5s模型 YOLOv5&#xff1a;YOLOv5 是一個輕量級的目標檢測模型&#xff0c;它在 YOLOv4 的基礎上進行了進一步優化&#xff0c;使其在保持較高檢測精度的同時&#xff0c;具有更快的推理速度。YOLOv5 的網絡結構更加靈活&#xff0c;可以根據不同的需求選擇不同大…

Spring Security與SaToken的對比

Spring Security與SaToken的詳細對照與優缺點分析 1. 核心功能與設計理念 對比維度Spring SecuritySaToken核心定位企業級安全框架&#xff0c;深度集成Spring生態&#xff0c;提供全面的安全解決方案&#xff08;認證、授權、攻擊防護等&#xff09;輕量級權限認證框架&#…

【docker】--鏡像管理

文章目錄 拉取鏡像啟動鏡像為容器連接容器法一法二 保存鏡像加載鏡像鏡像打標簽移除鏡像 拉取鏡像 docker pull mysql:8.0.42啟動鏡像為容器 docker run -dp 8080:8080 --name container_mysql8.0.42 -e MYSQL_ROOT_PASSWORD123123123 mysql:8.0.42 連接容器 法一 docker e…

力扣HOT100之二叉樹:543. 二叉樹的直徑

這道題本來想到可以用遞歸做&#xff0c;但是還是沒想明白&#xff0c;最后還是去看靈神題解了&#xff0c;感覺這道題最大的收獲就是鞏固了我對lambda表達式的掌握。 按照靈神的思路&#xff0c;直徑可以理解為從一個葉子出發向上&#xff0c;在某個節點處拐彎&#xff0c;然后…

web 自動化之 yaml 數據/日志/截圖

文章目錄 一、yaml 數據獲取二、日志獲取三、截圖 一、yaml 數據獲取 需要安裝 PyYAML 庫 import yaml import os from TestPOM.common import dir_config as Dirdef read_yaml(key,file_name"test_datas.yaml"):file_path os.path.join(Dir.testcases_dir, file_…

rtty操作記錄說明

rtty操作記錄說明 前言 整理資料發現了幾年前做的操作記錄&#xff0c;分享出來&#xff0c;希望對大家有用。 rtty-master&#xff1a;rtty客戶端程序&#xff0c;其中buffer\log\ssl為源碼的子目錄&#xff0c;從git上下載https://github.com/zhaojh329&#xff0c; rtty…

mybatis中${}和#{}的區別

先測試&#xff0c;再說結論 userService.selectStudentByClssIds(10000, "wzh or 11");List<StudentEntity> selectStudentByClssIds(Param("stuId") int stuId, Param("field") String field);<select id"selectStudentByClssI…

【運維】MacOS藍牙故障排查與修復指南

在日常使用macOS系統過程中&#xff0c;藍牙連接問題時有發生。無論是無法連接設備、連接不穩定還是藍牙功能完全失效&#xff0c;這些問題都會嚴重影響我們的工作效率。本文將分享一些實用的排查方法和修復技巧&#xff0c;幫助你解決macOS系統上的藍牙故障。 問題癥狀 常見…

數據結構(一) 緒論

一. 時間復雜度: (1)定義: 時間復雜度是衡量算法執行時間隨輸入規模(通常用n表示)增長的變化趨勢的指標,時間復雜度用O符號表示 用于描述算法在最壞情況下或平均情況下的時間需求 時間復雜度關注的是操作次數的增長率&#xff0c;而非具體執行時間 常見的時間復雜度由小到大依次…

網絡協議與系統架構分析實戰:工具與方法全解

網絡協議與系統架構分析實戰&#xff1a;工具與方法全解 在互聯網系統的開發、運維與安全分析中&#xff0c;協議解析與抓包分析是不可或缺的核心技能。本文將系統梳理主流協議解析工具、協議自動識別方案&#xff0c;并結合實際抓包案例&#xff0c;講解如何還原和推測底層系…