01. 摘要緩沖混合記憶

摘要緩沖混合記憶中，所需的模塊有：

1. chat_message_history：存儲歷史消息列表。
2. moving_summary_buffer：移除消息的匯總字符串。
3. summary_llm：生成摘要的 LLM，接收 summary（當前摘要）、query（人類提問）、content（AI生成）。
4. max_tokens：限制記憶模塊存儲消息的最大 token 數。
5. get_num_tokens：用于統計傳入的文本的 token 數

02. ChatGPT/Playground 模擬

將記憶的?max_tokens?長度設置為 300，模擬所需物料：

1. ChatGPT 官網：https://chatgpt.com/（無痕模式）
2. OpenAI Tokenizer：https://platform.openai.com/tokenizer

人類提問

你是由OpenAI開發的聊天機器人，請幫助用戶回答問題。

摘要: -

消息列表: -

用戶的提問是: 你好，我是好好，喜歡唱跳rap打籃球，你是誰？你喜歡什么呢？

AI 回復內容：

你好，好好！我是ChatGPT，一個由OpenAI訓練的大型語言模型。很高興認識你！我沒有像人類一樣的個人喜好，但我喜歡幫助人們解決問題、回答問題和分享知識。你提到喜歡唱跳rap和打籃球，感覺你生活非常豐富多彩！你有特別喜歡的歌手或者籃球隊嗎？

聊天消息列表：

Human: 你好，我是好好，喜歡唱跳rap打籃球，你是誰？你喜歡什么呢？

AI: 你好，好好！我是ChatGPT，一個由OpenAI訓練的大型語言模型。很高興認識你！我沒有像人類一樣的個人喜好，但我喜歡幫助人們解決問題、回答問題和分享知識。你提到喜歡唱跳rap和打籃球，感覺你生活非常豐富多彩！你有特別喜歡的歌手或者籃球隊嗎？

人類提問：

你是由OpenAI開發的聊天機器人，請幫助用戶回答問題。

摘要: -

消息列表:

Human: 你好，我是好好，喜歡唱跳rap打籃球，你是誰？你喜歡什么呢？

AI: 你好，好好！我是ChatGPT，一個由OpenAI訓練的大型語言模型。很高興認識你！我沒有像人類一樣的個人喜好，但我喜歡幫助人們解決問題、回答問題和分享知識。你提到喜歡唱跳rap和打籃球，感覺你生活非常豐富多彩！你有特別喜歡的歌手或者籃球隊嗎？

用戶的提問是: 你能用一段話快速解釋下LLM是什么嗎？

AI 回復內容：

大型語言模型（LLM）是一種通過大量文本數據訓練的人工智能模型，能夠理解和生成自然語言文本。它應用于寫作輔助、語言翻譯、對話系統和問答系統等自然語言處理任務，表現出高水平的語言理解和生成能力。

聊天消息列表：

Human: 你好，我是好好，喜歡唱跳rap打籃球，你是誰？你喜歡什么呢？

AI: 你好，好好！我是ChatGPT，一個由OpenAI訓練的大型語言模型。很高興認識你！我沒有像人類一樣的個人喜好，但我喜歡幫助人們解決問題、回答問題和分享知識。你提到喜歡唱跳rap和打籃球，感覺你生活非常豐富多彩！你有特別喜歡的歌手或者籃球隊嗎？

Human: 你能用一段話快速解釋下LLM是什么嗎？

AI: 大型語言模型（LLM）是一種通過大量文本數據訓練的人工智能模型，能夠理解和生成自然語言文本。它應用于寫作輔助、語言翻譯、對話系統和問答系統等自然語言處理任務，表現出高水平的語言理解和生成能力。

max_tokens 長度超過 300，觸發總結，并刪除超過長度的消息組(AI和Human)。

總結 Prompt

你是一個強大的聊天機器人，請根據用戶提供的談話內容，總結內容，并將其添加到先前提供的摘要中，返回一個新的摘要。

<example>

當前摘要: 人類會問人工智能對人工智能的看法。人工智能認為人工智能是一股向善的力量。

新的談話內容：

Human: 為什么你認為人工智能是一股向善的力量？

AI: 因為人工智能將幫助人類充分發揮潛力。

新摘要: 人類會問人工智能對人工智能的看法。人工智能認為人工智能是一股向善的力量，因為它將幫助人類充分發揮潛力。

</example>

當前摘要: -

新的對話內容:

Human: 你好，我是好好，喜歡唱跳rap打籃球，你是誰？你喜歡什么呢？

AI: 你好，好好！我是ChatGPT，一個由OpenAI訓練的大型語言模型。很高興認識你！我沒有像人類一樣的個人喜好，但我喜歡幫助人們解決問題、回答問題和分享知識。你提到喜歡唱跳rap和打籃球，感覺你生活非常豐富多彩！你有特別喜歡的歌手或者籃球隊嗎？

摘要總結內容

好好介紹自己喜歡唱跳rap和打籃球，并問AI的喜好。AI自我介紹為ChatGPT，一個由OpenAI訓練的大型語言模型，喜歡幫助人們解決問題、回答問題和分享知識。AI還問好好是否有特別喜歡的歌手或籃球隊。

記憶：

摘要: 好好介紹自己喜歡唱跳rap和打籃球，并問AI的喜好。AI自我介紹為ChatGPT，一個由OpenAI訓練的大型語言模型，喜歡幫助人們解決問題、回答問題和分享知識。AI還問好好是否有特別喜歡的歌手或籃球隊。

消息列表:

Human: 你能用一段話快速解釋下LLM是什么嗎？

AI: 大型語言模型（LLM）是一種通過大量文本數據訓練的人工智能模型，能夠理解和生成自然語言文本。它應用于寫作輔助、語言翻譯、對話系統和問答系統等自然語言處理任務，表現出高水平的語言理解和生成能力。

再次提問：

你是由OpenAI開發的聊天機器人，請幫助用戶回答問題。

摘要: 好好介紹自己喜歡唱跳rap和打籃球，并問AI的喜好。AI自我介紹為ChatGPT，一個由OpenAI訓練的大型語言模型，喜歡幫助人們解決問題、回答問題和分享知識。AI還問好好是否有特別喜歡的歌手或籃球隊。

消息列表:

Human: 你能用一段話快速解釋下LLM是什么嗎？

AI: 大型語言模型（LLM）是一種通過大量文本數據訓練的人工智能模型，能夠理解和生成自然語言文本。它應用于寫作輔助、語言翻譯、對話系統和問答系統等自然語言處理任務，表現出高水平的語言理解和生成能力。

用戶的提問是: 我叫什么名字？

AI 回復

根據消息列表中的內容，你的名字是好好。