大多數的 LLM 應用程序都會有一個會話接口，允許我們和 LLM 進行多輪的對話，并有一定的上下文記憶能力。但實際上，模型本身是不會記憶任何上下文的，只能依靠用戶本身的輸入去產生輸出。而實現這個記憶功能，就需要額外的模塊去保存我們和模型對話的上下文信息，然后在下一次請求時，把所有的歷史信息都輸入給模型，讓模型輸出最終結果。

在沒有使用Memory的的情況下，大模型記憶上一次的回答，每次的回答都不相干。如下圖：