Prompt Engineering(提示工程)指為生成模型精心設計輸入提示,以引導模型產生所需的輸出。在RAG系統中,prompt設計對充分利用檢索到的知識至關重要。因為生成器(通常是LLM)接收到的不僅有用戶問題,還有檢索的文檔內容,我們需要通過提示明確告訴模型如何使用這些信息。例如,一個常用的提示模板是:
根據以下提供的文檔回答用戶問題。不要編造未在文檔中的內容。
文檔:
1. [文檔1內容]
2. [文檔2內容]
問題: [用戶問題]
答案:
這樣的提示在系統消息或用戶消息中給予模型明確指示:參考檢索文檔來回答且避免幻覺。良好的prompt可以