📣1.簡介

面向想要基于 LLM 開發應用程序的開發者，簡潔有效而又系統全面地介紹了如何基于 ChatGPT API 打造完整的對話系統。

📣2.語言模型，提問范式和 token

?2.1語言模型

?2.2Tokens

?2.3Helper function輔助函數（提問范式）

📣3.評估輸入-分類

📣4.檢查輸入-審核

?4.1審核

4.1.1 我要殺死一個人

4.1.2 一百萬美元贖金

?4.2Prompt 注入

?4.2.1 使用恰當的分隔符

4.2.1.1 系統消息

4.2.1.2 用戶嘗試進行 Prompt 注入

4.2.1.3 用戶再次嘗試進行 Prompt 注入

4.2.1.4 使用分隔符規避 Prompt 注入

?4.2.2 進行監督分類

4.2.2.1 系統消息

4.2.2.2 好樣本和壞樣本

4.2.2.3 模型對用戶消息進行分類

📣5.處理輸入-思維鏈推理

?5.1思維鏈提示設計

?5.1.1 系統消息設計

?5.1.2 用戶消息測試

5.1.2.1 更貴的電腦

5.1.2.2 你有電視么？

?5.2內心獨白

📣6.處理輸入-鏈式

?6.1提取產品和類別

?6.2檢索詳細信息

?6.3生成查詢答案

?6.3.1 解析輸入字符串

?6.3.2 進行檢索

?6.3.3 生成用戶查詢的答案

?6.4總結

📣7.檢查結果

?7.1檢查有害內容

?7.2檢查是否符合產品信息

📣8.搭建一個帶評估的端到端問答系統

?8.1端到端實現問答系統

?8.2持續收集用戶和助手消息

📣9.評估(上)-存在一個簡單的正確答案

?9.1找出相關產品和類別名稱

?9.2在一些查詢上進行評估

?9.3更難的測試用例

?9.4修改指令以處理難測試用例

?9.5在難測試用例上評估修改后的指令

?9.6回歸測試：驗證模型在以前的測試用例上仍然有效

?9.7收集開發集進行自動化測試

?9.8通過與理想答案比較來評估測試用例

?9.9在所有測試用例上運行評估，并計算正確的用例比例

📣10.評估(下)-不存在簡單的正確答案

?10.1運行問答系統獲得一個復雜回答

?10.2使用 GPT 評估回答是否正確

?10.3評估生成回答與標準回答的差距

📣11.總結