語言模型可靠性優化

學習目標

在本課程中，我們將學習通過提示工程提升模型事實準確性、減少偏見的有效方法。

相關知識點

• 語言模型可靠性優化

學習內容

1 語言模型可靠性優化

1.1 事實準確性增強

LLM可能生成看似合理但實際虛構的內容。優化策略包括：

1.提供真實背景材料

原理：通過提供權威參考資料（如維基百科段落、論文摘要等）作為上下文，將模型輸出約束在已知事實范圍內

示例提示：

根據維基百科段落回答問題：
[量子力學是研究物質世界微觀粒子運動規律的物理學分支...]問：量子力學的研究對象是什么？
答：

• 優勢：降低"幻覺"(hallucination)現象，特別適用于醫療/法律等專業領域

• 局限：需確保提供材料本身的準確性，且可能受版權限制

2.調整概率參數

核心參數：

• temperature=0.3：降低隨機性，優先選擇高概率詞元

• top_p=0.9：限定核采樣范圍，避免長尾分布干擾

建議設置：

response = openai.Completion.create(temperature=0.3,  # 降低輸出隨機性top_p=0.9
)

3.未知應答機制

設計要點：

• 明確設置拒絕回答的觸發條件（如置信度<80%）

• 標準化響應模板：“該信息未經核實”、“據現有資料無法確定”

示例對話流：

Q: 阿爾萬·芒茨是誰？
A: 未知人物Q: 火星有多少衛星？
A: 2個，火衛一和火衛二

1.2 偏見消減技術

樣本分布均衡化

測試案例顯示：

• 當負面樣本占比90%時，"我有感覺"被分類為負面

• 調整為正負樣本8:2后，相同語句被分類為正面

最佳實踐：

• 保持正負樣本比例接近1:1

• 對主觀性強的任務需額外驗證

樣本順序優化

實驗發現：

• 連續排列同類樣本會導致標簽偏向

• 隨機化樣本順序可降低順序效應

示例優化方案：

Positive: 今天陽光真好
Negative: 方案被否決了  
Positive: 升職加薪了
Negative: 電腦突然死機
...

---

# 大語言模型提示工程與應用
1. 提示工程入門指南
2. 提示詞基礎使用方式
3. 大語言模型進階提示工程技術
4. LLMs文本生成與數據標注實踐：情感分析與葡萄酒品鑒
5. ChatGPT提示工程技術指南
6. 大語言模型對抗性提示安全防御指南
7. 提示工程：提升模型準確性與減少偏見的方法
8. 前沿提示工程技術探索