大模型常見的幾種解碼方案
在自然語言生成任務中，如何從模型生成的概率分布中選擇合適的詞匯，是影響文本質量的關鍵問題。常見的解碼方法包括貪心搜索（Greedy Search）、束搜索（Beam Search）、隨機采樣（Sampling）、Top-k 采樣、Top-p 采樣（Nucleus Sampling）以及溫度調節（Temperature Sampling）。
1. 貪心搜索（Greedy Search）
貪心搜索在每個解碼步驟中選擇具有最高概率的詞，形成最可能的序列。這種方法的優點是計算高效，但容易陷入局部最優，導致生成的文本缺乏多樣性。
示例：
假設當前模型輸出如下概率分布：
| 詞 | 概率 |
|---|---|
| 女孩 | 0.6 |
| 鞋子 | 0.3 |
| 大象 | 0.1 |
貪心搜索會選擇“女孩”作為下一個詞。
2. 束搜索（Beam Search）
束搜索是一種改進的搜索策略，它在每個時間步維護 k 個候選序列，并選取概率最高的 k 個序列繼續擴展。最終選擇概率最高的序列作為輸出。
示例：
如果 k=2，在 t=1 生成兩個最高概率的單詞，并在 t=2 時基于這兩個單詞擴展，選擇概率最高的兩個組合繼續。
束搜索可以提高文本質量，但仍然可能生成重復性較強的文本。
3. 采樣策略
3.1 隨機采樣（Random Sampling）
隨機采樣根據模型的概率分布進行抽樣，使得低概率詞匯也有一定的可能性被選中，增強文本的多樣性，但可能會導致生成無意義的內容。
3.2 Top-k 采樣
Top-k 采樣限制采樣范圍，僅從概率最高的 k 個單詞中進行隨機選擇。這樣可以減少低概率單詞的干擾，同時保留一定的隨機性。
示例：
假設 k=2，模型輸出如下概率分布：
| 詞 | 概率 |
|---|---|
| 女孩 | 0.6 |
| 鞋子 | 0.3 |
| 大象 | 0.1 |
Top-k 采樣只會從“女孩”和“鞋子”中選擇，而不會考慮“大象”。
3.3 Top-p 采樣（Nucleus Sampling）
Top-p 采樣基于累積概率選擇最小的單詞集合，使得累積概率達到閾值 p，然后在這個集合中進行隨機采樣。
示例：
如果 p=0.8，模型輸出如下概率分布：
| 詞 | 概率 | 累積概率 |
|---|---|---|
| 女孩 | 0.6 | 0.6 |
| 鞋子 | 0.3 | 0.9 |
| 大象 | 0.1 | 1.0 |
由于累積概率超過 0.8 的最小集合是 {女孩, 鞋子}，因此僅在這兩個單詞中選擇。
3.4 溫度調節（Temperature Sampling）
溫度參數 τ 用于調整概率分布的平滑程度。較高的溫度會增加生成文本的多樣性，而較低的溫度會使模型更加確定。
示例：
- 溫度較高（τ=1.5）：生成的文本更具創造性，但可能缺乏連貫性。
- 溫度較低（τ=0.5）：生成的文本更穩定，但可能較為保守。
4. 組合策略
通常，Top-k、Top-p 和 Temperature 采樣會結合使用，以在多樣性和可控性之間取得平衡。
組合示例（Top-k=3, Top-p=0.8, Temperature=0.7）：
- Top-k 限制候選單詞范圍。
- Top-p 進一步篩選概率質量較高的單詞。
- Temperature 調整最終概率分布。
5. 解碼策略選擇
不同的解碼策略適用于不同的任務：
- 貪心搜索 & 束搜索：適用于生成確定性較高的文本，如機器翻譯。
- Top-k & Top-p 采樣：適用于生成創意內容，如詩歌、故事。
- 溫度調節：適用于控制文本的創造力。
)