嘿，朋友們！今天我要和大家聊聊一個超級酷的話題——大型語言模型（LLMs）
它們在“思考”和回答問題時的一些“小秘密”。你可能已經聽說過**“思考鏈”（Chain of Thought, COT** 這個概念，它是一種讓模型在回答問題時“邊想邊說”的方法，能夠顯著提升模型的推理能力。但你知道嗎？最近的研究發現，COT 的魔力并不僅僅在于推理的準確性，而更在于推理步驟的長度 和prompt的格式。聽起來有點玄乎？別急，讓我慢慢給你揭開這個謎團。
什么是思考鏈（COT）？
首先，咱們來簡單了解一下 COT。想象一下，你在教一個孩子解數學題。你不僅告訴他答案，還一步步地解釋你是如何得出這個答案的，比如：“首先，我看到有 3 個蘋果，又拿了 2 個，所以總共是 5 個。”這種“邊想邊說”的方法就是 COT 的核心。在 LLMs 中，COT 提示通過在問題后添加“讓我們一步步思考”這樣的引導，讓模型在生成答案前先進行一系列的推理步驟。這種方法在數學、邏輯和常識推理等任務上表現尤為出色。
秘密一：COT 的長度比內容更重要
最近，一項研究（Jin et al., 2024）深入探討了 COT 中推理步驟長度對 LLMs 性能的影響，結果讓人眼前一亮。研究者們發現，延長 COT 提示中的推理步驟，即使這些步驟并不引入新的信息，也能顯著提高 LLMs 在多個數據集上的推理能力。相反，如果縮短推理步驟，即使保留了關鍵信息，模型的性能也會下降。
更令人驚訝的是，即使推理過程是錯誤的，只要保持足夠的步驟長度，模型的表現仍然可以提升。也就是說，即使模型在推理過程中犯了錯，但只要它“思考”得足夠多，依然能得出正確的答案。這就像是，即使孩子的推理過程有誤，但只要他能持續思考并嘗試解決問題，他最終還是能學到東西。
一個生動的例子
假設我們要讓模型回答一個簡單的問題：“小明有 5 個蘋果，他又買了 3 個，請問他現在有幾個蘋果？”在 COT 提示中，我們可以這樣引導模型：
“讓我們一步步思考。首先，小明原來有 5 個蘋果。然后，他又買了 3 個蘋果。所以，他現在應該有 5 + 3 = 8 個蘋果。”
但研究發現，即使我們把這個推理過程延長，比如：
“讓我們一步步思考。首先，小明原來有 5 個蘋果。然后，他又買了 3 個蘋果。買蘋果可能是在超市，也可能是在市場，但這不重要。重要的是，他買了 3 個。所以，他現在應該有 5 + 3 = 8 個蘋果。”
即使中間加入了一些無關的信息，模型的性能依然能提升。反之，如果我們把推理步驟縮短，比如：
“讓我們一步步思考。小明有 5 個蘋果，買了 3 個，所以有 8 個。”
模型的性能反而會下降。這說明，COT 的長度——即推理步驟的數量——比推理內容的準確性更重要。
為什么會這樣？
研究者們認為，這可能與 LLMs 的訓練方式有關。LLMs 通過大量文本數據預訓練，學會了模仿人類的語言模式和思維方式。在這個過程中，模型可能更傾向于關注“思考”的結構和模式，而不是具體內容的正確性。較長的推理步驟提供了一種“逐步構建答案”的模式，這種模式本身就具有一定的“魔力”，能夠幫助模型更好地組織信息。
秘密二：提示的格式比內容更重要
另一項研究（Tang et al., 2024）則關注了提示格式對 LLMs 性能的影響。研究者們設計了一個“ensemble prompt”框架，用于描述多個上下文示例（in-context examples）的選擇標準。實驗表明，這種框架能夠提升 LLMs 在機器翻譯任務上的性能。
但更有趣的是，即使描述的內容與實際情況不符，或者完全是隨機的，只要保持這種 ensemble 格式，性能仍然有所提升。比如，在提示中說“這些示例是基于相似的單詞選擇的”，但實際上示例是基于語法結構選擇的，模型的表現依然能提升。更夸張的是，即使描述是完全隨機的，比如“這些示例是基于相似的貓咪選擇的”，模型的表現也不會下降，反而可能提升。
這意味著什么？
這表明，LLMs 可能并不太關心你具體說了什么，而是更在意你說話的方式——也就是 prompt 的格式。這種現象就像是在與人交流時，語調和肢體語言往往比具體的話語更能傳達情感和意圖。同樣地，對于 LLMs 來說，prompt 的格式就像是語調和肢體語言，而具體的描述則像是話語內容。有時候，“怎么說”比“說什么”更重要。
一個類比
想象一下，你在給朋友講故事。如果你的語氣抑揚頓挫、手舞足蹈，即使故事內容平平無奇，朋友也會覺得有趣。但如果你的語氣平淡、毫無表情，即使故事再精彩，朋友也可能會走神。LLMs 也是如此：一個結構化的、ensemble 式的提示方式，就像抑揚頓挫的語氣，能讓模型更好地“聽懂”你的意圖。
為什么會這樣？
這兩項研究的發現指向一個共同的結論：LLMs 對模式和結構的敏感度高于具體內容的理解。這可能源于它們的訓練過程——通過海量文本學習語言的統計規律，而不是真正理解語義。在 COT 中，較長的推理步驟提供了一種“思考”的框架；在 ensemble prompt 中，格式化的結構提供了一種“指引”的模式。這些模式本身就能引導模型生成更好的輸出，而內容的準確性反而成了次要因素。
這對我們有什么啟示？
這兩項研究為我們優化 LLMs 的應用提供了新的思路：
-
在設計 COT 提示時，盡量延長推理步驟
即使不引入新的信息，較長的推理過程也能提升模型的性能。別害怕啰嗦，有時候多“思考”幾步就是勝利的關鍵。 -
在設計 prompt 時，關注格式而非內容
與其費盡心思設計完美的描述，不如專注于設計合適的 prompt 格式。一種結構化的、ensemble 式的提示方式可能比具體的描述更有效。 -
LLMs 的“思考”方式與人類不同
LLMs 更像是在模仿人類的語言模式，而不是真正理解內容的含義。這提醒我們在使用 LLMs 時，要注意其局限性，并合理設計提示以引導模型生成期望的輸出。
結語
總的來說，這兩項研究揭示了 LLMs 行為的一些深層機制。COT 的長度和 prompt 的格式 在提升模型性能方面發揮著關鍵作用，而具體的內容則相對次要。這為我們更好地利用 LLMs 提供了寶貴的 insights。你覺得呢？在未來的研究中，我們還能發現 LLMs 的哪些秘密？歡迎在評論區分享你的看法！讓我們一起探索這些智能模型背后的奧秘吧！
