可視化提示詞(Prompt)在訓練過程中的優化過程:visualize_prompt_evolution
這個函數 visualize_prompt_evolution
的作用是可視化提示詞(Prompt)在訓練過程中的優化過程,通過對比每個訓練輪次(Epoch)的提示詞與初始提示詞的差異,直觀展示哪些Token被保留、哪些被修改。
核心功能與原理
-
Token級對比:
- 將初始提示詞和每個Epoch的優化提示詞拆解為Token(如中文分詞后的詞語或字)。
- 通過對比Token是否相同,量化每個位置的“相似度得分”(相同為1,不同為0)。
-
可視化邏輯:
- 用條形圖展示每個Epoch的提示詞Token及其與初始提示詞的相似度。
- 通過顏色編碼快速識別差異:
- 綠色:Token與初始完全一致(相似度>0.8)。