總目錄 大模型相關研究：https://blog.csdn.net/WhiffeYF/article/details/142132328

https://arxiv.org/pdf/2312.15746

速覽

破解大語言模型在推薦系統中的不穩定性

該論文聚焦于大語言模型（LLMs）在推薦系統中的應用問題，指出其存在顯著的不穩定性，主要源于LLMs的固有位置偏差。研究者們通過深入分析，發現LLMs在推薦任務中對輸入項的順序極為敏感，導致推薦結果不穩定。例如，在改變真實項在提示中的位置時，推薦性能會顯著變化。為解決這一問題，論文提出了一種名為STELLA（Stable LLM for Recommendation）的貝葉斯概率框架。該框架包含兩個階段：探測階段和推薦階段。在探測階段，通過探測檢測數據集識別LLMs中的位置偏差模式，構建轉移矩陣；在推薦階段，利用貝葉斯策略調整LLMs的偏差輸出，并引入基于輸出分布熵的置信度指標。實驗結果表明，STELLA框架能顯著降低LLMs推薦結果的方差，同時提升整體推薦性能。該研究不僅揭示了LLMs在推薦系統應用中的潛在問題，還為如何校準LLMs的不穩定性提供了有效解決方案，對推動LLMs在推薦系統領域的應用具有重要意義。