交互式智能體面臨長周期決策和隨機環境反饋交互等挑戰 以及解決辦法
目錄
- 交互式智能體面臨長周期決策和隨機環境反饋交互等挑戰 以及解決辦法
- 隨機初始化參數，lora
- 但是訓練需要更加細粒度的評價指數（對思考過程評價，對得出結果的證明評價，對結果評價）
- 用戶進看到結果
- 《RAGEN: Understanding Self-Evolution in LLM Agents via Multi-Turn Reinforcement Learning》
- 回聲陷阱問題及解決方法：軌跡過濾、整合評論家機制和分離裁剪來解決
- RL滾動 塑造 因素,改進
- 獎勵信號的影響
隨機初始化參數，lora
但是訓練需要更加細粒度的評價指數（對思考過程評價，對得出結果的證明評價，對結果評價）
用戶進看到結果
《RAGEN: Understanding Self-Evolution in LLM Agents via Multi-Turn Reinforcement Learning》
- RAGEN提出StarPO這一用于軌跡級智能體強化學習的通用框架，并介紹了訓練和評估大語言模型（LLM）智能體的模塊化系統RAGEN**。通過在三個特定環境中的研究，得出三個核心發現：一是智能體RL訓練存在“回聲陷阱”模式，用StarPO-S變體應對；二是RL滾動的塑造得益
![[ACTF2020 新生賽]Include [ACTF2020 新生賽]Exec](http://pic.xiahunao.cn/[ACTF2020 新生賽]Include [ACTF2020 新生賽]Exec)
![[UVM]在SoC中用寄存器模型backdoor訪問寄存器的案例](http://pic.xiahunao.cn/[UVM]在SoC中用寄存器模型backdoor訪問寄存器的案例)