事件追踪已归档
ExpDis 将 RLVR 探索与优化解耦
首次报道 最新进展 1 篇报道,1 个来源
事件综述根据 1 篇报道整理,10月30日更新
一篇论文提出 Exploration-Distillation(ExpDis)方法,把 RLVR 训练拆成两个模型:探索者模型因找到新颖解法获得奖励,学生模型只从探索者已验证正确的解法中学习,之后再继续标准 RL。 据 alphaXiv 介绍,在三个模型上、相同算力预算下,ExpDis 在数学推理任务上的准确率与解法多样性均优于标准 DAPO,甚至超过训练步数多 4 倍的 DAPO。该结果来自论文自述,尚待独立复现。
综述由模型根据报道生成,细节以各篇原文为准。
进展时间线
北京时间,最早在上alphaXivExpDis 解耦 RLVR 探索与优化
阅读这篇报道
全部报道
1 篇,点开看摘要ExpDis 将 RLVR 的探索与优化解耦
论文提出 Exploration-Distillation(ExpDis),把 RLVR 训练拆成两个模型:探索者因找到新颖解法获得奖励,学生模型只从探索者已验证正确的解法中学习,再继续标准 RL。在三个模型上,相同算力预算下 ExpDis 在数学推理上优于标准 DAPO,准确率与解法多样性均提升,甚至超过训练步数多 4 倍的 DAPO。
阅读这篇报道