事件追踪追踪中
alphaXiv 推介能量模型统一视角论文
首次报道 最新进展 1 篇报道,1 个来源
事件综述根据 1 篇报道整理,11月14日更新
学术论文推介账号 alphaXiv 在 X 上介绍了一篇论文,该论文提出用能量模型统一理解扩散模型、大语言模型、强化学习与推理时计算。其核心设定是:能量函数给更理想的结果打更低分,不同学习算法可被看作如何定义能量、从数据中学习能量并搜索低能量解。 按这一视角,自回归 LLM 可用 token 负对数概率描述,扩散模型则学习把样本移向高概率区域;该解释还延伸到强化学习、规划与测试时推理。论文称,不同能量函数可以组合起来解决新任务,无需为每种组合单独训练模型。上述内容来自 alphaXiv 对论文的转述,尚不构成独立验证。
综述由模型根据报道生成,细节以各篇原文为准。
进展时间线
北京时间,最早在上alphaXivalphaXiv 推介能量模型统一视角论文
阅读这篇报道
全部报道
1 篇,点开看摘要基于能量的统一视角解读扩散模型与大语言模型
一篇论文提出用能量模型统一理解扩散模型、LLM、强化学习与推理时计算:能量函数给更理想的结果打更低分,不同学习算法可视为如何定义能量、从数据学习能量并搜索低能量解。例如自回归 LLM 可用 token 负对数概率描述,扩散模型学习将样本移向高概率区域。该解释还延伸到强化学习、规划与测试时推理,不同能量函数可组合以解决新任务而无需为每种组合单独训练模型。
阅读这篇报道