跳到正文
事件追踪已归档

研究者称用JEPA证明柏拉图表征假说

首次报道 最新进展 2 篇报道,2 个来源

事件综述根据 2 篇报道整理,11月1日更新

Yann LeCun 与 Randall Balestriero 提出一项工作,称从数学上证明:在一定条件下,两个完全独立训练的联合嵌入预测架构(JEPA)可以学到基本相同的世界表征——一个从同一场景的不同图像学习,另一个从该场景的不同描述学习,全程不使用图像文本配对。论文以“We turn the hypothesis into a theorem”表述,即把柏拉图表征假说转为定理。 作者进一步称,下一词预测相当于使用劣质视角的 JEPA,并以此解释语言模型为何只能依靠规模与视觉对齐。上述结论均来自论文作者及 alphaXiv 的介绍,报道未给出独立复现或同行评审信息。

综述由模型根据报道生成,细节以各篇原文为准。

进展时间线

北京时间,最早在上
  1. Hugging Face Daily Papers证明并改进柏拉图表示假说

    阅读这篇报道

全部报道

2 篇,点开看摘要
LeCun 与 Balestriero 用数学论证柏拉图表征假说并给出更优训练路径alphaXiv预印本未入选

alphaXiv 介绍 Yann LeCun 与 Randall Balestriero 的一项工作,从数学上表明在一定条件下,两个完全独立训练的 JEPA 可以学到基本相同的世界表征,一个从同一场景的不同图像学习,另一个从该场景的不同描述学习,全程不使用图像文本配对。

阅读这篇报道
研究者用 JEPA 证明并改进柏拉图表征假说Hugging Face Daily Papers预印本未入选

研究者提出柏拉图表征定理,证明在不同模态上分别训练的联合嵌入预测架构(JEPA)在正样本对为同一场景的两个观测时,学到的表征仅相差一个旋转。作者进一步指出下一词预测相当于使用劣质视角的 JEPA,这解释了语言模型为何只能靠规模与视觉对齐。

阅读这篇报道