跳到正文
HF Daily Papers·· 2 天前精选AI 评分71

用 JEPA 证明并改进柏拉图表示假说

Proving and Improving the Platonic Representation Hypothesis with JEPAs

AI 导读

论文用 JEPA 将柏拉图表示假说转化为定理,证明使用同一场景良好视图的不同模态模型可学到相差至多一次旋转的共享表示。研究把下一 token 预测视为使用不良视图的 JEPA,并以 145k 条 caption 到 940M 张网页图像文本的数据验证对齐缩放规律,良好视图达到同等对齐所需训练样本少 42 倍。

推荐理由

论文将 PRH 转化为表示定理,并比较 JEPA 与下一 token 预测在跨模态对齐上的样本效率差异。

来源:HF Daily Papers · huggingface.co