图灵奖得主、AI 先驱 Yann LeCun 再次引发行业关注。10 月 29 日，66 岁的 LeCun 与布朗大学助理教授 Randall Balestriero 联合发布新论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》，对当前大模型行业“唯规模论”提出挑战。
研究显示，在特定训练条件下，仅含 1.09 亿参数的文本 JEPA 模型，在跨模态表征对齐测试中，性能超越了参数量高达 720 亿的 Qwen2.5 和 Llama-3 等主流大语言模型。这一结果不仅验证了“柏拉图表征假说”，也为高效 AI 训练提供了新的理论依据。
小参数超越大模型：挑战“唯规模论”
长期以来，AI 行业普遍信奉通过增加参数规模和训练数据来提升模型能力的路径。然而，LeCun 的新研究揭示了一种更高效的可能性。
实验数据显示，研究团队训练的 1.09 亿参数文本 JEPA 模型，在跨模态表征对齐指标上得分 0.184，高于 Qwen2.5-72B 的 0.154 和 Llama-3-70B 的 0.151。两者参数规模相差约 660 倍，但小模型在特定任务上表现更优。
在训练效率方面，采用新方法（Good Views）的模型仅需 2160 万个训练样本，即可达到传统下一 Token 预测模型使用 9 亿个样本才能实现的表征对齐水平。这意味着样本利用效率提升了约 42 倍（按 Token 计算约为 14 倍）。
需要明确的是，这里的“超越”特指跨模态表征对齐能力，而非通用语言理解、代码生成或数学推理等综合能力。但这足以证明，优化训练机制比单纯堆砌算力更具潜力。
理论突破：验证“柏拉图表征假说”
这项研究的理论基石是 2024 年提出的“柏拉图表征假说”（The Platonic Representation Hypothesis）。该假说认为，随着模型能力增强，不同模态（如图像和文本）的 AI 模型内部表征结构会趋向一致，因为它们都在学习同一个现实世界的统计规律。
LeCun 和 Balestriero 通过数学框架证明了这一现象发生的条件。他们引入了“Good Views”和“Bad Views”的概念：
- Good Views：指向同一现实状态的不同观察形式（如同一场景的照片与描述文字）。这种构造有助于模型提取共享信息。
- Bad Views：单一模态内的片段组合（如文本前后缀）。这种方式可能让模型过度关注模态特有细节，而非共享结构。
研究证明，当不同 JEPA 模型基于 Good Views 进行训练时，即使处理不同模态，其学到的表征空间也仅相差一个旋转变换，从而实现高度对齐。
在实际应用测试中，研究团队通过线性变换连接视觉编码器和文本模型，构建的图像描述系统在 COCO 数据集上获得 0.838 的 CIDEr 分数；在无成对数据拟合实验中，ImageNet-100 Top-5 分类准确率达 64%，优于部分对比方案。
LeCun 的坚持：从 Meta 到 AMI Labs
这篇论文不仅是学术成果，更是 LeCun 多年研究理念的延续。作为卷积神经网络先驱和 2018 年图灵奖得主，LeCun 始终对纯依赖下一个 Token 预测的大语言模型路线持保留态度。
他认为，真正的智能应具备理解物理世界、持续记忆、推理及规划复杂行动的能力，而这需要通过观察环境学习抽象结构来实现。这也是他推崇 JEPA（联合嵌入预测架构）的核心原因。
2025 年 11 月，LeCun 宣布离开 Meta，创立 AMI Labs 并筹集约 10 亿美元资金，致力于推进世界模型研究。尽管面临行业主流路线的压力，他仍坚持从学习机制本身寻找突破。
论文另一位作者 Randall Balestriero 同样是该领域的专家，曾在 Meta FAIC 与 LeCun 合作，后进入学术界任教。两人的合作为这一理论提供了坚实的支撑。
业内反响：期待与质疑并存
论文发布后迅速登上 Hugging Face 热门榜单，引发广泛讨论。LeCun 在社交媒体上指出，大语言模型之所以参数庞大，是因为其积累了海量陈述性知识，而 JEPA 路线旨在通过更高效的表征学习减少对冗余知识的依赖。
“大语言模型积累了大量陈述性知识。这就是为什么它们能够回答如此多的问题，也是为什么它们需要如此多的参数，进而占用大量内存。”
社区观点呈现两极分化。支持者认为这为小型实验室和资源受限场景提供了新方向，甚至在基因组学等领域具有应用潜力；观望者则表示，需等待该技术转化为实际通用模型能力后再做评判。
此外，也有研究者提出延伸思考：既然文本和图像可以通过共现关系学习世界结构，那么视频中的视听多模态信息是否也适用同样的逻辑？这为未来的多模态学习研究留下了广阔空间。
参考链接：
https://arxiv.org/abs/2610.39302
https://huggingface.co/papers/2610.39302
声明：本文为 AI 前线原创，不代表平台观点，也不构成投资建议，未经许可禁止转载。
