2022年,陈明达博士加入Meta基础人工智能研究院(FAIR),正值大模型探索能力边界的初期。随着ChatGPT的横空出世,行业重心迅速转向Scaling(规模化)路线,科技公司集中算力与数据展开军备竞赛。陈明达亲历了LLaMA、Chameleon等项目的研发,见证了规模化带来的能力跃升,也目睹了部分不成熟技术因过早投入资源而折戟。
今年初,陈明达回到上海交通大学人工智能学院任教。他认为,过去四年大模型在语言、数学和编程上的进步虽显著,但仍未解决所有基础问题。“四年前ChatGPT能做60分的事,现在能做到90分;但四年前做0分的事,现在可能仍是0分。”他主张在高校相对自由的环境中,重新探索AI的下一个突破口:一是让AI更好地利用过去的“流程性知识”进行决策;二是构建语言之外的视觉基座模型,从海量无标签数据中学习物理规律。
从工业界回归学界:在大厂约束与学术自由之间
数学背景与AI研究的缘起
陈明达本科就读于浙江大学数学系,大三时接触机器学习后被其不同于抽象数学的研究方式吸引,遂转向AI领域。博士期间主攻自然语言处理(NLP),他认为语言与日常生活联系紧密,更接近真正的智能。相比当时计算机视觉主要聚焦图像分类,NLP已涉足更复杂的问题,这成为他选择该方向的原因。
工业界研究环境的变迁
在谷歌和Meta实习期间,陈明达早期参与了大语言模型的规模化实验,验证了数据量与模型规模对能力的正向影响。早期的FAIR研究氛围自由,允许从小想法出发逐步验证。然而,ChatGPT的出现改变了这一生态。
以Meta的Galactica为例,该项目因面向科学领域且准确性不足,在发布后不久因公关压力撤下。相比之下,OpenAI作为初创公司,选择保留存在缺陷的ChatGPT并通过用户反馈迭代,最终取得成功。这一对比揭示了大公司与初创企业在风险承受能力和业务重心上的差异。
此外,2025年初Coding Agent的兴起推动了递归自我改进(RSI)的研究。尽管陈明达在Meta内部推动了相关项目,但由于大公司核心目标仍是快速迭代发布更强的大模型,RSI这种长周期、高不确定性的研究难以成为最高优先级。这也促使他思考离开工业界,回到拥有更多研究方向决定权的高校。
对Scaling路线的反思
参与LLaMA和Chameleon项目的经历加深了陈明达对研发方式的理解。LLaMA以小模型实现强能力证明了架构优化的重要性;而Chameleon试图从头训练多模态基座模型,却因技术未完全成熟就急于扩大规模而遭遇波折。他指出,ChatGPT的成功建立在多年积累之上,若技术方向尚未成熟便过早推向Scaling阶段,反而可能导致更快失败。
突破认知瓶颈:从记忆事实到掌握“流程智能”
复杂任务中的经验复用
当前AI在问答、写作等常见任务上的可靠性提升,得益于真实用户数据的积累和RSI工具的辅助。但在执行长程复杂任务时,现有的长上下文和外部记忆技术存在局限:前者计算效率低,后者检索准确性受限。更大的挑战在于缺乏真实环境下的长程任务数据。
陈明达指出,复杂任务的难点不仅在于事实性知识的记忆,更在于对“流程性知识”(Procedural Knowledge)的掌握。即如何判断步骤先后、如何处理中间困难。他在Meta的最后一段研究致力于从已有推理过程中提取约3200万条流程性知识,发现这类知识同样具备Scaling潜力,能显著提升模型在复杂任务中的推理和决策能力。
AI重塑科研工作流
随着Claude Code等编程智能体的出现,AI研究人员约80%-85%的工程实现工作可由AI承担。研究者得以将精力集中于关键判断与决策。然而,要实现真正的自主研究(RSI),仍需突破两大瓶颈:
- 长程任务能力:需处理长期积累的信息和不断变化的实验结果,依赖长上下文技术的发展。
- 关键节点判断力:如评估实验价值、调整研究方向。陈明达认为,大规模流程性知识的积累有望在此发挥作用,甚至可能涌现出接近顶级研究者的“科研智能”。
下一代基座模型:超越语言的视觉规律学习
多模态学习的困境
尽管视频生成模型效果逼真,但在空间关系、物体运动和物理规律上仍频现错误。陈明达认为,目前多模态领域尚未找到如GPT般成熟的基座模型训练方法。现有视频生成多依赖文本-视频配对数据,但文字描述无法完整涵盖视频中的所有视觉信息,导致模型忽略大量底层规律。
他主张,多模态基座模型应像GPT学习语言一样,直接从海量无标签的视觉数据中通过无监督学习掌握物体运动、空间变化等规律。正如杨立昆所言,无监督学习是基座能力的“蛋糕胚”,而当前我们尚未充分利用海量的未标注视觉数据。
世界模型与通用能力的边界
在世界模型的技术路线上,JEPA等方法通过无标签数据学习非语言模态规律值得关注,而生成式路线在文生视频方面表现突出。目前尚难断定哪条路线最终胜出。
针对通用大模型是否将覆盖专用模型的问题,陈明达认为,虽然GPT的能力边界不断拓宽,但其在非语言领域的通用性仍有待验证。文本与非文本数据存在本质差异,目前的解决方案往往需要额外组件。因此,世界模型研究的重要目标之一,是在非语言模态中建立真正具有通用能力的基座模型。
未来展望:新能力探索与可靠性提升并重
展望未来三到五年,AI的发展将聚焦于两个同等重要的方向:
- 拓展能力边界:探索新技术路线,赋予模型原本不具备的能力,如真正的视觉理解和高阶推理。
- 提升可靠性与实用性:将现有能力从“60分”提升至“90分”甚至更高,确保在订票、医疗等容错率极低的现实场景中安全可用。这需要设计完善的回退机制,使AI产品真正融入现实生活。
陈明达强调,前者关乎通用能力的突破,后者关乎具体场景的专业落地,二者共同构成了下一代AI发展的核心驱动力。

