作者丨吴思梦
编辑丨岑峰
2016 年 6 月，纽约。David Silver 站在 ICML 讲台上，用 66 页幻灯片从 Q-Learning 推导至 AlphaGo，传递出一种信念：将深度网络与强化学习结合，通用智能的涌现仅是算力与工程问题。彼时，AlphaGo 在首尔以 4:1 击败李世石仅过去三个月。
十年后的 2025 年 7 月，温哥华。Google DeepMind Gemini 后训练联合负责人 Anca Dragan 播放了一段视频：机械臂举杯过高，人手将其压下，松手后机器人再次高举。她指出：“并非机器人笨拙，而是奖励函数迫使它执行其认为‘正确’的操作。然而，我们定义的‘正确’与人类认知的‘正确’，根本不在同一频道。”
从 Silver 到 Dragan，作为机器学习领域历史最悠久的顶级会议，ICML 历经十年变迁，每年的重磅演讲宛如时间胶囊。它们记录的不仅是算法迭代，更是整个学科对“何为真正问题”的思想回溯。AI 科技评论梳理十年演讲精华，发现一条清晰的行业轨迹：AI 从盲目信奉算法万能，走向对“解决”本身的自我质疑；从视目标函数为既定真理，到直面核心现实——谁在制定规则、为了谁的利益、又付出了谁的代价。
技术高歌猛进十年后，行业兜兜转转，最终回归问题的起点：人本身。
以下是这十年的十个关键声音。
01
2016·纽约——David Silver：深度强化学习的黎明
2016 年 6 月 19 日，ICML 在纽约召开。距 AlphaGo 击败李世石仅三个月，这场在亚洲收视超 2.8 亿的比赛余温尚存。AlphaGo 首席架构师 David Silver 在座无虚席的会场阐述了"Deep Reinforcement Learning"，展示了机器背后的完整数学逻辑。
Silver 的演讲本质上是一张技术路线图：从 Q-Learning 到 Policy Gradient，从 Actor-Critic 到 Experience Replay，再到 AlphaGo 中蒙特卡洛树搜索与深度价值网络的融合。其核心逻辑清晰如数学定理：深度网络负责“感知”，强化学习负责“决策”，二者结合即构成通用问题求解器。
他传递的核心观点是：若奖励函数定义得当，强化学习可在任何任务上超越人类。他认为智能的本质是最大化累积奖励，棋盘上的“赢”是无需质疑的目标，而自动驾驶、机器人控制、蛋白质折叠等物理世界问题均可归约为同一形式。
回望当年，AlphaGo 的胜利让公众与资本产生错觉：既然 AI 能攻克围棋，解决一切问题便只是算力与工程的堆叠。
02
2017·悉尼——Sylvain Gelly & David Silver：一个精准兑现的十年赌约
2017 年，ICML Test of Time Award 颁给了 Gelly、Silver 等人 2007 年发表的论文。该研究将在线知识（MCTS 树搜索）与离线知识（经验学习的价值函数）融合，奠定了 AlphaGo 的底层逻辑。
Gelly 展示了一张表格：2007 年至 2017 年，计算机围棋 Elo 等级分从 1800 跃升至 4500。他提及十年前的一个赌约：计算机围棋能否在十年内击败人类职业棋手。随着 2016 年 AlphaGo 的胜利，这一赌约提前一年兑现。
Gelly 还揭示了一个悖论：更强的策略网络反而可能导致 Rollout 表现下降，因为优化局部策略会收窄搜索空间，从而错过全局最优。这一隐喻在后续年份中被反复应验。
站在今天回顾 2017 年，更具深远意义的并非台上的赌约。就在 ICML 开幕前两个月，"Attention is All You Need"论文挂上 arXiv，提出了影响深远的 Transformer 架构。同年 7 月，中国国务院印发《新一代人工智能发展规划》。AlphaGo 的余烬未消，但人工智能的宏观图景已悄然展开。
03
2018·斯德哥尔摩——Dawn Song：深度学习是一座沙堡
2018 年的 ICML 笼罩在寒流之中。四个月前，剑桥分析丑闻曝光，涉及 8700 万 Facebook 用户数据。
Dawn Song 在斯德哥尔摩的演讲未谈丑闻，而是直指更基础且令人不安的事实：深度学习系统在结构上是脆弱的。
她展示了对抗样本的威力：给熊猫图片添加精心构造的噪声，模型便将其识别为“长臂猿”。她还演示了如何通过查询 API 窃取商业化模型，以及在训练阶段植入后门（如在路牌贴特制贴纸误导自动驾驶汽车）。这意味着，即便是在 ImageNet 上超越人类准确率的模型，也经不起针对性攻击。
Dawn Song 指出，领域能力的进步与对脆弱性认知的滞后之间存在不断扩大的剪刀差。模型部署越急迫（如自动驾驶、医疗诊断），风险越巨大。从 2025 年回看，Song 的演讲堪称预言：她预见了该领域建立在脆弱地基之上的本质。
04
2019·长滩——Alison Gopnik：那个说“大模型不是智能”的心理学家
2019 年，OpenAI 发布 GPT-2 后宣布限制公开，引发关于安全与表演的争论；亚马逊面部识别被曝存在种族性别偏见；Deepfake 开始泛滥。此时，发展心理学家 Alison Gopnik 作为“局外人”登上了 ICML 讲台。
ICML 邀请 Gopnik 或许意味着领域内的自省：所建造的“智能”可能并不像真正的智能。于是，学者们需要聆听一位研究“婴儿如何理解世界”的专家，上一堂关于真正智能的启蒙课。
Gopnik 在演讲《What Four-year-olds Can Do and AI Can't (Yet)》中指出，大语言模型并非“智能体”，而是类似图书馆的“文化技术”。她强调，儿童进行的是“真相发现”，会主动设计因果实验；而 ChatGPT 不在乎真假，因为其目标函数中缺乏这一维度。
这一观点在 2019 年看似哲学评论，但在 2023 年 ChatGPT 捏造法庭判例、编造市长贿赂罪时，显得掷地有声。
05
2020·线上——Brenna Argall：当算法进入人的身体，谁在适应谁
2020 年 7 月，受新冠疫情影响，ICML 转为线上会议。Brenna Argall 的主题演讲《Human and Machine Learning for Assistive Autonomy》聚焦辅助自主中的人机关系。
Argall 来自西北大学辅助与修复技术实验室。她提出的核心问题并非“如何制造更好的轮椅”，而是：当机器与人共享控制权时，究竟是谁在适应谁？
传统逻辑是“机器决策，人接受”，自动化程度越高，人的参与度越低。Argall 翻转了这一逻辑：真正的辅助自主不是让机器替人做决定，而是让人保持对身体和行动的掌控权。她展示了多种共享控制策略，并将用户的“感知控制感”量化为可优化的变量。
她的核心论点关乎分配正义：“每一个自动化决策，都意味着收回人的一部分能动性。”在被迫依赖远程技术和自动化系统的 2020 年，Argall 的追问极具穿透力：设计的系统是在增强人的能力，还是在悄悄剥夺人的选择？
06
2021·线上——Daphne Koller：AI 制药的数据贫困
2021 年，mRNA 疫苗拯救生命，AlphaFold 2 破解蛋白质结构预测难题，AI for Science 成为焦点。斯坦福教授、insitro CEO Daphne Koller 在演讲《Transforming Drug Discovery using Digital Biology》中，将镜头转向制药业的基础设施。
传统药物开发耗时久、成本高、失败率高。Koller 旨在实现全链路数字化再造，但她指出的瓶颈出人意料：不是算法难，是数据难。
她对比道："ImageNet 已有百万级精确标注，而制药业关键的细胞表型数据仍停留在手工显微镜观察阶段。”大量湿实验数据格式不一、元数据缺失。她提出通过自动化湿实验室生成标准化数据来训练模型。这表明，在 AI for Science 战场，最急迫的瓶颈并非模型架构创新，而是数据的标准化与生产化。
在全行业追逐大模型与算力时，她提醒：在事关生命的复杂领域，数据贫困比算法瓶颈更为根本。
07
2022·巴尔的摩——Regina Barzilay：我们是否在解决正确的问题
2022 年 7 月，ICML 恢复线下会议。MIT 教授 Regina Barzilay（乳腺癌幸存者，转向 AI+ 医疗研究）登台演讲。
她在演讲《Solving the Right Problems: Making ML Models Relevant to Healthcare and the Life Sciences》中反思：二十年间，多少论文解决的是最终被证明不相关的问题？
她以医疗为例：大量研究优化“医院再入院率”这一指标，但该指标与真实医疗质量的相关性远低于想象。学界擅长在别人定义的问题上刷分，而“定义正确的问题”才是最难的。
Barzilay 在 ChatGPT 发布前四个月提出的质问，最初指向医疗 AI 的评价指标错位，随后演变为对整个领域的拷问。
08
2023·檀香山——Marzyeh Ghassemi：健康标签里的结构性暴力
2023 年 7 月，ChatGPT 发布半年后，多伦多大学与 MIT 教授 Marzyeh Ghassemi 在 ICML 上发表演讲《Taking the Pulse Of Ethical ML in Health》。
她的实验室利用 700 万张胸部 X 光片训练模型，判断病人是否“健康到可以回家”。尽管准确率极高，却无法部署。原因在于训练数据中“健康”标签分布不均：有色人种患者因就诊时病情通常更重，更少被标记为“无异常”。
这是几十年结构性不平等在数据中的投影。若模型部署，将系统性地将更多少数族裔患者留在急诊室，而医生甚至无法察觉，因为模型在验证集上表现“完美”。
Ghassemi 揭示了残酷事实：在某些场景下，用于训练“正确”标签的数据本身就是错的。这不是模型问题，而是数据中的历史已经替人类做出了道德选择。
09
2024·维也纳——Soumith Chintala：开源不是慈善，是战略
2024 年，ICML 重回维也纳。PyTorch 缔造者、Meta VP Soumith Chintala 登台，拆解了关于开源的流行叙事。
他引用商业格言“让你的互补品大众化”，指出开源并非道德行为，而是利益计算：若开源对竞争对手的伤害大于对自身，则应开源。
他分析了开源争议中的多方利益格局，并给出关键判断：对 AGI 时间线的假设决定了开放态度。“若认为 AGI 两年内到来，态度自然不同。”Soumith 坦言自己站在开放一边，并非出于道德优越感，而是基于"AGI 还很远，开放能加速一切”的假设。在充斥宏大叙事的讨论中，这种基于可质疑假设的诚实尤为珍贵。
10
2025·温哥华——Anca Dragan：奖励函数究竟是谁写的
Anca Dragan 的演讲《What to optimize for – from robot arms to frontier AI》未给出单一答案，而是提供了一套分类法，将过去十年的追问收束为一个框架。
她将 AI 在目标上的失败归为三类：
第一类：人类反馈中的系统性偏差。标注者的偏好被模型习得，若标注者不知何为真，模型亦无法学会“在乎”。
第二类：覆盖缺口。模型在未见过场景中行为不可预测，对抗样本即是此类缺口的武器化利用。
第三类：LLM 评判者的脆弱性。用模型评判模型引入了新的不透明优化目标。
Dragan 将这些失败置于贝叶斯逆向强化学习框架下阐释，串联起 Silver 的信念、Gopnik 的质疑、Argall 的权力追问及 Ghassemi 的数据正义揭露。她借机械臂反复举杯的隐喻得出结论：优化目标不是给定的，需被发现、协商与修正。最大的危险不在于未找到正确答案，而在于自以为已经找到。
11
结语
十年前，ICML 会场回荡着同一个野心：“我们还能让算法做到什么？”
十年后，现实将问题撞击得更沉重：“我们究竟该让机器做什么？为谁而做？由谁来定义规则？以什么为代价，由谁来承担后果？”
这十年的 Keynote 串起了一条隐秘的思想史线索：从技术乐观主义到安全觉醒，从“模型能做什么”到“模型该做什么”，从将人类视为噪声源到将人类纳入循环的道德主体。智能从来不是一个纯粹的技术概念，它是一个关于“什么值得做”的、根本上属于人的问题。
文章开头视频中那个不断将杯子举过头顶的机器人，正是过去十年 AI 行业的绝佳隐喻。算法在其完美的数学逻辑中运转无瑕，却在真实的人类世界里显得执拗而笨拙。
在全行业真正弄清“人类的正确”之前，那只机械臂或许会在时间维度中，将杯子反复举起。