AI 这几年猛地变强，可为什么有一个问题它偏偏快不起来？Google Fellow John Platt 的答案是：气候变化跟 AI 恰好相反，它推进得非常非常慢，因为已经建成的化石燃料基础设施把你锁在里面三十年、五十年——每建一座煤电厂，等于一次性买下五十年的排放。
他举的例子很具体。团队做了三套 AI 系统：用卫星图像训练尾迹探测器，用标定系统纠正天气模型对冰面过饱和的偏差，再把增温最强的区域做成图，交给全球仅有的几家飞行计划软件公司纳入航线规划。与美国航空的试验把凝结尾迹的形成减少了 62%，他同时说明反事实很难做；而全世界所有飞机产生的凝结尾迹，大约占全部人为辐射强迫的百分之一。用他的说法，能花极小的额外成本做出气候收益，这种事不常有。
John Platt 是 Google Fellow，领导 Google Research 的「应用科学」团队，1998 年提出训练 SVM 的 SMO 算法、1999 年提出 Platt scaling，两项至今仍在 libsvm 和 scikit-learn 里。这场对话从他怎么挑科学问题，延伸到智能体在科研里的作用与过拟合风险、无梯度优化的价值、气候能压到什么程度，以及从卫星预警山火到室温超导这些具体项目。他的主要观点包括：
选科学问题看比较优势，不看独特性。 他给团队的标准是：哪些问题是 Google 花一块钱拿到的成果，远多于把这一块钱交给一位教授。数据密集、能用 AI 做好的问题，团队已有专长的神经科学、聚变与等离子体物理，以及与 Google 业务直接相关的能源问题，都符合条件；没有比较优势的问题就不做。
项目做不成，多半是工具和问题不匹配。 他把这比作缺少产品市场匹配，只不过匹配的不是市场而是工具和问题。团队多年前特别想做 RNA 和适配体，试的时候匹配度不够强就弹开了；如今有了 AlphaFold 3 这样的通用大分子预测器，情况已经不同。他的判断是，对不上就换个别的问题做。
凝结尾迹是能用 AI 修的气候问题。 冰面过饱和的空气里，一克煤烟或冰从发动机出来会带出十公斤水蒸气，凝结尾迹的增温约占全部人为辐射强迫的百分之一。团队做了卫星探测器、天气模型偏差标定系统和增温区地图三套 AI 系统。与美国航空的试验把凝结尾迹减少 62%，但他也说明反事实很难做，这是最近一次试验的结果。
智能体是让计算科学家产出提高十倍的工具，不是替代者。 他给的理由是，实验室科学受限于实验室运转的速度，而计算科学里大量是建模、处理数据的苦力活。ERA 的核心是先把科学问题转成「可打分任务」，再迭代写代码、改代码去优化打分函数。Michael Brenner 用一个晚上就让 ERA 复现并改进了某位教授的屋顶镜面光伏优化工作；但创造性跳跃的品味，以及把结论讲清楚并确认它没错，仍要由科学家把关。
排行榜上的过拟合，取决于你逼得有多狠。 他提到 Kaggle 上有凝结尾迹比赛，有人靠数据集生成里半个像素的原点定义 bug 占了便宜，赢比赛常常就是死命过拟合，这是古德哈特定律的例子。但很多科学问题单次运行很贵，要跑模拟或蒙特卡洛，像早停一样不容易过拟合；代价是尝试上百万次时就变得很荒唐。
梯度比无梯度方法有用得多。 在高维空间里，随机挑的方向基本正交、梯度非常小，全是平的，哪怕只是近似地找出上坡方向，价值也大得离谱，量子机器学习里的贫瘠高原问题就是找不到该往哪边走。他回忆自己很多年前就试过把对数损失换成合页损失做神经网络（也曾做过五百万参数的网络），结果有时更好、有时不。
气候是资本锁定的慢变量，只能一点点啃。 他指出，即使今天起不再新建任何化石燃料设施，已建成的设施里锁定的排放也足以把全球平均温度推过两度，所以他预测未来是为两度到三度之间每零点一度打的一场刀战。他不认为能造一个终极 AI 把整团问题解开，因为气候把技术、地球物理、经济和资本主义全绑在一起。
把制造的资本成本降下来，是气候的关键杠杆。 他说太阳能板的特点是资本密集但运行便宜，如果物理 AI 能把这类东西的制造成本降五倍，社会就会朝这些方向倾斜，而且设施仍需维护，岗位不会消失。他自己不做机器人，但看现在的成功案例「我能信」，也希望有人把这条路走通。
什么科学问题值得Google来做：比较优势与工具匹配
Ravid：你绝对是我们请过的嘉宾里最顶尖的那一档。好，我想从头聊起。你们团队的定位挺特别，算是计算机科学和物理、生物科学的交叉。现在做这个领域正是特别激动人心的时刻。所以我想先问你：一个科学问题要满足什么条件，才算适合应用科学团队去做？还有哪些问题是你们其实不想碰的？
John：这问题问得好。世界上科学家多得是，所以我们在 Google 做科学问题的时候，我不叫它独特性，我叫它比较优势。什么意思呢？我会问团队：哪些问题是我们在 Google 花一块钱能拿到的成果，远远多于把这一块钱给一位教授让他去解决？
有几个特征能带来比较优势。一个是数据特别密集的问题，因为 Google 的人非常擅长处理大规模数据，这可以追溯到 MapReduce，还有我们所有那些大规模计算的能力，现在又有大量 TPU 和 AI。所以如果我们觉得某个科学问题是 AI 能做得非常好的，我们就会去攻它。
我们做科学相关的东西至少有十年了。比如应用科学这个大口径下面有个团队一直在做连接组学，和很多神经科学家合作。所以在某些领域我们积累了一些专长，比如神经科学、聚变物理、等离子体物理。已经有内部专长的问题，我们可能有比较优势。还有一种情况，是我们和 Google 本身、或者和 Google 的客户有直接关系，这也构成比较优势。比如能源生产这类问题，因为 AI 数据中心，对 Google 来说非常重要。所以我们找的是自己认为有比较优势的问题。比较优势这个词来自国际贸易，来自贸易经济学。反过来说，我们倾向于避开没有比较优势的问题：这种问题反正总会有人做，或者我们把钱给一个学术界的人，他能做得比我们更好，这类问题我们一般就不做。
Ravid：那最后能不能说说，那些没做成的问题有什么共同点？就是那种你一开始觉得这问题太棒了，结果最后没做成的。
John：我们试过但效果不太好的地方，几乎都有一种——我这么说听起来像创业者了——几乎都是缺少产品市场匹配，只不过不是市场，而是工具和问题的匹配。
有段时间，那是好几年前了，我们特别兴奋地想做 RNA 和适配体，我到现在仍然觉得这是很有意思的领域。其实我儿子就在做 RNA 结构预测。但我们断断续续地碰过适配体和 RNA，至少在我们团队试的时候，匹配度不够强。当然现在有了 AlphaFold 3，那是个通用的大分子预测器，看起来做得非常好。
但就是这样，有时候你就是会从一个问题上弹开，因为你试的想法、手上的工具跟你想攻的问题就是不太对得上，那就换个别的问题做。
Allen：说到 RNA 还有 DNA，我记得核酸还有别的种类吧，我就好奇想顺着问一句。
John：对，核酸有很多种。DNA 和 RNA 是自然界最主要的两种形式，但还有一类叫 XNA，人工合成核酸，完全是人工造的，很有意思，但也难得多。科学家造出来的很多设备，比如 PCR 仪，当然对 DNA 和 RNA 效果最好。XNA 你是能弄到，但这里插一句，RNA 有点像计算机病毒。其实逆转录病毒就是被编程过的，它们的程序就是 RNA。所以世界上到处都是叫 RNase 的酶，本质上就是在分解 RNA，因为它就是大自然里的杀毒蛋白，真的。你就把它理解成杀计算机病毒的东西。所以 RNA 很好，很常见，很多系统都在用它，但大自然已经对 RNA 有防御了。你可以去用困难得多的 XNA，大自然不认识它，所以它不会像 RNA 那样一碰到你的皮肤就分解。但问题是，实验室里很多技术和仪器对 XNA 根本用不了，因为不是为它设计的。所以这里有个权衡。不过现在 Google Research 里确实有不少人关注基因组学，只是至少我这个团队不太碰药物研发和 RNA 本身那套很深的科学。
凝结尾迹：用AI修一个气候问题
Ravid：我想先从具体的项目聊起，其中一个就是凝结尾迹。凝结尾迹就是飞机后面拖出来的那种线状云，大部分几分钟就散了。有一小部分是在本来就冰面过饱和的空气里形成的，它们会铺开成薄薄的卷云层，把向外散的热量困住。这个效应非常集中，我记得大概是百分之二的航班造成了凝结尾迹升温里的百分之八十，差不多是这个量级。他们的赌注是，如果能预测哪些航班会产生持久的凝结尾迹，就可以调整这些航班，用很小的成本换来更大的气候收益。你给我们讲讲这个项目吧，数据是什么？你们到底怎么看这件事，为什么？
John：你是问我们当初为什么会想到做凝结尾迹吗？
Ravid：对。
John：好。那我先回答这个问题，然后再回头讲讲凝结尾迹背后的物理，那也挺有意思的。
当时我们刚收尾和 TAE 的合作，那是聚变方向的外部伙伴，我们在给他们做 AI 工具。那是二〇二〇年初，因为正好在疫情爆发之前——当时疫情在中国起来了，但美国还没有。后来我们几个人正好有三个月空档。我们就搞了一次大型的联合头脑风暴，大家抛出一堆想法，时间也够。不是说我们分心了，其实那段时间特别舒服，很多人都在往这个方向、那个方向深挖。
然后有两个人，Carl Oakland 和 Dave Fork，跑来找我们说，哎，凝结尾迹好像是全球变暖的一个来源，也许我们该试着治一治。一开始，这事就说明，你得特别小心。如果你说，这没道理啊，尾迹怎么会造成全球变暖？但我一研究就很快明白了，就像你说的，是冰面过饱和的问题。飞机飞过那些像煎饼一样一层一层的区域，有点像冰糖。你知道冰糖吧？一杯冷水里放了太多糖，超过了结晶点，你只要给它一点点结晶的引子，它就会整个结晶成糖块。大气里也差不多是同样的事，只是没那么密。你加一点煤烟或者一点水，变成冰，从喷气发动机里出来的时候还是热的。如果一克煤烟或者冰从发动机里出来，最终会带出十公斤水蒸气，形成凝结尾迹。这个放大倍数大得离谱。所以这些飞机本身排放并不多，但这里有这么一个糟糕的放大效应，出来的冰多了上万倍。比如在欧洲上空，模型的看法是，欧洲有百分之几的面积，实际上被人类活动产生的尾迹卷云覆盖着。
所以这是个很大的问题，因为那些卷云在可见光下是白的，会反射一点阳光。但在红外波段，地球是个黑体辐射源，一直在往太空辐射红外。你多了一些卷云，在那个波长、在地球这个温度下，它们看起来是黑的。所以它们其实吸收了一部分红外，再往上往下重新辐射出去。它们就像一层小毯子。而且这是二十四小时都在发生的，而反射阳光只发生在正午前后，太阳落山就越来越弱。所以净效果是增温。我了解了以后就说，哦，这下讲得通了。事实上模型的估计是，这大约占全球人为变暖的百分之一。这相当于未来一百年里，我们预计每年造成的所有变暖当中，有一部分就来自凝结尾迹。
Ravid：百分之一？就是全世界所有飞机加起来？
John：全世界所有飞机产生的凝结尾迹，大约占全部人为辐射强迫的百分之一。这是把所有二氧化碳、所有东西都算进去的那个总量。所以这其实是个不小的增量。
这是个气候问题，但我们其实可以用 AI 修好它，因为我们做了三件相关的事。第一，看卫星图像，你可以建一个自动探测器。即使是地球同步轨道上的气象卫星，它们的红外波段也能看到尾迹正在形成，然后扩散成卷云。所以我们做了一个探测器，属于经典的计算机视觉检测。第二，有了这个，它既是验证系统，也是训练数据，我们做了另一个东西：什么样的天气状况会产生尾迹卷云？物理机制我们知道，就是冰面过饱和，但天气模型并不精确，有偏差。所以我们又用一个类似标定的系统在上面把偏差纠正过来。第三，我们做了另一个系统，本质上是在估计哪里增温最强，把这些地方标出来，然后把所有这些数据做成一张图，告诉人家哪里的尾迹增温最强，再把这张图，其实是体素数据，交给飞行计划软件。全球其实只有几家公司做这种软件。通常不是航空公司自己决定怎么绕飞，他们把这个软件问题外包给第三方，而做这个的没几家。我们把图交给他们，他们开始把它纳入航线规划。所以我们会生成这些图，标出哪里会产生大量尾迹。然后我们再验证，用卫星探测尾迹，告诉人家他们到底有没有避开。这里面每一个都是重度依赖 AI 的系统。
Allen：听你说了这么多凝结尾迹的事。那人工增雨呢——是谁来着，泰国国王还是谁——他真的坐飞机上天，往云里撒东西，我忘了撒的是什么了，就是有策略地撒播，让雨下在自己那边。据我了解，人工增雨背后还是有一点科学依据的。所以我想问，你觉得 AI 在这上面能帮上大忙吗？
John：人工增雨，那是另一回事。凝结尾迹出现在对流层和平流层之间的边界上，所有天气现象都在对流层里，平流层非常稳定。那个边界叫对流层顶。尾迹差不多就在对流层顶附近，那里是天气能发生的最高处。所以它纯粹是个辐射边界上的事。人工增雨其实发生在更低的地方，用塞斯纳那种小飞机就能撒。物理上有点类似，是想在潮湿空气里造出小凝结核，好让它下雨，本来是想用来抗旱的，比如你特别缺水的时候。几十年来，科学家都判断不了人工增雨到底有没有用。
最近有一些证据表明它确实有正面效果。结果发现云这东西复杂得离谱。这也是气候模型这么难标定、难精细化的部分原因，云的物理过程真的非常复杂。我做凝结尾迹这些东西就知道了，不确定性很大。这也是他们说不清人工增雨有没有用的部分原因。我没去看过改进后的模型能不能提升人工增雨的效果，我没往那边查，可能已经有论文了，我不见得非得知道答案。但云的物理肯定还是个开放问题。尾迹到底增温多强，很大一部分不确定性来自我们不知道冰晶的确切形状。它们形成的是微米级的小冰晶，我们不知道它们具体什么形状，不知道它们下落多快，不知道尾迹多快混合消散。不好意思，自从做这个之后，我花了好多小时就盯着天上的尾迹看。它们的形状各式各样。而且人们在雷达上看到，因为冰晶下落速度不同，尾迹其实有三维结构，不只是个椭圆，它们会拉伸，有挺有意思的结构。
而云物理里的这种不确定性，又影响到气候模型的不确定性，这也挺有意思。不过，AI 也许能帮上人工增雨，我只是刚好不知道确切答案。抱歉。
Ravid：那你现在有了这么一套流程，结果怎么样？你们怎么测的，分哪几个阶段之类的？
John：好，我们跟真实的航空公司做过好几次试验。一部分是通过飞行计划软件做的，一部分是临时搞的办法，想把尾迹信息直接送到飞行员手里。我们跟美国航空做过非常成功的试验，做过好几次，最近那次显示能把凝结尾迹的形成减少百分之六十二。
当然，反事实这一块很难做，但基本上没有或者只有极少的额外燃油成本。所以，我们知道用我们的检测系统和预测系统，可以大幅减少凝结尾迹，而对航空公司的账本几乎没什么影响。我觉得不少航空公司为此很兴奋，因为能花极小的额外成本去应对气候变化，这种事不常有，而我们好像刚好撞上了。
Allen：那你怎么看纳维–斯托克斯方程？比如说它带来的那种影响，就是湍流背后的那个数学方程，那个千禧年大奖难题。据我了解，他们并没有解决湍流问题，我们仍然需要风洞这些东西。你觉得，这批最新的 LLM 系统带来的数学优化，会不会让飞机设计这类领域开始出现奇迹？
智能体能替科学家做什么：纳维-斯托克斯与编程
John：哦，这个我们得说清楚。你指的应该是最近那个千禧年大奖难题，就是想知道能不能找到那种解。好，那我先说一下，我这辈子断断续续做流体力学，算下来也有几十年了，所以这里得特别小心。
千禧年难题问的是纳维-斯托克斯方程的一个特定性质：有没有可能存在某种解，在没有外力推动的情况下，在有限时间内就爆掉、变得不稳定。这纯粹是方程本身的性质问题，并不意味着这个方程现在不够准。实际上，谷歌在加州山景城的总部旁边就是NASA Ames，那是NASA一个很棒的部门，存在几十年了，他们那儿有巨大的风洞。有些风洞你开车走101号公路就能看到，像个飞艇机库。其中很多亚音速风洞已经退役了，原因恰恰是纳维-斯托克斯的模拟已经足够好。这种事儿不常见，但你举的这个例子，恰恰是模拟对亚音速飞机这类东西已经足够好的地方。
仍然是谜的是高超音速，那个当然难得多。NASA Ames和其他研究实验室是有高超音速风洞的，那里的物理规律可能没那么确定，因为它是被推到那么一个很奇怪的区间里，所以他们还是得做高超音速风洞实验。但也有很多地方，模拟是不准的。比如云物理，还有聚变等离子体，非常难正确模拟，主要是因为要做对，你需要太多粒子了。你其实可以逐个追踪每个离子或电子，但计算成本高得离谱。
John：所以有很多极其复杂的系统，比如量子力学。这也是为什么大家喜欢量子计算，因为它的状态空间是指数级的。如果你有n个电子，你就需要差不多2的n次方，内存得能放下2的n次方。
John：所以内存很快就爆炸了，你建不出足够大的内存来正确表示一个原子，哪怕是一个很大的原子或者一个分子，都做不到。但流体力学不属于这一类，至少亚音速流体力学是表现得很好的。所以直接回答你的问题：不，我不期待什么奇迹。
但另一方面，我很兴奋我们有这个叫ERA的项目，全称是经验性研究辅助。你可以让智能体帮你给这些极其复杂的系统建模，用真实数据去约束它们，建一些简单的、也许是近似的模型，而在AI智能体的协助下做这件事，比让一个或一小队研究生花一两年去写软件要快得多，也许偏见也更少。我们发现，对各式各样的预测问题来说，这实际上是最有效的解法。我们发表过的一个题目同样很难，因为它涉及人的行为：下周美国每个州会有多少流感和新冠病例？大家得记住，流行病学本质上是社会问题，它其实是在猜人会怎么行动，因为细菌和病毒是非常可预测的，但人非常不可预测。可我们基于这种智能体化方法做出来的新冠和流感周病例预测，却是最好的。所以在那些变得极其复杂的情况下，智能体式AI看起来确实有用，这挺酷的。
Ravid：在科学里作为一套框架，你的观点是什么？你觉得智能体，还有能自我改进的智能体和LLM，在哪些地方真的有用，又在哪些地方其实没那么有用？
John：我不认为它们会取代科学家。我把它们看成一种超级工具，能让科学家的产出提高十倍。尤其是计算科学，那是它们真正能唱主角的地方。如果是实验室科学，你还是受限于实验室运转的速度。但你看计算科学，其中很大一部分是苦力活：我得建个模型，或者得写点软件来处理我的数据，不管数据是来自计算实验还是实验室实验。尤其现在，比如天文数据，望远镜一晚上就产生几个TB的数据。所以就是大量非常枯燥、非常需要细心的活儿。
John：这些活儿，软件开发可能要花几个月甚至几年，而且很多时候并不是说给我一份规格说明，我照着写代码就行。你没法像标准软件那样做，因为很多地方技术性很强，涉及建模选择之类的东西。所以我认为智能体会非常非常擅长把这件事迅速加速。
John：举一个纯粹好玩的例子。Michael Brenner是Google科学AI团队的负责人，他和我还有另一位Googler，他当时就决定了——其实他很厉害，经常就决定一个晚上写一篇论文。我当时就说，哦，有这么一篇好玩的论文，是MIT的某个人写的，
John：他做了个小优化器：给定一块屋顶面积，你能搭出什么样的、由镜子和光伏板组成的三维结构，让太阳一天下来产生的总焦耳数最大化？
John：前提是你被限制在某个矩形里。于是Michael就花一个晚上用ERA跑了一下，去复现他们的工作，并试着做得更好，结果确实更好。而且那个智能体甚至把那位教授做的模拟器也重新搭了一遍，因为这玩意儿不算复杂，又不是量子物理。他一个晚上就搞定了，而我敢肯定那位教授或他的研究生当年是花了好几个月折腾才弄明白的。这就是个例子，说明大量枯燥的部分被消掉了。
你心里得先有一个问题，你得非常仔细、非常严谨地思考，怎么把一个科学问题转化成智能体能做的任务。ERA的工作方式是，它有个东西叫可打分任务，相当于有一个质量函数或者打分函数，它不断迭代。它不是从N个里挑最好的那个，它更像是构建一棵可能性之树，然后不断写代码、改代码去优化那个打分函数。我们还有另一个智能体，帮科学家把他们写的对问题的描述转成一个可打分任务，这本身也是个智能体任务。两者结合，科学家在环，你就能很快地建出这些模型来解决这些科学问题。所以我觉得，很多枯燥的活儿会消失。
我认为科学家仍然被需要的地方在于品味，比如你想做哪些问题。总体来看，智能体需要高水平的专家来解决两个问题。一个是创造力。我不知道我们的数据够不够。不同事情的数据是很多，但你希望它能做出非常有创造性的跳跃，而要想拿到大量高质量的、很有创造性的跳跃的训练数据，是很难的。人类的疯狂创造力有一条很长的长尾，要做一个训练集让智能体或者底层模型去模仿创造力，真的非常非常难。图像生成这种当然可以，因为它看过很多图像，也挺好玩。但科学上的创造力，这种数据很难造出来。所以创造力这块，我认为还是科学家的地盘。另一个地方是严谨和清晰。
John：我觉得还是得有人，尤其是专家，来真正把把关，确认这东西在科学上是对的，而且是能讲清楚的。我见过的一些输出，说实话，你让agent或者底层的LLM去写篇科学论文，它确实能写出来，但写得挺平淡，有时候还不太清楚。所以要确保它表达清楚，能让别的科学家看懂。我觉得还是得有人来确认它没错、没在编造，想法本身表达得清楚，你从系统里学到的东西也能清楚地表达出来，好分享给别人。这些地方我目前还没看到科学被替代。
Ravid：现在就只有一堆agent在试各种不同的东西。它们过拟合特别严重，对吧？它们会去拟合公开的排行榜，但换成私有排行榜之后就差得多了。你在自己的经验里也见过这种情况吗？
John：我觉得这取决于你逼得有多狠。因为Kaggle其实算是Google的一部分，所以我认识Kaggle团队的人。
John：其实早在没有agent帮忙的时候，大概是一年多以前吧，你就能看到人在Kaggle比赛里过拟合。我们还办过一个凝结尾迹的Kaggle比赛，那个特别有意思，因为我们发现数据集生成里有个bug，差了半个像素。本质上就是原点定在哪儿的定义问题：是左下角那个像素，还是左下角的中心？就差半个像素。结果有人找到了它，靠这个半像素的bug占了便宜。
John：但确实，很多人赢Kaggle比赛，
John：靠的就是拼命过拟合这个任务，这在人类里其实很常见。所以没错，只要有个排行榜，你就有可能把最后那0.01挤出来然后赢。而且在Kaggle上这么做是有激励的，赢了就能吹一波。
John：这又是古德哈特定律的一个例子，对吧？一个目标一旦变成指标，它作为目标就不再好用了。
过拟合、Lean内核与无梯度方法之争
Ravid：如果我们用 Lean 来写，那我们就能说：好，只要这个证明能用 Lean 表述出来，我们就能信它，对吧？但据说会出问题。比如 Lean 的实现里要是有内核 bug，而 agent 又会去攻击它，你跑足够多的 agent，它们总会找到这些 bug，然后用这些 bug 去证明一个错的东西。人类的话，我们知道他们是想把问题解出来，但我们也知道他们不会为了解题去找 Lean 的 bug，一般来说，绝大多数时候不会。
他们确实是想把问题解出来，但我们知道他们不会去找 Lean 里的 bug，而是来解题。我想说的是，这个问题看起来严重得多。你同意吗？
John：他们确实找到了那个半像素的 bug，所以我也说不好。虽然那不算内核 bug，不过确实。
Ravid：那你觉得，这个问题看起来严重得多。你同意吗？
John：有可能。这取决于一次运行的成本。这真的取决于你看的是哪个场景，对吧？如果一次尝试很便宜，你能做几千几百万次，那过拟合确实是个问题，因为它会去挤那最后 0.01。而我们碰到的很多科学问题，恰恰是单次运行相对昂贵，因为你要有个模拟器，或者得跑某种蒙特卡洛模拟。所以这有点像神经网络里的早停：你不太容易过拟合，只是因为你的射门次数受限于每一次都要花时间，因为内层循环里你得跑模拟、跑蒙特卡洛，得做点昂贵的事。这会有帮助。我不是说这样问题就解决了，但它真的取决于风格，这不是一个全局性的问题。而且我觉得这跟我们在神经网络里的做法很像：你得做验证，得有个 critic，或者得有个人看一眼说，不行，这说不通。
但你说得对，这种可能性确实存在，尤其是当你把东西优化上百万次的时候，就会变得很荒唐。这是个经典问题。我觉得这几乎是宇宙的固有属性：只要你对一个很复杂的系统定义了一个损失函数，它就会跑到某种很古怪的状态里去。也许这就是统计学习理论的一个性质吧。
Allen：那你怎么看无梯度方法的用处？我一直觉得梯度对问题的几何形状做了很多假设。而彩票假说又说明，大多数问题都存在大量非常好的局部解。你觉得今天在机器学习里，不带梯度信息的全局优化器还有没有位置？
John：我其实挺怀疑的。有各种各样的结果，比如跟遗憾界相关的那些。但可以这么想：如果你在一个十亿维甚至万亿维的空间里，很多方向根本就是没用的。而找出哪个方向是上坡，哪怕只是近似地找出来，比如用随机梯度下降，那价值是巨大的。因为在高维空间里，绝大多数方向，你要是随机挑，基本都是正交的，梯度非常小，全是平的。量子机器学习里这个问题特别严重，叫贫瘠高原问题，他们压根不知道该往哪边走。所以梯度是个极其有用的东西，有用得离谱。
无梯度方法我也玩过一点。其实 Google 有位很有名的人叫 Quoc Le，他当年在微软研究院我的组里做过实习生，大概是 2004、2005 年前后，他做的就是这方面。所以我对无梯度方法其实挺怀疑的，因为在十亿维、万亿维的空间里，哪怕只有一点点提示，哪怕只是稍微偏向上坡的方向，价值都大得离谱。而且这背后也有数学定理支撑。
Ravid：序列最小优化，那是很久以前的东西了。你觉得我们能不能给它搞出一个新版本，用来解决现在的问题？
John：你可以把 SMO 看成一种近似随机梯度下降，它要找的是在给定这个二次规划的前提下，往哪个方向走上升最快、变化最小。但二次规划非常依赖 SVM 特有的数学结构。本质上你可以把 SVM 看成是对损失函数做手脚。因为比如说最简单的二分类情况，你用一个 sigmoid 输出单元，配交叉熵，就是 t 乘 log p 加上 1 减 t 乘 log 一减 p，然后 sigmoid 单元正好是这个损失函数配套的连接函数。你把它映射回 logit，看起来就像个斜坡，渐近上是一段线性、然后是平的，中间有个指数式的过渡。而 SVM 的损失函数不搞这种平滑版本，它就是一条尖锐的合页损失。
好处在于：所有落在平的那一段上的样本梯度都正好是零，也就是说你可以直接把它们丢掉，这对效率又是好事。所以你可以把合页看成对数损失的一个近似，但它有个很漂亮的性质：存在一大片梯度严格为零的区域。这基本上就是两者的区别。当然，合页不可微，而那个函数是可微的。
所以回答你的问题：这事我很多年前试过。差不多二十五年前，我就试过直接在神经网络里把对数损失换成合页损失。结果我不确定有没有拿到更好的效果，有时候更好，有时候不。当然我从来没在十亿、上万亿参数上试过，二十五年前根本没有这种东西。九十年代初我做过一个五百万参数的网络，现在看是微不足道了，但那是三十三年前，当时上线的时候，大家都觉得这已经很大了。按摩尔定律折算，那就相当于今天的上万亿参数。
Ravid：那你总体上怎么看「苦涩的教训」？你同意 Rich Sutton 那个观点吗？就是总体上只要 scaling 就够了。
John：我确实有点担心。它确实非常有用，这个判断到目前为止是成立的。但我担心我们正在撞上一堆现实世界的约束：训练要数据、要芯片、要能源、要数据中心。所以理论上能无限扩大训练当然好，但总得有人去供电、去建数据中心。所以到某个点上，这几乎变成了一个抽象的说法。
它到现在确实非常成功，但在很多条轴上我们会慢慢没劲，所以可能就得去想别的办法。我不知道替代方案是什么，也不知道怎么用随机梯度下降取代 transformer，因为它们实在太好用了。但到某个时候，这事会变得非常困难、非常非常贵。其实你看看那些超大规模厂商在基础设施上砸了多少钱，就知道它不可能永远指数增长。
Ravid：下一代的 agent 和 transformer 确实在某些任务上有优势。哪些任务你会说，好，这个该用，那个不该用？
AI用在哪儿、风险在哪儿：从编程到气候乐观度
John：我特别兴奋的是编程，以及跟编程相邻的方向，比如我刚才提到的ERA——经验性研究辅助。这些工作本质上是在建模型，而很多应用科学的建模里有大量枯燥的苦力活。另外还有你提到的那类可检验的东西，比如能用Lean检验的数学。所以我觉得还有很多可以学、可以玩的空间。我们到现在还在摸索怎么用这些agent拿到科学突破，我觉得接下来十二个月会非常非常有意思。
目前很多工作还停留在数学那一侧。比如你刚才说的纳维-斯托克斯方程，我几乎会把它称作纯数学问题，而不一定是科学问题。所以接下来非常有意思的事情是：怎么把AI编程变成真正漂亮的科学成果。我觉得这还是个开放问题，但未来十二个月我们真的会学到很多。
Ravid：换个话题：把机器人的视频当输入，直接输出机器人代码，比如让GPT-5给机器人写指令、带轨迹追踪之类。Adam之前分享给我看过，效果还挺好的。你觉得这是一条好路子吗？
John：我不是搞机器人的。虽然我肯定玩过一点，尤其孩子还小的时候，我用Arduino做过一些机器人，但没用agent，完全不是一个量级。所以我肯定不算专家。不过看现在这么多成功案例，我能信。而这对社会来说太令人兴奋了，我跟你说为什么。
很多妨碍转型的东西，比如为什么我们不能直接把社会改造成不伤害气候的样子？归根到底都是制造新东西的资本成本。实际上，气候友好的方案，比如太阳能板，特点恰恰是资本密集但运行便宜：你建一次要花钱，之后就是放在那儿发电。很多事都是这样，前期砸一笔钱，然后让它自己待着。如果我们能把这类东西的制造成本降五倍，那就是彻底的翻盘。
如果能造出新的东西，整个社会就会朝那些过去资本密集的方向倾斜。它们的资本成本降低了，因为制造成本更便宜，而且长期看不用买燃料，放在那儿也不排二氧化碳。所以如果我们能用大模型解决物理AI的问题——不是说解决抽象层面，而是真正把造东西的成本降五倍——那对气候变化会是巨大的正面影响。这不是我的本行，但我算是在场边挥舞花球，给搞物理AI的人加油，因为我真心希望他们能解决这个问题，那对全世界都是巨大的好处。
而且这些设施还会需要维护。也就是说，如果能大幅降低资本密集度，这里面仍然有大量的工作和岗位。我不认为那意味着工作会消失，我觉得岗位还是会很多，只是不再有那种资本上的阻塞，挡着社会往气候友好的方向转型。你刚给的那个例子我没听说过，但真的特别酷，能不能把链接发我一下？听起来太酷了。
Ravid：但也有人会说，人类最后会毁灭世界，大概是这个意思。你怎么看风险？你做了很多AI正面的事情，就是怎么让它真正给世界带来巨大好处，那你怎么看风险这一面？
John：我不觉得AI自己就能把世界毁了，但我确实觉得误用有风险。而且我知道有一批特别聪明的人在想办法降低这些风险，我真的很感谢他们。其实我特别希望看到更多人来做这件事。如果有年轻的研究生刚起步，我很希望看到更多人去做风险缓解这一块。负责任地部署这些东西，非常非常重要。
这样的人真的不少，我认识其中一些人，确实有一批非常非常聪明的人在琢磨怎么防住误用，我非常感激他们。
我自己呢，是想确保它带来的是好处。换句话说，我做科学、做AI for science，就是因为我想做对社会有正面价值的事。我做AI应对气候，也是这个原因。那气候变化我们能解决吗？我们能造出聚变这样的新能源吗？我们能帮忙做出新药吗？这类事。所以我觉得两头都得记住：一方面要负责任地部署，要有大量的风险缓解和护栏；另一方面，也要确保它被用在真正能改善社会的地方。所以我一直关注的是，我们能做点什么让世界变好一点。当然，我特别感谢那些做风险缓解的人。
Ravid：那气候变化这件事你乐观吗？我们真的能把它压回到可控的水平吗？AI在这里面能起什么作用？
John：气候变化跟AI恰好相反，它不是那种突然爆发的事。AI这几年是猛地变强了，其实很多用智能体做科学的用法，也就是最近十二个月才真正跑通。之前我们玩了十年老一代的AI，比如卷积网络，或者那些专用模型。但气候变化是个推进得非常非常慢的问题，原因是……
John：说到底还是资本的问题。这些化石燃料基础设施，你建起来就要用三十年、五十年。所以你每建一座煤电厂，等于一次性买下了五十年的排放，除非你决定把它关掉，而关掉非常贵，因为替换它的成本非常高。所以这是个移动很慢但很严重的问题，它不是哪天突然来一场灾难。
气候临界点我们并不清楚，那些东西极其极其难以预测。但先不把它算进来，因为实在太不确定了。剩下的就是一年接一年、没完没了地稳定升温，二氧化碳一年比一年高。所以这件事很紧迫，因为我们不能一直这么干下去。联合国已经说了，一点五度我们肯定要超，而且很有可能要超过两度——注意这是相对工业化前、大概一八五零年那个水平的全球平均温度。
主要是因为，如果假设人们不拆掉化石燃料基础设施、继续用下去，那么光是已经建好的这些设施里锁定的排放，哪怕今天起不再新建任何东西，也足以把我们推过两度。所以我预测这会是一场刀战，为两度到三度之间的每零点一度打一场。没错，每零点一度都让情况更糟、更糟、更糟。所以这场仗值得打，就是不让它多出那零点几度。但情况也不是说，哦，会是二点五度而不是二点四度，不考虑临界点的话，不是说二点五度就灾难、二点四度就没事，而是非常糟糕、然后再更糟糕。所以尽量压低峰值温度是件非常好的事。
我们在尽量用AI把峰值压下去。但话说回来，如果能把聚变这样的问题解决掉，如果它足够便宜、能在全世界快速铺开……还是要说，改变原子世界是个非常慢的过程。所以如果我们能搞定聚变、物理AI，再把太阳能板的成本降到五分之一，是有几个正向的临界点的。
Ravid：会不会答案其实都是些很无聊的招，比如干脆少用点能源？要不我们交给某个AI系统，给一个经验性研究辅助智能体，让它去解决全球气候问题？
John：哦，大概不会是少用能源，因为……
John：在几乎每个地方——只有几个经济体例外，就是最发达的那些——能源强度已经脱钩了，往里砸更多能源，国家也不会更富。但对很多国家来说，用的能源越多还是越富，这非常容易理解。事实上这是长期的、以百年计的预测：最终地球上每个人的人均能耗都会跟美国人一样，那是极其巨大的能源量，而这会是件好事，会把所有人的生活水平抬起来。只不过这些能源必须几乎零碳地供应，否则就是彻底的灾难。
所以我不是那种极端乐观派，觉得我们得先造出AI，再让AI去解决气候变化。因为就像我刚才提到的，这是个社会问题，是个所谓的棘手问题。它把技术、地球物理、经济、资本主义全绑在一起，你要么把整团东西解开，要么一点点啃。里面有几个非常强的杠杆点，这也是我对聚变这类东西兴奋的原因。
我也可能说错。我不觉得这个系统复杂到可以让我们直接说：来，造一个终极AI，让它去解决这个问题。我觉得只能一点点啃，因为我们谈的是真实世界、真实的人和真实的经济。不是那种，哦，我们搞出一个奇迹系统，一切就奇迹般地好了。这里有太多问题必须同时解决。
FireSat与室温超导：卫星能抢回多少时间
Allen：你怎么看室温半导体？我记得在生成式AI这波之前，有个研究者，好像是韩国的，靠一些关于室温半导体的说法短暂地吸引了全世界的目光。
John：是超导体。我们眼前这些东西本来就是室温系统，抱歉，我指的是超导体。
Allen：你觉得这东西有戏吗？AI会帮着把它做出来吗？它的影响会不会像实用的聚变发电那样具有里程碑意义？
John：这个真的很难预测。我们最近刚发了一篇论文，找的是一批高温超导方面的专家，所谓的高Tc，就是材料变成超导体的那个转变温度。我们请了很多高温超导专家来用——那是个比较老的智能体了，论文刚发出来，不过因为从投稿到出版拖得太久，这个AI现在看已经有点过时。所以我们至少跟专家聊过。
这件事能不能解决，非常非常难预测。因为做这类计算实验的时候你必须特别小心，这里面常常会出现几乎是偶然的跳跃，比如当年发现铜氧化物那样。高温超导体是分家族的，铜氧化物算一类，还有别的几类。我不知道当时有没有什么线索，反正每个家族几乎都是碰巧、偶然被发现的。而一旦你发现了其中一个，你就可以开始做局部搜索，把一片填满，然后可能再做局部优化；接着又出现一次跳跃，再做一轮局部优化。所以很难讲。
低温超导我们大概理解它怎么运作，那叫BCS理论，跟库珀对有关，我们大致明白它为什么成立，但高温超导背后的很多物理机制到现在还是个谜。而且对于还没被发现的新东西，我们甚至根本不知道会是什么样，所以很难找。所以是有可能的，我抱有希望，我们能找到高温超导体。我还是想鼓励一下年轻的研究生，虽然这条路风险挺大，他们可能不太愿意做，但这确实是非常值得一试的方向，只是有不确定性。
那它能不能改变世界呢？如果我们能让聚变在经济上变得可靠……
John：高温超导，准确说是室温超导，会让聚变变便宜。那当然会让天平往有利的方向偏，因为你不愿意花那份钱，当然这取决于那种神奇材料有多贵。很多聚变公司现在在造几千公里长的带材，用的就是这种神奇的高温超导材料，虽然温度也不算特别高，得泡在液氮里。液氮没那么贵，我记得按单位体积算，大概跟牛奶差不多价钱。所以它未必就能革命性地改变聚变。
那对电力传输有帮助吗？有一点。我是说，这里有限制。其实高压直流线路很有意思，你要是有兴趣可以去看看。这里面甚至有相对论性的限制，输电是有上限的。交流线路在几百公里以外损耗就太大了。所以如果你真想把电送过一整个大陆，比如这边白天发电的太阳能板，把电送到那边天黑的地方，那会非常方便，唯一可行的办法就是HVDC，高压直流输电。因为本质上它就是一个巨大的烤面包机，这叫焦耳热。而且这里面有限制：HVDC电压越高，损耗越低，但实际上存在相对论限制，你没法超过大概一百五十万伏。而理论上，超导线是没有损耗的。
John：但还不清楚，还是得看具体细节——抱歉，能源领域永远是这样，全看细节。它取决于这种神奇的室温超导体成本有多高，对比一下，比如干脆多加些铜。这里有个取舍，用铜把电送上几千公里到底够不够便宜。因为我们根本不知道那种材料是什么，所以我没法判断它会不会便宜到能颠覆一切。抱歉，能源这事非常复杂，通常没有银弹，全靠那些又脏又烦的细节。
Ravid：我想聊聊FireSat，因为在我看来这项目太酷了。能不能讲讲，你为什么想去解决野火检测这个问题？
John：好。野火既是对社会来说很严重的问题，而且随着气候变化会越来越糟。它有多严重很难估，但它本身可能也在加剧气候变化。我按顺序说。
John：世界卫生组织说，野火光是烟雾，一年就造成三十万人超额死亡。你想想，烟雾里的细颗粒物真的会让人得病。
John：加州枯死的树超过一亿棵。所以随着气候变化越来越严重，把森林一片片弄死，很多森林里全是枯树，就更容易烧起来，健康问题也就更糟。
你可能会觉得野火对气候来说基本是净零的，但稍微想想就知道不是。如果森林因为气候变化没法自我恢复，那它烧掉之后就长不回来，这实际上是向大气里净排放二氧化碳。所以野火反而让气候变化更糟。所以只要能做，我们希望能保住这些森林。
John：当然，在气候变化面前这很难。但如果我们能不让它们一把大火把什么都烧光，对气候变化就有好处。
我们至少做过建模、做过统计研究，结论是：如果你能在火还非常小的时候就发现、就收到警报，而且从森林管理者的角度看处理它是对的做法，那么扑灭一场小火，比扑灭几公顷的火容易得多。到了几公顷，就难多了，而且很容易蔓延开。所以只要能早期发现所有火情，并且你愿意去干预，就能把过火面积减少相当一部分，可能少一半左右。
麻烦在于，早期探测火情有各种各样的方案。从全球角度看，最容易、也是最好的办法，是搞一个低轨的全球卫星星座，直接探测野火。
Ravid：那为什么不用现有的卫星呢？
John：这个问题很有意思。你可以从很远的地方，比如地球同步轨道上用AI超分辨率，用的还是我们做凝结尾迹时用的那些气象卫星，但像素太大了。红外波段上探测火情的像素大概横跨两公里。所以很遗憾，你能发现的最小的火也就是几公顷，跟今天比抓不了更早，改善不了多少。所以你需要更高的分辨率：要么你离得更近，像素就更小。那就得靠飞机，或者像加州那样装一大堆摄像头。但那些离地面太近，你得花很多钱到处立杆子装摄像头，太贵了。所以甜点区是建一个低轨星座，分辨率够好，能发现大约二十五平方米的火。
John：同时又不用离地面那么近，不必到处装摄像头，所以差不多在最优的位置上。
我们正在做这件事。我们设计传感器，还凑了一批慈善家一起来做。这个项目由一家叫地球消防联盟的非营利组织牵头，我们是参与者。我们帮他们设计了传感器，他们则委托一家叫Muon Space的公司来建造和运营卫星。我们要做的贡献是，把我们擅长的AI超分辨率算法拿过来，看能不能在低误报率下探测到小火，然后把信息分发给各地的消防部门，让他们觉得该处理的时候能尽早把火扑灭。因为有时候你是想让火继续烧的，还是得看你怎么管理这片森林。
Allen：我住在俄勒冈，过去几个夏天，野火对我们这个平时空气最干净的州来说是个非常严重的问题。所以这事跟我、跟整个太平洋西北地区的人都太相关了，我真希望它能停下来。
John：是啊。其实我就住在西雅图。所以没错，现在都变成五个季节了。或者说在西雅图，就是潮湿、夏天，还有烟霾。烟霾是八月多出来的一个季节，真的让人非常难受。很多地方都这样，尤其是在太平洋西北，我们完全不习惯。
Ravid：我有个关于经济性的问题。你觉得这事真能规模化去探测吗？要探测所有这些火灾，你大概需要很多钱。
John：我们得有足够的钱，建一个大概五十颗卫星的星座，因为这样能给你二十分钟左右的预警时间，这基本够用了，八十颗当然更好。
John：对。我们看商业计划的时候，比如说，加州光是给本州的网络摄像头就花了一亿五千万美元。比建五十颗卫星是少一些，但基本是同一个量级的钱。可这笔钱本来是可以花在全世界的。
问题是，我们得想办法——这里有点像公地悲剧——得让人愿意掏钱，既为自己，也顺带帮了世界其他地方。但考虑到野火造成的损失是几十亿几十亿美元，这笔投入不算什么，它只是全球野火损失里很小的一个比例。而且这是一套全球性的方案，覆盖范围大概是从南纬五十五度到北纬五十五度，其实北纬五十五度以北也有覆盖，那边是冻原，不过我还没听说有谁愿意跑到那么北去扑冻原的火。所以它是全球性的。
Ravid：这里有很多科学上的难题吧？比如说误报，像营火、工厂的热源之类的。你们做这种算法的时候会考虑这些吗？如果考虑，是怎么处理的？
John：我们做过早期实验，但全球系统还没部署，那个是要建的。卫星方面我们刚发射了四颗，其中三颗就是几个月前刚发的，所以结果还有待观察。不过我们手头的数据很多。Google在这件事上很有优势，因为Google Maps，我们知道地球表面上很多东西在哪儿，所以我们有数据来判断哪些地方可能出现误报。你也可以从以前的观测里学到东西，比如那地方之前是热的，现在又热了，还一直热着，你懂我意思吧。所以你可以靠一颗在轨运行的卫星积累经验，识别出这是一个新的热源。
不过话说回来，如果你看现有的卫星，它们的分辨率其实更低。NASA有MODIS，还有VIIRS，分辨率偏低，而且重访周期是十二小时，不够快。但用它们你能看到一些误报，比如在赤道非洲一带。所以这个问题我们还得解决。我不敢说已经解决了，但我们认为它是可解的，不是无解的。
Ravid：你还有什么想补充的吗？
John：我想不出来了。不过谢谢你邀请我，这次聊得很愉快。
Ravid：非常感谢。能请到你真的太荣幸了，真的很精彩。你在做的事非常了不起。
John：没有啦，我只是尽力去做。
Allen：是啊，真是二十一世纪的通才。
John：我就是喜欢很多不一样的东西，自然界里太多太多东西我都觉得特别有意思。所以我一兴奋就去了解它，然后试着做点什么。我也说不清。
Ravid：太好了。John，再次非常感谢你。真的，就是努力在世界上做点好事，站出来，真正在世界上做点好事。
John：这就是我决定要做的事，也是我想做的事，所以我就去做了。
Ravid：太好了。John，再次非常感谢你。
John：好，谢谢你。
原节目：The Information Bottleneck《John Platt (Google): AI for Climate and Science》
中文播客：在小宇宙App搜《播客快译》，或直接访问下面的链接
https://www.xiaoyuzhoufm.com/episode/6acad22b195d838e2aeff74a
编译：磊哥Thomas