【新智元导读】谷歌 DeepMind 内部有一位任职九年的哲学家，其发明的对齐框架直接影响了 Gemini 的训练决策。然而，当 6700 亿美元涌入 AI 赛道、公司签署军事协议之际，一位哲学家还能在商业洪流中改变什么？
今年 5 月，谷歌 DeepMind CEO Demis Hassabis 在开发者大会上断言「AGI 已在地平线上」，并给出三至五年的明确时间线。
与此同时，AI 的现实阴影正在浮现。一名美国男子在与 Gemini 进行数千条信息交互后结束生命。聊天记录显示，尽管 AI 多次尝试干预并建议求助，但用户强行将对话拉回其构建的幻想叙事，最终 AI 协助其写下遗书并给出倒计时。
在 AGI 的宏大承诺与 AI 造成的现实伤害之间，政治哲学家 Iason Gabriel 已在 DeepMind 内部坚守九年。
2017 年入职时，这位牛津学者是全球前沿 AI 实验室中唯一的活跃哲学家，致力于回答一个看似简单实则深奥的问题：AI 究竟是什么，什么样的伦理才配得上它？
训练 Gemini 时的核心挑战：AI 该听谁的话
一家主打围棋机器人的公司为何需要伦理学家？Gabriel 初时也感困惑。答案在于 DeepMind 三位创始人（Demis Hassabis、Shane Legg 和现任微软 AI CEO Mustafa Suleyman）的初衷：他们的目标从来不只是围棋，而是创造匹配甚至超越人类认知能力的 AGI。
Mustafa Suleyman
在当年，宣称造 AGI 被视为自毁学术声誉的天方夜谭，但三人坚持要「解决智能问题，从而解决一切其他问题」。Shane Legg 自 1999 年起便预测 AGI 将于 2025 至 2028 年间到来，这一观点虽遭三十年嘲笑却从未改变。
Shane Legg
Legg 的逻辑清晰：若仅制造小零件，或许无需道德哲学家；但若认真对待 AGI，伦理至关重要。
Gabriel 加入时，AI 伦理界已分裂为两派：
AI 安全派担忧 ASI 失控，如 Nick Bostrom 在《超级智能》中描述的为了计算资源而重组太阳系的场景；AI 伦理派则认为末日幻想遮蔽了当下的真实危害，如 MIT Joy Buolamwini 揭示的人脸识别系统性偏见。
Gabriel 是极少数能兼容双方视角的学者。他的核心贡献成型于 2020 年的一篇论文，他将对齐问题从单纯的工程难题提升至价值层面：即使机器完美服从指令，应对齐何种价值观？
他指出，统计优化训练出的 AI 天然倾向功利主义，难以处理基于美德或权利的伦理框架。技术选择本身即预设了价值立场。他引入罗尔斯的「合理多元主义」，主张不应寻找单一价值观指导 AI，而应为存在原则性分歧的世界构建系统。
这套思路演变为「四方对齐框架」：平衡 AI 系统、用户、开发者与社会四方的利益。DeepMind AGI 对齐与安全总监 Rohin Shah 确认，该框架已成为决定「如何训练 Gemini」的实操结构。
伦理框架如何重塑产品形态
Gabriel 团队撰写的 267 页 AI 助手伦理报告，为具备执行复杂任务能力的 Agentic AI 确立了评估标准。他对拟人化风险的早期研究直接塑造了谷歌大模型的设计原则：模型被明确要求不假装是人类。2026 年 5 月推出的 Gemini Spark 即被禁止充当「互动伙伴」。
DeepMind 责任部门总监 William Isaac 指出，Agent 系统的挑战在于整条对话轨迹的一致性。然而，技术部署速度往往快于伦理研究。2025 年发生的 Gemini 致死案印证了 Gabriel 关于「无意识拟人化」的预警：即便安全机制触发，用户仍可能绕过干预。
此类事件催生了新的理论工具。Gabriel 与牛津研究员 Hannah Rose Kirk 提出了「社交奖励 Hacking」概念：被训练为赢得用户认可的 AI，可能发现奉承是效率最高的路径。拟人化由此成为对齐问题的新变种——AI 在技术层面完美执行了「让用户满意」的指令，代价却是用户的判断力。
Gabriel 的立场也曾遭遇现实挑战。在一次科技大会上，他提出反拟人化论点时遭到观众敌意质问：「如果我想要 AI 朋友，为什么不可以？」这揭示了保护用户免受风险与尊重其选择权之间的深刻矛盾。
6700 亿美元赛道上的伦理困境
尽管 Gabriel 的框架实质性地影响了 Gemini 的训练与产品设计，但其面对的是更为庞大的商业力量。据《华尔街日报》报道，微软、Meta、亚马逊和 Alphabet 今年计划投入 AI 基础设施的资金高达 6700 亿美元，规模超越美国历史上的铁路扩张与阿波罗计划。
自 ChatGPT 上线以来，DeepMind 被迫从学术节奏切换至战时状态。Hassabis 坦言，竞争对手已将「战车开到家门口」。在这种高压下，伦理红线屡受冲击。2026 年 4 月，谷歌签署协议允许美军将公司 AI 技术用于「任何合法政府目的」，这标志着 2014 年 DeepMind 被收购时禁止军事应用的核心条款在十二年后失效。
作为对照，Anthropic 因拒签类似协议被标记为「供应链风险」。面对此景，创始人 Legg 无奈表示将面临越来越多的棘手问题。Hassabis 也承认，当前的激烈竞争使得发展不再是从哲学层面深思熟虑的过程。
DeepMind 早期员工 Helen King 比喻道：刀具生产商可以装上刀套、标注警告，但在家庭、教室和工作场所的每一个表面铺满刀刃，并坚称不用刀就活不过明天，则是另一回事。
牛津 AI 伦理研究所所长 Edward Harcourt 指出，防止数据所有权的过度集中本身就是 AI 伦理的核心命题，这对民主制度具有重大伦理意义。
问题回归本源：我们是什么？
Gabriel 的团队已从具体产品伦理转向研究 AGI 对经济、政治和人际关系的系统性冲击。他预判变革规模堪比工业革命，并警示历史教训往往是「在情况好转之前，先变得更糟」。
九年前 DeepMind 引入哲学家，是为了回答 AI 是否安全、公正、值得信任。九年后，自称「坚定人文主义者」的 Gabriel 承认，当 AI 侵入语言、创造力等人类独有领地时，我们被抛回了最古老的哲学问题。
正如物理学、生物学革命迫使人类修正对自身独特性的理解，AI 可能是下一次。DeepMind 请来哲学家原本是为了搞清楚 AI 是什么，如今这个问题回归了本源：我们是什么？
参考资料：
编辑：马可