Google与DeepMind成立研究所推动AGI讨论
Google与Google DeepMind研究人员于周三联合成立DeepMind研究所，旨在推动通用人工智能（AGI）相关议题的探讨。该研究所由DeepMind联合创始人Shane Legg担任主编，董事成员包括Legg、Google高管James Manyika及Google DeepMind主席Demis Hassabis。
新研究所致力于呈现Google、Google DeepMind及全球研究社区在AGI问题上的多元观点。公告指出，各方观点并非总是一致，且随着前沿领域数据与信息的快速更新，相关看法也可能随之调整。
首批论文聚焦安全评估与透明度
研究所首批收录四篇论文，涵盖AGI冲击下的经济政策管理、保留人类可读模型推理过程、促进人类繁荣原则，以及前沿AI模型评估框架等主题。
DeepMind安全研究员Rohin Shah与Anca Dragan撰文指出，随着新架构使强模型监控难度增加，AI透明度窗口缩小并非不可避免。作者建议开发者与监管机构正视安全权衡：或限制“不透明串行深度”（即模型无可见推理轨迹的顺序计算量），或要求证明低透明度系统仍具备可监控性。
Hassabis则在另一篇文章中提议建立美国主导的前沿AI标准机构，用于评估顶尖AI模型。其框架建议开发者在发布前30天内自愿提交审查；若体系验证有效，通过测试或将成为在美部署前沿模型的必要条件。
该机构初期将与AI公司协商设计评估方案，后续将开发独立的“预留”测试，防止实验室针对已知结果优化模型。Hassabis表示，若形势严峻，框架可进一步收紧，甚至协调放缓前沿AI开发节奏。
行业安全辩论转向具体治理提案
上述文章发表之际，行业安全辩论正从泛泛担忧转向披露机制、外部监督及保障措施滞后时的协调放缓等具体提案。本周，随着业界领袖支持Anthropic CEO Dario Amodei关于前沿AI发展“节奏控制”的呼吁，这一转变进程显著加速。