谷歌与Google DeepMind研究人员联合成立DeepMind Institute，旨在探讨通用人工智能（AGI）的安全开发及其社会影响。该研究所汇聚了公司内部及全球研究社区的多元专家意见。
管理层构成与研究范畴
研究所由DeepMind联合创始人Shane Legg、Google高管James Manyika及Google DeepMind董事会主席Demis Hassabis共同管理，Legg兼任出版总监。平台聚焦于AGI治理、配套机构建设及政策适配等议题。创始团队强调，除技术专家外，公共部门、艺术及人文学科等领域的参与同样不可或缺。
首批出版物与核心议题
DeepMind Institute以四份出版物启动运营，涵盖AGI经济转型政策、模型推理透明度、社会福祉及前沿模型评估等领域。其中，经济研究报告重点审查了应对潜在经济冲击可实施的11项政策。
AI标准机构提议与评估机制
Hassabis在报告中提议在美国主导下建立AI标准机构：开发者可在模型上市前自愿提交最先进模型，接受最长30天的评估流程。若该评估体系被验证有效，通过测试或将成为模型进入美国市场的前提条件。
未来，该机构将逐步开展独立于企业的测试，且测试内容不对开发者公开，以防止模型仅针对已知测试进行优化。Hassabis指出，在风险可控的前提下，该机制还可协调领先实验室的研发节奏，避免过度竞争。
模型推理透明度与可审计性
Google DeepMind研究员Rohin Shah和Anca Dragan致力于保留人类可读的模型推理步骤。研究表明，此类记录是识别模型欺骗行为及安全漏洞的关键工具。他们主张，若转向更高效但低透明度的架构，开发者必须证明新系统具备同等水平的可审计性。
需注意的是，研究所发布的文章不代表谷歌官方立场。该平台旨在容纳多元且动态变化的观点，推动关于通用人工智能技术与社会的广泛讨论。