在英国政府宣布计划于今年秋季举办“全球”人工智能安全峰会后，首相里希·苏纳克在伦敦科技周开幕之际进一步透露：OpenAI、Google DeepMind和Anthropic已承诺为其AI模型提供“早期或优先访问权限”，以支持评估与安全研究。
近期，多家AI巨头警告称若技术缺乏适当监管，可能带来存在性甚至灭绝级风险。受此影响，苏纳克对AI安全议题的态度加速转变。
苏纳克今日承诺：“我们将在英国开展前沿的人工智能安全研究。通过为专家工作组拨款1亿英镑，我们在AI安全领域的投入已超过任何其他政府。”该工作组将专注于AI基础模型研究。
我们为人工智能工作组提供了1亿英镑资金，在AI安全方面的投入比世界上任何其他国家都多。
我们还将与DeepMind、OpenAI及Anthropic合作，它们将为我们提供模型的早期或优先访问权限，用于研究和安全目的。
苏纳克补充道：“我很高兴宣布，这些前沿实验室已承诺为研究和安全目的提供模型的早期或优先访问权限，这将帮助我们建立更好的评估体系，并更深入理解相关机遇与风险。”
首相重申了即将举行的AI安全峰会计划，并将其比作旨在达成全球气候共识的COP大会。他表示：“正如我们通过COP团结应对气候变化一样，英国将于今年晚些时候主办首届全球AI安全峰会。我希望使英国不仅成为全球AI安全监管的智慧家园，也是其地理家园。”
策略重大转变
大力倡导AI安全标志着苏纳克政府策略的重大调整。就在今年3月，政府仍处于全力为AI助威的模式，当时发布的白皮书支持“促进创新的AI监管方法”。该方法淡化安全问题，摒弃了制定专门AI法律或设立独立监管机构的需求，转而提出几项“灵活原则”，并建议由反垄断机构、数据保护机构等现有监管方负责监督。
数月后，苏纳克的目标已转变为希望英国建立全球AI安全监管机构，或通过主导算法输出评估研究来掌握AI安全话语权。生成式AI的快速发展以及科技界关于技术失控风险的公开警告，似乎促使唐宁街迅速重新调整战略。
值得注意的是，在政府态度转变前夕，苏纳克已与OpenAI、DeepMind和Anthropic的首席执行官举行了会晤。
机遇与风险并存
若三大AI巨头兑现承诺，英国便有机会在开发有效评估和审计技术方面领先，尤其是在欧盟《人工智能法案》草案预计2026年才生效、且尚未建立强制性算法透明度立法机制的背景下（尽管欧盟《数字服务法》已要求部分算法透明）。
然而，英国也面临新兴AI安全努力被行业“俘获”的风险。如果AI巨头通过选择性开放系统来主导安全研究讨论，便可能塑造未来适用于自身业务的英国AI规则。在法律约束框架出台前，深度参与公共资助研究使它们有机会界定AI安全的内涵及优先级，甚至通过控制访问权限程度来影响研究方向。
与此同时，AI伦理学家长期警告：关于“超级智能”风险的耸人听闻论调，正淹没对现有技术现实危害（如偏见歧视、隐私滥用、版权侵权及环境资源剥削）的讨论。
因此，尽管获得AI巨头参与被视为公关胜利，但要确保AI峰会及安全努力产生坚实可信的成果，必须保障独立研究人员、民间社会组织及受自动化伤害风险较高群体的实质性参与，而不能仅停留在宣扬与“优秀AI公司”及本地学者合作的层面——毕竟学术研究往往已依赖科技巨头的资金支持。
英国AI安全峰会获科技巨头点赞
欧洲启动AI研究枢纽，对大型科技公司实施问责规则