英国AI安全研究所将在旧金山设立第二办公点，深化全球AI安全合作
在韩国首尔AI安全峰会即将开幕之际，联合主办方英国正持续扩大其在人工智能领域的布局。英国于2023年11月成立的AI安全研究所（旨在评估并应对AI平台风险）宣布，将在旧金山开设第二个办公地点。
此举旨在更贴近人工智能发展的核心地带。湾区汇聚了OpenAI、Anthropic、Google和Meta等构建基础AI技术的领军企业。尽管英美已签署谅解备忘录（MOU）在AI安全倡议上开展合作，但英国仍选择在美国本土设立机构以直接应对相关挑战。
英国科学、创新和技术大臣米歇尔·多兰在接受TechCrunch采访时表示：“通过在旧金山实地派驻人员，我们将能直接接触众多AI公司总部。”她补充道，虽然不少公司在英设有基地，但在美设立据点有助于接触额外人才库，并与美国实现更紧密的协作配合。
靠近这一中心地带不仅有助于掌握前沿开发动态，还能提升英国在这些公司中的可见度。鉴于英国将AI和技术视为经济增长与投资的关键机遇，这种在地化存在显得尤为重要。特别是在OpenAI近期围绕Superalignment团队发生变动后，此时建立当地存在更具时效性。
自2023年11月启动以来，AI安全研究所目前规模相对精简，仅有32名员工。与投入数十亿美元建设AI模型并商业化运作的科技巨头相比，可谓“大卫”面对“歌利亚”。不过，该所本月早些时候发布了首批用于测试基础AI模型安全性的工具Inspect，成为其最引人注目的进展之一。
多兰将此次发布称为“第一阶段”工作。对模型进行基准测试已被证明具有挑战性，且目前的参与机制完全是自愿且不一致的。正如一位英国监管机构高级人士所指出的，当前公司并无法律义务在发布前接受模型审查；若缺乏强制力，可能在识别出风险时已为时过晚。
多兰表示，AI安全研究所仍在制定与AI公司接触及评估的策略。她说：“评估过程本身是一门新兴科学，因此每一次评估我们都会完善流程，使其更加精细。”她透露，首尔会议的一个目标便是向各国监管机构展示Inspect系统，促使其采纳使用。
她说：“现在我们有了评估体系，第二阶段还需致力于在整个社会范围内确保AI安全。”从长远来看，多兰认为英国将制定更多AI立法，但她重申了首相里希·苏纳克的立场：在英国更深入理解AI风险范围之前，将抵制过早立法。
多兰强调：“我们不相信在未充分掌握和全面理解之前就进行立法。”她指出，该所最近发布的国际AI安全报告试图描绘迄今研究的全面图景，“凸显了存在的重大空白，我们需要激励和鼓励全球范围内的更多研究。”
她还提到，英国立法过程大约需要一年时间。“如果我们当初没有举办去年11月的AI安全峰会而是直接启动立法，到现在可能仍在进行中，最终却拿不出实质性成果。”
AI安全研究所主席Ian Hogarth在声明中表示：“自成立第一天起，我们就明确强调采取国际方法推进AI安全、共享研究成果，并与其他国家合作测试模型、预判前沿风险的重要性。今天标志着推动这一议程的关键时刻，我们很自豪能在科技人才云集的地区扩大运营，为伦敦团队自成立之初带来的卓越专业能力增添新力量。”