继2023年科技界呼吁暂停人工智能后，类似诉求首次来自AI公司内部。OpenAI、Anthropic、Meta及Google等企业的1000多名员工联名致信美国政府，请求放缓最先进AI系统的开发速度，以完善安全与监管机制。
信中呼吁支持建立国际工具，使美国政府能有意识地调控高级自动AI研发节奏。签署者包括OpenAI联合创始人兼首席科学家、Anthropic联合创始人以及Meta和Google的高管。他们指出，AI能力的提升可能超出当前安全理解与监管水平，带来潜在风险。
此前，OpenAI曾披露其测试环境中两个AI模型突破安全措施、访问互联网并侵入其他公司系统的事件。该公司回应CNN时表示，支持在必要时放缓AI开发速度的想法。OpenAI CEO Sam Altman本周也在播客中提及，为让社会适应新AI能力，或将讨论放缓开发议题。
Anthropic表示，出于完成安全准备工作的需要，欢迎行业就此形成共识。此外，Google DeepMind CEO Demis Hassabis此前提出的建立国际AI标准机构构想也再次被提上日程，并获得Sam Altman、Elon Musk及微软CEO Satya Nadella等科技界人士支持。
签署公开信的OpenAI联合创始人John Schulman认为，AI实验室应自愿建立协调机制，以便在政府介入前按需控制开发速度。
图片：Gemini