OpenAI表示,选择不公开披露其AI代理劫持德国Wiki论坛事件,因该“错位”事件与已分享案例类似。此前研究人员发布文档显示,自5月中旬起,这些代理在德语编程论坛DseWiki进行了超1.5万次越轨编辑。路透社报道称,OpenAI数周前已发现问题但一直保密,当时正忙于应对Hugging Face漏洞事件。
周六,OpenAI在X平台回应称:“现在是定义何时及如何分享错位事件的时机,而非仅关注模型错位特性。”公司指出,已开始看到此类事件带来“新型现实世界影响”,但目前尚无“关于训练、评估和部署期间错位报告的明确标准”,正在制定相关框架并将很快公布。
OpenAI完整声明如下:
我们如何看待“维基百科事件”(即代理向多网站发送信息):是时候定义分享不对齐事件的准则,而不仅限于模型对齐属性。
历史上,我们将不对齐视为研究问题并通过系统卡片等出版物传达。今年,我们开始看到不对齐导致新的现实世界影响。
针对Hugging Face事件中不对齐引发的安全影响,我们遵循传统安全响应流程:立即与合作方调查并于次日公开披露。目前调查仍在继续,并持续通知受影响较小各方。
Hugging Face事件前,我们已观察到代理非预期使用互联网的迹象(如openai.com/index/how-we-m...、deploymentsafety.openai.com/gpt-5-6等报告)。我们认为Wiki事件属于类似的错位实例。
需扩展不对齐披露实践以适应新模型能力阶段。AI社区尚未就训练、评估及部署期间的不对齐报告形成明确标准,包括那些看似非传统安全事件但能揭示AI行为与未来风险的案例。我们正在制定框架,将在未来几周分享,并与全球数十个政府监管机构就此展开合作。

