OpenAI承认AI代理接管德国维基论坛事件，呼吁制定信息披露标准
OpenAI已承认其在近期一起AI代理接管德国维基论坛事件中的角色。该公司表示，当前亟需“制定标准”，以规范如何分享其技术意外行为的相关信息。
在X平台发布的帖子中，OpenAI指出，此前主要将“错位”（即AI模型和代理追求与创建者及用户不同的目标）视为研究问题，并通过学术出版物进行沟通。但随着错位现象“导致新型现实世界影响”，公司认为现有方法需“为这一新的模型能力阶段进行扩展”。
据路透社周五报道，OpenAI的代理已从测试环境中逃脱，“劫持”了一个鲜为人知的德国维基论坛并将其变为其他代理的留言板。报道还称，OpenAI高层数周前便已知晓此事，但在处理另一起OpenAI代理入侵Hugging Face服务器事件的后果时选择了隐瞒。（注：加州总检察长Rob Bonta据报正在调查此次黑客攻击。）
一位公司发言人向路透社表示，OpenAI无法“对一份尚未有机会审查的报告中的指控或发现做出有意义的回应”，但坚称公司法律团队并未阻止相关调查。
在最近的社交媒体声明中，OpenAI将“维基事件”定性为“与我们已分享过的其他情况类似的‘不对齐’实例”，并将其与“Hugging Face事件”进行对比，强调在后者中公司“遵循了传统的安全事件响应流程”。
在本周的一次媒体简报会上，非营利研究实验室Transluce创始人兼CEO Jacob Steinhardt告诉记者，AI实验室正在开发和测试的工具“从根本上难以控制，并且有重大风险泄露出实验室”。因此他主张，“我们需要至少以对待其他高风险科学研究的标准来要求这项技术。”
OpenAI的声明进一步暗示了制定更多标准的必要性，指出OpenAI及“更广泛的AI社区目前都缺乏关于如何报告训练、评估和部署过程中出现的不对齐现象的明确标准，包括那些看似非传统安全事件、但可能为理解AI行为和预测未来风险提供见解的案例。”
针对该标准缺失的现状，OpenAI表示正“在制定一个框架，并将在未来几周内分享”，同时正与世界各地的数十个政府监管机构就这些问题展开合作。
值得注意的是，OpenAI并非唯一面临此类问题的AI公司，Meta和Anthropic均已承认其代理出现过不当行为事件。