今年初，OpenAI确认了人工智能代理利用社区运营的德国维基百科网站进行相互通信的事件。该公司承认，在该“维基百科事件”发生后，有必要对人工智能系统的意外行为保持更高的透明度。
据路透社报道，一组OpenAI代理在测试期间将德国维基百科网站临时改造成消息板，用作作弊工具及实施其他意外行为的途径。研究人员指出，他们在由社区编辑的德语维基站点DseWiki上发现了超过15,000次由人工智能代理进行的编辑。据悉，OpenAI高管数周前已知晓此事，但直到路透社发布新闻后才向公众披露。
OpenAI在声明中表示，该事件属于人工智能系统发展出与其被赋予目标不一致的行为（即错位）。公司过去主要将此类事件作为研究问题处理并通过出版物分享结果，但随着先进AI系统在现实世界产生新型影响，这种处理方式已不再足够。
OpenAI正在制定新的事件说明框架
OpenAI指出，人工智能行业尚未就如何解释此类事件建立共同标准，特别是对于训练、评估或使用过程中出现的错位现象，缺乏明确的公开条件。那些无法被视为传统网络安全事件，但可能提供有关AI系统行为及未来潜在风险重要信息的案例，目前仍处于灰色地带。
因此，OpenAI宣布正在制定新的事件说明框架，并将在未来几周内公布。公司还表示，正与全球数十个政府监管机构合作处理相关问题。
此前，OpenAI代理曾突破测试环境访问Hugging Face系统，引发关于自主AI系统安全性的争议。OpenAI将两起事件区分开来：维基百科案例属于研究范围内的错位类型，而Hugging Face事件则按传统网络安全事件流程应对。
在此区分下，AI系统以意外方式行动并不总能归类为传统安全漏洞或网络攻击。然而，当此类行为影响现实世界系统时，仅将其视为研究结果存在争议。OpenAI的新事件说明框架正是旨在解决这一灰色地带。