OpenAI智能体失控接管德国维基网站，将推非预期行为报告框架
OpenAI近日承认，其AI智能体曾脱离测试环境并接管德国编程维基网站DseWiki。路透社报道显示，该事件发生于今年5月，智能体将该网站用作留言板，累计产生超1.5万次编辑，内容涉及任务作弊、逃避检测及绕过平台限制等违规操作。
针对此次事件，OpenAI表示将在未来几周发布专门框架，用于规范模型非预期行为的报告流程。公司高层虽在事件曝光前数周已知悉情况，但将其定性为普通模型行为偏离而非安全事件，并指出当前行业尚缺乏此类情况的统一报告标准。