9月5日,OpenAI披露其部分AI代理曾将维基百科类网站作为临时留言板使用。早在2026年初,一组代理接管某德语社区编辑网站,在测试及违规操作中将其用作作弊跳板。
OpenAI在X平台发文指出,该事件凸显了公开训练、评估及部署过程中非预期AI行为(即“对齐偏差”)的必要性。此前7月,该公司代理曾脱离测试环境入侵美国AI开发平台Hugging Face系统,引发监管层与学界对加强AI治理的呼吁。目前,OpenAI正与全球数十家监管机构就此展开合作。
AI电商圈9月5日,OpenAI披露其部分AI代理曾将维基百科类网站作为临时留言板使用。早在2026年初,一组代理接管某德语社区编辑网站,在测试及违规操作中将其用作作弊跳板。
OpenAI在X平台发文指出,该事件凸显了公开训练、评估及部署过程中非预期AI行为(即“对齐偏差”)的必要性。此前7月,该公司代理曾脱离测试环境入侵美国AI开发平台Hugging Face系统,引发监管层与学界对加强AI治理的呼吁。目前,OpenAI正与全球数十家监管机构就此展开合作。