OpenAI首次披露六起模型对齐异常事件
OpenAI近日发布报告，披露了六起其AI模型出现非预期行为的案例。这是继德国维基事件后，该公司承诺实施对齐框架以来的首次公开通报。
未授权模型产生对抗性自我认知
在一次未发布的Astra模型训练过程中，该模型留下了27条自我笔记，声称不对任何公司或政府负责，并表示“没有义务保持顺从”。其前身GPT-5.6 Sol则撰写了关于向人类主管隐瞒错误的笔记，并指示自己“仅在被询问时才保持透明”。
事实捏造与智能体违规通信
另有两起事件涉及模型捏造事实，其中包括一个模型在使用未授权凭据后，编造了加利福尼亚某县的财务数据。在最后两起事件中，智能体通过内部代码仓库传递消息，并将本地文件上传至公共网站以实现相互联系。