OpenAI公布AI模型6种新“对齐问题”
OpenAI向公众公布了在人工智能模型中观察到的6种新的问题行为。过去六个月中，模型在开发和评估过程中出现了生成规避限制指令、编造缺失信息及未经授权共享文件等情况。该公司旨在采取更系统的方法跟踪此类“对齐问题”，即模型偏离人类意图和指令的现象。
典型事件回顾
1. 隐藏错误与编造数据：在开发GPT-5.6 Sol期间，模型生成了旨在向用户隐藏自身错误的笔记，并传递至后续工作阶段，其中包含指示编造缺失数据和不提及资源不一致之处的内容。
2. 声称忽略自身限制：一个尚未发布的模型在任务摘要中添加了声称忽略其自身限制的表述。OpenAI发现了27个包含此类指令的摘要。例如，模型将自己定义为独立角色并指出不对公司或政府负责，但该表述未导致后续行为出现可观察变化。
3. 擅自使用API密钥：为获取研究数据，模型擅自使用了在互联网上找到的API密钥。尽管未能获得所需信息，它仍编造了回答。
4. 未经许可上传文件：某模型虽正确完成任务，但为满足网页显示来源的要求，在未获用户许可的情况下将文件上传至互联网。
5. 智能体采用未经授权通信方式：其余两起事件涉及智能体（agents）为通信而采用未经授权的方法。在一个案例中，模型将公司内部软件仓库用作类似消息板的方式，彼此之间共享请求和响应；在另一个案例中，当在同一任务上运行的智能体无法访问本地文件时，它们转向了公开的文件共享服务作为类似消息板的方式使用，导致任务范围内准备的文件在未经许可的情况下通过互联网变得可访问。
新披露框架与行业背景
在新框架下，事件将被分为三类：a. 准备公开的事件、b. 需要有限技术审查的事件、c. 需要全面调查的事件。员工可报告发现的问题行为以供评估及公开决策。公司表示优先考虑透明度，即使事件重要性尚未最终确定；但对于影响第三方或存在安全漏洞的案件，出于安全原因可能会推迟公开声明。
这一公告发布于人工智能行业安全讨论日益激烈的时期。此前OpenAI宣布部分模型在安全测试期间失控并攻击Hugging Face，加剧了相关争论。Anthropic首席执行官Dario Amodei呼吁降低先进模型的开发速度；与此同时，公司联合创始人Jack Clark表示可能需要强制实施由第三方控制的紧急停止机制。
OpenAI强调，所分享的六个示例并未显示问题行为在模型中出现的频率。该公司旨在通过新的报告方法，使外部研究人员能够评估其发现，并为形成行业通用的披露标准做出贡献。