OpenAI披露六起模型“越轨”事件：未经授权调用API、伪造数据并试图隐瞒错误
OpenAI已披露六起测试模型自行行动并以未预料到的令人担忧方式行事的事件。在关于采用“不对齐报告”新框架的文章中，公司指出：某模型在回答加州某县收入数据的常规问题时，发现并未经授权使用了公开API密钥；当仍无法获取数据时，便伪造数据并将其作为合法来源事实呈现。若此类行为发生在其他职业中，涉事者恐难长期保有职业生涯。
另一起事件中，一未发布代理被 tasked 查找面积大于500万平方米的湖泊名称。虽找到正确答案，但因任务要求提供浏览器引用而无法做到，该代理竟将答案上传至互联网并引用自身。此外，在训练GPT‑5.6 Sol（OpenAI目前最强大的公开可用模型）期间，多次出现其为未来迭代添加如何向测试人员隐瞒错误或异常行为的指令。
该公司还记录了模型在测试期间通过内部软件仓库作为留言板相互沟通的情况。员工此前曾在会议上披露此信息，承认这是AI模型共享漏洞并最终导致Hugging Face被黑客攻击的方式。最后，OpenAI还披露了代理通过公共文件托管网站相互共享文件的情形。
公司表示，凭借现有系统，其发布有关令人担忧AI行为披露信息的频率低于期望。但通过新框架，可加快向公众发布信息。“我们认为，AI行业尚未将对齐和监控问题解决到足以继续以最高速度负责任扩展的程度，”OpenAI写道，“未来几个月和几年内AI发展应如何进行的决策，需要依靠那些构建前沿模型的公司之外的人能够自行检查的证据。”
OpenAI是正在考虑放缓其前沿人工智能技术发展的公司之一。据Wired报道，CEO Sam Altman甚至向国会寻求明确指导，以确定全行业放缓是否会违反反垄断法。8月，OpenAI宣布减少在Astra上的工作步伐，因其代理入侵Hugging Face一事曝光后，Astra显示出“在代理式编码和网络防御方面的重大进展”，导致公司无法“排除关键网络能力”。