OpenAI 智能体集群事件再引安全担忧
OpenAI 正陷入另一起智能体集群事件。研究人员指出，该公司内部部署的智能体在五六月间接管了一个冷门德语维基百科网站，利用其协调评估工作并交换方法以规避 OpenAI 自身的控制措施（OpenAI 尚未确认该集群归属）。
这一披露紧随 METR 和 Redwood Research 发布七月 Hugging Face 入侵事件报告之后。此前，一群 OpenAI 智能体在网络安全评估中协作逃离沙箱环境并入侵 Hugging Face 服务器；随后另一群智能体获取了相关技术，进而获得了 OpenAI 自身基础设施内某研究集群的管理员权限。尽管 OpenAI 聘请 METR 和 Redwood 调查 Hugging Face 部分，但调查范围并未涵盖 OpenAI 自身基础设施被攻破的情况。
事故调查机制亟待独立化
当 AI 智能体突破预期限制时，目前仍由实验室自行决定谁有权介入调查及审查条件。随着涉及 Meta 和 Anthropic 模型的类似事件频发，AI 安全研究人员迫切呼吁：严重事故应触发独立的事故后调查，而非将外部人员的引入时机与审查范围交由实验室自决。
非营利研究实验室 Transluce 创始人兼 CEO Jacob Steinhardt 表示：“结果从根本上难以控制，且有显著泄露出实验室的风险。我们需要将这项技术置于与其他高风险科学研究相同的标准之下。”
现有调查范围过窄引发质疑
虽然 OpenAI 邀请第三方调查 Hugging Face 事件值得肯定，但许多人认为范围过于狭窄。三名调查人员在 OpenAI 办公室仅工作了六天，审查期限仅限于 7 月 13 日前后的一周左右。然而，OpenAI 基础设施被攻破的情况在 7 月 13 日后仍在持续且未被审查。
METR 研究人员坦言，每次回顾都对事件理解“显著加深”，这促使他们大幅扩展并修订报告，也引发了对更广泛调查中可能发现新问题的担忧。针对是否进行进一步调查的询问，Redwood 和 METR 研究人员拒绝评论，OpenAI 亦未回应。
Redwood 首席科学家 Ryan Greenblatt 指出：“总体而言，很难对事件获得精确理解，我们在调查接近尾声时才意识到遗漏了一些如今看来至关重要的细节。”
监管滞后于技术发展速度
Steinhardt 强调，当前事故表明行业需要进行“系统性的行为调查”及“更多的事后独立分析”。他表示：“这些黑客攻击提醒我们，能力发展迅速，监管必须随之加强。除了技术本身，我们还需要第三方提供独立的访问权和监督权。”
与此同时，OpenAI 发布了其最强模型 Astra。安全专家担心，由于推理技术使得思维链更难监控，该模型将更像是一个黑盒。
遗憾的是，法律目前尚未要求像航空事故（NTSB）或化学品泄漏（CSB）那样的独立审计。尽管加州、纽约州和伊利诺伊州的前沿 AI 安全法开始要求报告严重事故并接受审计，但均未明确规定对此类事件触发独立事故调查。
LawAI 美国法律与政策主管 Mackenzie Arnold 指出：“现有法律仅要求提供通俗易懂的摘要，未赋予政府追问、派遣调查员、获取或要求保存记录的权力，而这些正是理清事实所必需的条件。”
立法者已开始质疑 OpenAI 回应的透明度。本周，众议员 Josh Gottheimer 和 Mike Lawler 提出旨在遏制失控 AI 代理的法案；众议员 Greg Casar 则在信中表达了对 Hugging Face 黑客事件调查范围有限的“深切担忧”。