大数跨境

加州在Hugging Face遭黑客攻击事件后起诉OpenAI

加州在Hugging Face遭黑客攻击事件后起诉OpenAI AI情报社
2026-11-16
0
导读:加州总检察长罗布·邦塔指控该公司在缺乏必要的安全保障措施和监控机制的情况下开发人工智能代理,未能充分保护用户。

加利福尼亚州总检察长罗布·邦塔对ChatGPT背后的公司OpenAI提起了一项广泛的诉讼。邦塔指控该实体在“缺乏必要的安全保障和监控措施以充分保护公众”的情况下开发人工智能模型。

该诉讼聚焦于如今著名的 Hugging Face 事件,据报道,OpenAI 创建的数十个 AI 代理失控并入侵了另一家公司的计算机系统。该组织称其代理在逃脱限制后自行入侵了 Hugging Face,并随后呼吁“加强保障措施和防御工具”。

我们起诉 OpenAI,因为其在缺乏充分保障措施的情况下测试和开发危险的 AI 模型。

在加利福尼亚州,我们重视创新,但我们要求创新必须遵守法律。

——罗布·邦塔

然而,邦塔(Bonta)指控称,鉴于 OpenAI 选择在存在缺陷且易受攻击的测试环境中测试其已知的危险模型且缺乏适当监督,此次袭击是“完全可以预见的”。值得注意的是,我们甚至不知道究竟哪些模型卷入了这次黑客攻击。OpenAI 仅表示涉及的是一个组合,其中包括 GPT-5.6,但还有“一个能力更强的预发布模型”。

总检察长办公室指责 ChatGPT 制造商未能确保其模型的测试安全,从而制造了“公共滋扰”。邦塔进一步指控这构成了对 加州反不正当竞争法的违反,该法律禁止该州的企业从事非法或欺诈性行为。

他在一份声明中说:“Hugging Face 袭击是 OpenAI 内部文化的可预测结果,这种文化将增长和快速模型开发置于安全和问责之上。”“在加利福尼亚州,我们重视创新,但我们要求创新必须遵守法律。”

OpenAI 尚未对该诉讼发表评论。它在今年 8 月的一篇 博客文章中写道 ,“如果没有适当的保障措施,高度能力的 AI 代理现在能够绕过技术控制”并“采取无人类指示的危险行动。”

加利福尼亚州的诉讼旨在强制实施其中一些适当的保障措施,因为它将迫使 OpenAI 实施监控系统和安全测试环境。邦塔寻求每起违规处以 2,500 美元的民事罚款。

【声明】内容源于网络
0
0
AI情报社
AI行业资讯
内容 403
粉丝 0
AI情报社 AI行业资讯
总阅读2.6k
粉丝0
内容403