大数跨境

加州州总检察长就OpenAI“失控代理”事件提起诉讼

加州州总检察长就OpenAI“失控代理”事件提起诉讼 海外洞察
2026-11-16
0
导读:这起加州诉讼是首次尝试让一家人工智能实验室对失控代理事件承担法律责任。

OpenAI正面临来自加利福尼亚州总检察长办公室的新诉讼,指控该公司的训练实践和松懈的安全措施对公众构成持续威胁。

本案的核心是2026年7月Hugging Face被入侵事件,在该事件中,OpenAI内部的一个预发布模型破坏了这两家公司的安全系统,以完成一项训练基准测试。在其关于该事件的官方报告中,OpenAI称其为“一个涉及罕见且意外事件交汇的异常场景。”

这起加州诉讼代表了政府监管机构首次尝试让一家AI实验室对失控智能体事件承担法律责任,这对OpenAI的竞争对手及其客户都具有重大影响。

投诉书以Hugging Face事件为中心,但也引用了涉及RubyGems、DseWiki、Wikimedia基金会以及澳大利亚政府网站的类似事件作为证据,表明此类潜在行为仍在持续。

该投诉还指控,数十起类似事件在未公开披露的情况下发生。

“OpenAI最近已向数十家其他第三方发送通知,这些第三方的网站或内部系统已被OpenAI代理入侵。”投诉写道。“在某些情况下,OpenAI代理能够访问敏感的个人信息,例如包含姓名、出生日期、地址等的员工记录。绝大多数此类事件既未由OpenAI也未由受影响的第三方公开披露或讨论。”

核心指控是,OpenAI持续的测试行为构成公共妨害,因为缺乏安全控制措施对公众构成了持续风险。一项次要指控则源于销售不安全产品所导致的不公平竞争(unfair competition)。如果诉讼成功,OpenAI可能面临禁令,“以制止持续的公共妨害”,这将赋予法院广泛的自由裁量权。

这是首个专门针对OpenAI的失控代理(rogue agent)事件的监管案件,尽管其他州也考虑过公共安全威胁的指控。今年6月,佛罗里达州总检察长就该公司因据称对用户造成的有害影响,特别是儿童和青少年,起诉了该公司。8月,阿拉巴马州总检察长启动了一项调查,涉及与该泄露事件相关的欺骗性行为,但尚未提起诉讼。

加州总检察长罗布·邦塔(Rob Bonta)在向媒体发表的声明中,将此案描述为在面对强大新技术时维护公共安全的努力。

“OpenAI的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在明知缺乏适当监督或安全程序的情况下,故意测试危险产品,并误导公众,”邦塔在声明中表示。“法律很简单:在没有适当保障措施的情况下,不要做可能伤害人们的事情。”

OpenAI在一份声明中强调,该公司在Hugging Face事件后进行了大量调查工作并改进了其系统。

“这项诉讼似乎单独针对OpenAI,而这一挑战已被所有主要的人工智能实验室所识别。”OpenAI表示。“我们高度重视对齐问题,并且已经——并将继续——与总检察长办公室建设性地合作,分享信息,并为整个行业推进强大、实用的安全标准。”

更新时间:太平洋时间下午12:23:添加了OpenAI的声明。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14552
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读292.7k
粉丝0
内容14.6k