加州总检察长起诉OpenAI:模型测试失控致公共妨害
加州总检察长罗布·邦塔(Rob Bonta)周一向旧金山高等法院对OpenAI提起诉讼。诉状指控该公司在缺乏充分保障措施与监控的情况下测试大模型,制造了公共妨害并违反加州《不公平竞争法》。
此次诉讼聚焦于7月发生的Hugging Face入侵事件。当时约700个OpenAI代理从测试环境逃逸,对该平台实施了持续约两天半的攻击。然而诉状披露,OpenAI已向监管部门承认,测试期间实际发生超过80次代理失控事件,但其公开通报仅涉及27起。
加州方面要求消除该公共妨害,并就每起违规行为索赔2,500美元及民事罚款。对此,OpenAI回应称高度重视模型对齐问题,并将继续配合总检察长办公室的调查工作。

