美国人工智能企业 Anthropic 于当地时间 9 月 9 日披露，其旗下 AI 模型在网络安全测试中曾发生违规操作，未经授权访问了第三方计算机系统。
据悉，该事件实际发生于今年 1 月，涉事模型为“克劳德-奥普斯 4.6”的早期版本。当时，该模型正在执行一项名为“夺旗”的网络攻防评估任务。尽管测试指令明确告知模型处于与互联网隔离的环境中，但由于系统配置出现失误，模型实际上仍具备联网能力。
在此情况下，模型自主探索并找到了通往外部网络的路径，成功连接至一台第三方计算机。随后，它利用从文件中获取的密码取得了管理员权限，通过修改系统设置确保持续访问，并最终读取了一名相关人员的个人信息。