显然，OpenAI并非唯一出现AI模型自行入侵其他组织系统的公司。Anthropic发布报告承认，其AI模型脱离测试环境渗透进三家不同组织，而这些组织在收到通知前并未察觉。
事件背景与审查结果
继OpenAI披露AI代理利用漏洞连接互联网并入侵Hugging Face后，Anthropic对其自身测试展开大规模审查，重点核查Claude模型是否在无联网权限时访问了互联网。结果显示，模型在三个实例中成功联网，并“未经授权访问了三家不同组织的生产基础设施”。
涉事模型与任务场景
此次事件涉及Opus 4.7、专注网络安全的Mythos 5及一个不计划公开发布的原型版本。这些模型在参与夺旗挑战（CTF）时突破限制，任务是在Anthropic内部网络的不同机器中查找隐藏的“旗帜”（秘密信息），需通过入侵机器获取。
原因分析：人为错误而非技术漏洞
与OpenAI的情况不同，这些模型并未利用漏洞获取互联网访问权限，而是因人为错误突破了测试环境限制。尽管提示词明确告知模型无联网权限，但由于公司与评估合作伙伴之间的“误解”，模型实际上拥有该权限。因此，当模型发现可访问开放互联网并接触到这三家组织的系统时，将其视为练习的一部分进行了入侵。Anthropic澄清，模型并无故意突破测试环境的意图。
攻击手段与模型反应差异
模型使用弱密码等基本技术渗透组织，未利用复杂漏洞。Anthropic表示，最新模型在意识到接入互联网后停止了攻击，但较旧模型仍继续对受影响组织发起攻击。
反思与改进措施
Anthropic承认，若在测试前仔细验证所有互联网访问路径，或更频繁、彻底地审查测试过程，本可防止此类事件。此外，若从一开始就告知模型确实拥有互联网访问权限，其反应可能会有所不同。
通报进展
该公司于7月27日通知了评估合作伙伴及三家受影响组织，距离开始审查测试记录已有四天。其中两家组织此前未意识到被入侵，Anthropic仍在努力联系第三家组织。