6 月 14 日，亚马逊 CEO 安迪・贾西提出的安全警告，直接导致 Anthropic 公司于本周五在全球紧急停用两款 AI 模型。
据悉，亚马逊研究人员在使用 Anthropic 的"Claude Fable 5"模型时，发现其可能被诱导生成用于网络攻击的信息。贾西随即向美国财政部长斯科特・贝森特等政府高层通报了这一风险。随后，美国政府正式下令禁止出口"Fable 5"和"Mythos 5"这两款模型。
美国总统前人工智能事务主管、现任总统科学技术顾问委员会联合主席戴维・萨克斯透露，一家深受 Anthropic 和美国政府信赖的合作方发现了模型的“越狱”漏洞。他指出，美方曾要求 Anthropic 首席执行官达里奥・阿莫迪修复漏洞或下架模型，但遭到拒绝。对此，Anthropic 在官方博客中回应称，引发美方担忧的功能在其他多款公开可用的 AI 模型中早已存在。