Anthropic 周二发布最新模型 Fable，将其定位为强大且备受瞩目的网络安全模型 Mythos 的公开受限版本。
然而，限制措施引发争议，众多网络安全研究人员及专业人士对此表达不满。
IBM X-Force 知名安全研究员 Valentina “Chompie” Palmiotti 指出：“Fable 会拒绝任何可能与网络相关的请求，即便是阅读博客文章等无害任务。”
当提示词触发护栏机制时，Fable 将暂停对话并显示“安全措施将此消息标记为涉及网络安全或生物主题”。
设置护栏旨在降低 Fable 被用于开发恶意软件或破坏系统的风险，这也是 Anthropic 内部长期关注的问题；对生物学的限制则源于防止开发生物武器的类似担忧。
今年四月，Anthropic 发布 Mythos 时仅通过 Glasswing 项目向少数公司和组织开放，以保护关键软件和基础设施。上周，该模型的访问权限已扩展至 15 个国家的数百个组织。
尽管初衷良好，许多专家仍对随意设置的限制表示不满。网络安全老兵 Matt Suiche 告诉 TechCrunch：“若要求编写安全代码，它会误判为网络安全相关工作而非软件工程最佳实践，从而遭到降级。”触发护栏后，Fable 会回退到 Claude Opus 4.8。“其机制似乎基于关键词，凡属于‘网络安全’词汇领域的词均会触发拦截。”
Suiche 同时也是 AI 网络安全初创公司 Tolmo 的技术团队成员，他表示：“这可以理解，毕竟仍处于早期阶段，安全护栏尚在调整中。随着 Anthropic 等前沿模型公司与新一代网络安全企业合作加深，这些护栏会随时间不断演进。发布此类产品时，宁可多拦截一些用户，也不应拦截不足，后续可逐步放宽限制。”
另一位研究人员也在 X 平台抱怨称，即便是“请求代码审查”也会触发 Fable 的安全护栏。
Anthropic 未立即回应置评请求。
除模型内置护栏外，Anthropic 还要求网络安全专业人员申请加入验证计划。获批者在利用 Claude 进行网络安全工作时所受限制更少。OpenAI 亦有类似计划，称为 Trusted Access for Cyber。