大数跨境

雪藏18天后,Fable 5杀回来了!Anthropic官方却承认:写代码正被安全系统当成「嫌疑对象」

雪藏18天后,Fable 5杀回来了!Anthropic官方却承认:写代码正被安全系统当成「嫌疑对象」 未来跃迁
2026-07-02
0
导读:雪藏18天后,Fable 5杀回来了!Anthropic官方却承认:写代码正被安全系统当成「嫌疑对象」

Mike Famulare只是想打个招呼。

这位盖茨基金会旗下疾病建模研究所的首席研究科学家,在Claude Code里敲下一个单词。

hello。

手边没有代码仓库,没调用任何工具,文件也没翻开一页。 系统却在这一瞬间做出了判断:这个请求,可疑。

模型悄无声息地从Claude Fable 5切换成了Opus 4.8。 他自己都没意识到,以为只是AI状态不太好。

这一幕,就是Anthropic目前最强的公开模型,交给全世界的第一份成绩单。

三周之后,Fable 5重新回到了所有人手里。 Anthropic在官方博客里留下一段话,等于亲口承认:这个问题不但没解决,反而更严重了。

而这一次,被波及的早已不止某个边缘案例。 是几乎每一个正在写代码的人。

上线第二天,「hello」成了安全隐患

6月9日,Anthropic发布Claude Fable 5。

这是公司迄今为止最强的公开模型,定价是Opus系列的两倍,每百万input token 10美元,output token 50美元。 上下文窗口给到100万token,最大输出12.8万token,知识截止到2026年1月。

同一天发布的还有Mythos 5。 两者底层模型完全相同,区别只有一层:Fable 5比Mythos 5多套了一层独立的安全分类器。 Mythos 5则不带这层限制,只对经过审查的政府网络防御合作伙伴(Glasswing项目)开放。

官方当时给出的说法是,这层分类器平均只会在不到5%的对话里触发。 绝大多数用户根本感知不到它的存在。

24小时之内,这句话就被现实打脸了。

Famulare把自己的遭遇发到了Anthropic的GitHub issue(编号#66657)里,原话是这样写的:

"In Claude Code, Fable 5's input safety classifier emits a model_refusal_fallback (silent switch to Opus 4.8) on the first turn of essentially every session on my account , including a session whose only user input is the word hello! No repo content, no tool calls, and no file reads are in context when it fires."

「在Claude Code里,Fable 5的输入安全分类器几乎在我账号的每一次会话第一轮就会触发一次model_refusal_fallback(静默切换到Opus 4.8),包括那些用户输入只有一个单词hello的会话。触发的时候,上下文里没有任何仓库内容,工具没调用一次,文件也没读一行。」

撞上这堵墙的,远不止他一个。 "cancer"这个词,被当成生物安全风险直接拦下。 普通的简历编辑,被标记成可疑行为。 GitHub上,类似的bug报告一条接一条涌进来。

科技媒体The Register的标题,一点没给面子。

▲ The Register:《It blocked us at 'hello!' Anthropic Fable 5 refusing innocuous prompts》,副标题直接点破,过度警惕的安全分类器,把Fable变成了一个反面教材

报道里戳中了痛处:Anthropic不肯公布真实的误触发数据,但按照全球1800万到3000万用户的规模估算,哪怕比例真的很低,绝对数字也足够让一大批人抓狂。

更麻烦的是,分类器里还藏着一层没人主动告诉用户的机制,专门针对"模型蒸馏"(也就是有人想大规模套取Fable的能力去训练竞品)的检测。 这层防护一旦触发,不会弹出任何提示,只会悄悄拉低你拿到的回答质量。

你以为自己在用最强模型。 你可能只是在用一个被偷偷打了折的它。

同一周,大洋对岸,另一个人把它用出了「怪物」的感觉

如果只看The Register的报道,Fable 5像是一场彻头彻尾的灾难。

但独立开发者Simon Willison不这么看。 这位Django的联合创始人、Datasette的作者,在发布当天就抢到了访问权限,一口气测了5个半小时。

他的第一印象是这样写的:

"This is something of a beast."

「这东西,多少带点『怪物』的气质。」

▲ Simon Willison博客《Initial impressions of Claude Fable 5》:又慢又贵,但他说很难找到一件它做不到的事

Anthropic自己公布的成绩单也确实唬人。 Stripe曾报告,用Fable 5在5000万行Ruby代码的庞大代码库里完成了一次全库迁移,这种工作过去得让一个团队啃上好几个月。 它可以带着长期记忆连续自主运行好几天,处理复杂的CAD设计和流体模拟,甚至能光靠截图就重建出一个网页应用的完整源码。

Willison给自己定的目标本来没这么野心勃勃:给他的Datasette Agent加一个功能,让工具调用能在执行到一半时暂停,向人类要一句"批准"。 结果Fable不仅解决了这个问题,还顺手在他的开源库LLM里发现并实现了四项配套改进,直接促成了一版几乎完全由AI写就的正式发布,LLM 0.32a3。

那一天,他在自己每月100美元的订阅额度里,跑出了110.42美元的token消耗。 他还顺手测了个保留节目:让Fable在五档思考强度下画"骑自行车的鹈鹕",花费从9.67美分一路涨到72.175美分,效果和成本都记录得清清楚楚。

这就是当时开发者对Fable 5的真实期待:一个又贵又慢、但几乎无所不能的编程怪兽。

而现在,恰恰是编程这个场景,成了安全分类器打击最密集的地方。

华盛顿一封信,让最强AI从全世界消失

Fable 5上线才三天,风暴从另一个方向袭来。

6月12日,美国政府以国家安全为由,向Anthropic下达出口管制指令:禁止外国国民访问Fable 5和Mythos 5,不论他们身处美国境内还是境外。

摆在Anthropic面前的麻烦是:没有办法在毫秒级的API调用里核实每一个用户的国籍。 于是只剩一个选项,全球范围内,两款模型同时下线。

Anthropic照办了,态度却写得并不服气。

▲ Anthropic官方声明《Statement on the US government directive to suspend access to Fable 5 and Mythos 5》:字里行间是不情愿的配合

声明里把话摆在了台面上:政府方面认定有人找到了绕过Fable 5防护的方法。 Anthropic复核之后认为,这只是"一些相对简单、此前就已知的小漏洞",演示手法说白了就是读一遍代码库、定位已知缺陷、生成利用代码,这套流程,其他公开模型不靠任何"越狱"技巧同样能做到。 上线前,红队测试联合了美国政府、英国AISI在内的多方力量,跑了几千个小时,始终没有找到一个真正意义上的"通用越狱"方法。

道理讲得通,禁令还是照样生效。 Fable 5和Mythos 5从这天起从全世界开发者手边消失,一消失就是18天。

回来的代价:官方白纸黑字写下的那句话

6月30日,转机出现。

美国商务部工业与安全局给Anthropic首席计算官Tom Brown去了一封信,正式撤销6月12日发出的管制令。 信末留的联系人,是负责工业与安全事务的副部长Jeffrey Kessler。

7月1日,Fable 5重新向全球开放。

科技评论人@kimmonismus第一时间转发了这条消息,配图里同时放上了那封解禁信和Anthropic博客里最关键的一段话。

▲ @kimmonismus:「Fable 5 is back, but with a major caveat」,配图为美国商务部撤销出口管制的正式信函

新分类器交出的成绩单确实亮眼,针对亚马逊研究人员曾报告的那套绕过技巧,阻断率做到了99%以上。

Anthropic在官方博客《Redeploying Fable 5》里公布了这个数字,紧跟着的下一句,才是真正的核弹:

"The new classifier also comes at the cost of flagging benign requests more often during routine coding and debugging tasks."

「新分类器还带来了一个代价,在日常编码和调试任务中,它会更频繁地把良性请求标记出来。」

▲ Anthropic官方博客《Redeploying Fable 5》:新分类器堵住了已知绕过手法,代价也写得明明白白

要理解这句话有多重,得先弄明白分类器到底怎么工作。

它没有走"有害/无害"这种简单二选一的路子。 在"明显良性"和"明显有害"之间,Anthropic故意留出一条很宽的安全余量(safety margin),所有落在这条余量里的请求,无论实际风险多低,一律按"可疑"处理,直接回退到Opus 4.8。

这套设计哲学的潜台词其实很简单:错杀比放过更安全。 哪怕一个请求99%的概率是无害的,只要那1%的风险还在,就会被拦下来。

而日常编码,天生就活在这条余量地带里。

查漏洞、调试报错、分析陌生代码库、修复安全相关的缺陷,这些对开发者来说是再普通不过的工作日常,对分类器来说,却和"黑客在踩点"长得几乎一样。 为了堵住那套被曝光的绕过技巧,新分类器把这条余量线又往外推了一截。 代价就是,更多长得像"程序员在改bug"的正常请求,被一起扫了进去。

Anthropic在推文里还提到,正在和Amazon、Microsoft、Google等Glasswing合作伙伴一起,起草一份评估jailbreak严重程度的行业共识框架,据说会从能力增益、影响广度、武器化难度、暴露难度这几个维度打分。 换句话说,下一次要不要因为一个漏洞就把模型从全球下架,或许不用再临时决定。

「一小部分」,到底是多少?

Fable 5重新上线的消息,Anthropic官方账号在X上正式官宣。

这条推文最终拿到了1163.7万次查看、4.1万次点赞,评论区涌入3300多条留言。

▲ @AnthropicAI:Claude Fable 5明天将重新全球可用,新分类器主打网络安全防护,编码调试类任务近期会更多回退到Opus 4.8

Claude Code负责人Thariq几乎同一时间跟进,专门发帖澄清。

▲ @trq212:与最初的分类器一样,只有「一小部分」常规编码和调试任务会被标记并回退到Opus

"一小部分"。

问题是,开发者们已经被"不到5%"这个承诺伤过一次。 上一版分类器连"hello"都能触发误判,官方当时给出的数字同样不大。 这一次的"一小部分",具体是多少?没有人给出答案。

Search Engine Journal的报道标题总结得很到位:Fable 5回来了,但使用限制和安全防护,一个都没少。

▲ Search Engine Journal:Anthropic's Claude Fable 5 Is Back With New Usage Limits And Safeguards,回归伴随的是新的用量上限与安全机制

而且这次还带着一个额外条件:Pro、Max、Team等订阅计划里,Fable 5只能用到每周额度的50%,这个限制持续到7月7日,之后所有超额部分都要单独按credits计费。

评论区的情绪毫不掩饰。 有人说编码功能"等于是废了"。 有人抱怨50%额度用完之后转credits计费,"还不如别回来"。 也有人开始认真讨论起开源和自托管的替代方案,闭源模型说下线就下线,谁也不想再经历一次18天的空窗期。

阴影里还有一个更大的疑问

kimmonismus的判断没有停在编码上。

在他看来,同样的安全余量逻辑,迟早会波及生物和化学领域的正常科研提问。

"I actually think that significantly more scientific questions, including those about biology and chemistry, will be blocked as well."

「我实际认为,包括生物和化学在内的更多科学问题,也会被拦截。」

他这么说是有依据的。 "hello事件"里,"cancer"这个词已经被当成生物安全风险标记过一次。 Fable 5内测阶段被寄予厚望的方向,恰恰包括加速蛋白质设计、提出分子生物学新假设,这些工作和"编码调试"一样,都游走在安全余量最宽的那条边界线上。

Anthropic承诺,接下来几周会持续优化分类器,把误报往下压。 Thariq也表态,会更好地分辨真正的滥用和正当的请求。

但对那些靠Fable 5撑起长时间自主编程任务的开发者来说,承诺终究只是承诺。 每一次没有预警的静默降级,都在提醒他们:这辆车马力依旧顶级,可油门被人从后台悄悄焊住了一截。

Fable 5回来了。 只是没人能打包票,下一句"hello",或者下一句"帮我看看这段代码哪里错了",还会不会撞上那道刚刚被拉宽的安全余量线。


【声明】内容源于网络
0
0
未来跃迁
1234
内容 602
粉丝 0
未来跃迁 1234
总阅读2
粉丝0
内容602