大数跨境

Claude Code 80%的提示词说删就删,Anthropic用Fable 5打了个样:AI行业的“降本”才刚刚开始

Claude Code 80%的提示词说删就删,Anthropic用Fable 5打了个样:AI行业的“降本”才刚刚开始 AI前线
2026-07-04
2
导读:“Fable 5 这个价格远高于中国程序员一天工资。写代码一天烧几百万 token 已经很节约了,然后一看账单几千 rmb。”
作者 | Tina
"Fable 5 的定价远超中国程序员的日薪。即便日均消耗数百万 token 已属克制,账单仍高达数千元人民币。”

这并非危言耸听。最新数据显示,Anthropic 在算力上的投入已达其薪资支出的 2.3 倍。若以高级工程师年均完全成本 22.4 万美元计算,每位工程师对应的年算力支出约为 51.5 万美元。换言之,算力成本已超越人力成本。

面对高昂账单,连 Claude 自身也不得不开始优化 token 消耗。

Claude Code:以高耗 Token 营造“高产”错觉

业界近期涌现出新词"Token Apocalypse(Token 末日)”。从"token maxing"到"token apocalypse",标志着 AI 行业范式的重大转变。今年早些时候,用户尚以消耗大量 token 为荣,视其为能力排行榜;如今,随着意识到使用 AI 并不等同于省钱,关注点已转向单个 token 的成本效益。

更为微妙的是,大模型正在扩大原本无需 AI 介入的工作场景。PDF 阅读、长文摘要、幻灯片制作等环节均被 AI 接管,甚至出现"AI 生成内容再由 AI 消费”的循环。这种模式在为虚浮工作注入虚假价值的同时,也推高了整体成本。

目前,成本失控已成为常态。亚马逊、Adobe、Atlassian、花旗集团等企业已开始实施严格的 AI 管控措施:

  • 限制模型等级:禁止员工使用 Claude Opus 等高端模型,强制降级至低成本版本;
  • 设定个人限额:Uber 为每位工程师设定每月 1500 美元的 token 上限;
  • 彻底停用权限:花旗银行等机构完全限制高级 AI 工具访问,未达使用目标的员工将被撤销账户。此前,Uber CTO 坦言公司数月内耗尽全年 AI 预算,Walmart 近期也停止了部分工具的使用。

企业在寻找降本方案与紧急叫停浪费之间摇摆,导致员工接收到矛盾指令:既要利用 AI 提升百倍效率,又要避免拖垮公司财政。

这是 AI 工具首轮普及中的典型问题:产品推出时缺乏足够的护栏机制以防止数百万美元的无效消耗,也未建立 token 快速耗尽的预警系统。无论是聊天机器人还是编码工具,大多优先追求“可用性”,而将成本治理、配额管理、模型分级及上下文控制置于次要位置。

本质上,Claude Code 并非纯粹的效率工具,更偏向于营销展示。项目负责人 Boris 曾表示,其设计初衷是探索“模型足够聪明时代代码的形态”,而非“如何帮开发者节省 token"。其核心逻辑在于:能用多 token 解决的问题,绝不寻求更省力的方案。

Anthropic 愿意为这种“智能感”承担高额 token 成本。五分钟消耗 200 美元对 Claude Code 而言并非事故,而是设计使然。所有的子代理(sub-agent)、炫目的 UI 动画及冗长的推理轨迹(reasoning trace),旨在让用户产生“模型极其聪明能干”的心理认同,从而形成“高消耗换好评,好评促复用”的营销闭环。

正是这种“烧钱换体验”的设计哲学,使得 Claude 在 token 效率上逐渐落后于 OpenAI。后者致力于压缩推理轨迹、优化模型效率,主张“用更少 token 完成同等任务”,Codex 5.5 便是典型案例。

尽管 Fable 5 等模型智能程度较高,但效率欠佳。Deep SWE 数据显示,GPT-5.5 medium 仅用 2 万 token 即获高分,而 Opus 4.8 消耗 5 万 token 得分反而更低。行业现状清晰可见:市场在恐慌,Claude 在挥霍,OpenAI 在精简。降本的首要切入点,正是那些过度堆砌的提示词。

系统提示词优化:从“越多越好”到“删繁就简”

Anthropic 在最新演讲中透露,已删除 Claude Code 中 80% 的系统提示词(system prompt)。

Anthropic 技术团队成员 Tariq Shihipar 指出,这反映了 AI 引导方式的根本性变革。过去认为指令和示例越多模型表现越好,但新模型 Fable 5 展现出超越示例的想象力,过多的示例反而成为限制。

尽管其中包含营销成分,但不可否认的事实是:连 Anthropic 自身也开始对 system prompt 进行大刀阔斧的削减。

为何过去需要如此庞大的 prompt?过去一两年,AI 编程领域形成了“上下文越大越好、工具说明越全越好、system prompt 越完整越好”的惯性思维。为解决模型在项目组织、工具使用、主动性及稳定性方面的问题,团队不断添加 Agents.md、tool descriptions 及行为约束。

System prompt 曾是 AI 编程工具的核心竞争力。微调 prompt 即可显著提升性能,不同工具间(如 Codex、Cursor、OpenCode、Copilot)的表现差异往往源于 prompt 的细微差别。Cursor 曾通过大量 A/B 测试微调 prompt,使模型表现提升 10% 至 30%。

然而,只要 prompt 有效,团队便倾向于持续叠加。针对模型的各种缺陷逐一添加规则,长期积累导致 system prompt 沦为巨大的常驻上下文包袱。

关键在于,system prompt 并非免费资源。每次调用均需读入、计费并占用上下文窗口。Claude Code 在内置所有功能后,system prompt 一度膨胀至 65,000 token;即便关闭大部分功能,仍高达 12,000 token。相比之下,Pi 启动时的上下文不足一千 token。

此外,"Prompt 债”比“代码债”更为隐蔽。代码老化易在测试与修 bug 时暴露,而 prompt 老化仅导致模型性能悄然下降。用户感知到的“模型变笨”或“新模型不强”,实则是旧 system prompt 未能适配新模型所致。

当 prompt 从竞争力转变为负担时,Anthropic 选择删除 80%,以此显著提升 token 效率。

Claude 的“废话税”:语言冗余推高成本

Claude Code 的输出存在严重的语言冗余问题。今年走红的"Caveman"插件正是为此而生。该插件倡导像原始人一样交流:去除礼貌用语、多余语法及填充词,仅保留核心信息。

"Caveman save you token, save you money. Star cost zero."

这看似玩笑,实则解决了 LLM 领域的真实痛点:废话过多导致 token 浪费及成本不必要的上升。其起源正是针对 Claude Code 的观察。

Caveman 创建者 Julius Brussee 表示,他在重度使用 Claude Code 期间发现,大量 token 消耗于寒暄、模糊措辞、过渡语及 agent 循环中无关紧要的闲聊。评测显示,Caveman 相比默认输出可减少 65% 至 75% 的 token,且效果优于简单的“请简洁”指令。它主要压缩自然语言部分,不影响代码、命令、路径等需精确性的内容。

据悉,OpenAI 工程总监 Shayne Sweeney 也为该项目贡献了代码以支持 Codex。

有趣的是,OpenAI 早已将此类语言模式应用于内部思考环节。泄露的 reasoning trace 显示,其内容并非标准英语,而是压缩后的工程速记:

"Use core new nodes. Need infer. Need add VAE encode for images. Try. Try period."

这些句子虽显粗糙,但重点在于 token 效率。模型内部推理无需保持对用户的礼貌与流畅,只需保留动作、对象、判断及下一步计划。只要最终答案正常,内部思考完全可采用更短、更粗略的语言以极致追求效率。

压缩 reasoning token 的收益尤为显著。由于 agent 是多步执行,前一步的思考会成为后一步的输入。减少每一步的“思考”长度,不仅能节省当前 token,更能降低整条执行链的重复开销。

这正是 OpenAI 与 Claude 路线的显著差异。Claude 更像一位用完整语言思考和表达的助手,其 reasoning trace 较长,依赖大上下文窗口(默认 100 万 token)来容纳内容。许多人误以为大窗口是为了装入更大代码库,实则是因为 Claude 生成内容过长。此外,Claude 在内容压缩(compaction)方面表现不佳,恢复旧线程时常建议 compact,因其会在 10 至 20 分钟后清除 reasoning trace,否则成本将无法承受。

相比之下,OpenAI 模型的上下文窗口约为 20 万或更少,但凭借初始阶段的简短语言压缩,足以应对需求。

一个值得玩味的细节是:若 Anthropic 彻底解决“废话太多”的问题,其收入或将明显下降。若开发者能以更少 token 完成同等工作,厂商将失去这部分收益。

声明:本文为 InfoQ 原创,不代表平台观点,也不构成投资建议,未经许可禁止转载。

【声明】内容源于网络
0
0
AI前线
面向AI爱好者、开发者和科学家,提供大模型最新资讯、AI技术分享干货、一线业界实践案例,助你全面拥抱AIGC。
内容 8620
粉丝 0
AI前线 面向AI爱好者、开发者和科学家,提供大模型最新资讯、AI技术分享干货、一线业界实践案例,助你全面拥抱AIGC。
总阅读155.2k
粉丝0
内容8.6k