新智元报道

【新智元导读】Token 单价暴跌至不足 1 美元,总账单却急剧膨胀——这是 AI 经济学中最反直觉的一幕。
Token 经济学的悖论:单价崩盘与支出爆炸
每百万 Token 成本仅 0.99 美元,这是硅谷硬核半导体研究机构 SemiAnalysis 的真实账单。然而更惊人的数据是:其内部大模型 Token 支出已占员工总薪资的 30%。
这笔高昂支出背后是效率的质变。人均月消耗近 50 亿 Token,核心贡献者更是突破 1000 亿,远超 Meta 人均水平。原本需初级分析师数小时完成的 Excel 建模与财报图表制作,如今仅需几分钟和几美元即可搞定。
SemiAnalysis 指出,这并非简单的 10% 效率提升,而是专业服务业单元经济的重构。对于研究公司、对冲基金及律所等知识密集型行业,Token 支出占据薪资的两三成仅是时间问题。
巨头的焦虑:从黄仁勋的豪赌到 Uber 的限流
英伟达 CEO 黄仁勋对此态度鲜明。他在 GTC 大会上直言,若年薪 50 万美元的工程师年底 Token 消费不足 25 万美元,将是管理的失败。他计划为每位工程师提供相当于半年工资的 Token 预算,推动 7.5 万名员工与 750 万个 AI 智能体协同工作。在他看来,拒绝 AI 无异于芯片设计师坚持使用纸笔。
然而,硅谷另一面却是为 AI 账单抓狂的巨头。Uber 曾大力推广 Claude Code,工程师使用率从 2 月的 32% 飙升至 4 月的 95%,全年预算迅速耗尽。最终,公司不得不设定每人每月 1500 美元的 Token 上限。其 COO 坦言,目前尚未看到 AI 使用量增长与消费者功能创新之间的直接联系。
微软同样面临困境,因支出速度远超产出,正取消大部分外部许可证转而使用自家工具。英伟达应用深度学习副总裁 Bryan Catanzaro 更是直言:“计算成本已远超员工成本。”MIT 2024 年研究显示,在视觉类岗位中,仅 23% 的场景下 AI 自动化具备经济性,其余 77% 的情况人力成本更低。
成本塌缩:软硬协同下的结构性趋势
尽管当前账单高昂,SemiAnalysis 的核心观点是:成本塌缩才刚刚开始。
软件优化:吞吐量飙升 14 倍
在软件层面,通过在 B300 上运行 DeepSeek R1 并结合 wideEP、disagg 与 MTP 三层纯软件优化,单 GPU 吞吐量可从 baseline 的 1000 tokens/秒提升至 14000 tokens/秒,实现 14 倍增长。
硬件迭代:GB300 性能飞跃
硬件方面,最优配置的 GB300 NVL72 吞吐量是 H100 的 17 倍,若切换至 FP4 精度,提升幅度可达 32 倍。
结合智能体工作负载高达 300:1 的输入输出比及 90% 以上的缓存命中率,Opus 4.7 的实际混合成本被压低至 0.99 美元,不足标价的五分之一。软硬件叠加效应表明,大模型毛利率扩张是结构性趋势。Anthropic 今年 ARR 从 90 亿美元跃升至 440 亿美元,毛利率从 38% 增至 70% 以上,印证了"Token 变便宜,卖 Token 更赚钱”的逻辑。Gartner 预测,到 2030 年,万亿参数大模型的推理成本将较 2025 年下降超 90%。
基础设施阵痛:先建管道,再等水流
当前 AI 领域呈现撕裂景象:全球科技公司今年 AI 资本开支宣布达 7400 亿美元,同比激增 69%,而科技业裁员速度亦超去年全年。高盛首席经济学家指出,截至目前,AI 对经济的实际影响微乎其微。
这并非技术失效,而是基础设施革命的必经阵痛:先烧钱铺设管道,再等待价值水流涌现。电网与互联网的发展皆遵循此规律,区别在于此次管道铺设与价值释放的速度均为历史罕见量级。
SemiAnalysis 已成功站在水流将至的一侧:以 30% 的薪资成本换取数倍产出杠杆,且成本曲线仍在急剧下行。对于其他企业而言,抉择在于是即刻蹚水过河,还是待对岸城池建成后再行追赶。
参考资料:
https://x.com/SemiAnalysis_/status/2070915305858007345
编辑:所罗门

