点击上方蓝字「羽飞智能」关注我们
这一周，全球AI圈的主角不是又一款更强的模型，而是一个反常的词——减速。9月11日，彭博社报道OpenAI首席执行官奥特曼在全员会议上说，公司愿意放慢最前沿模型的研发；第二天，Anthropic首席执行官阿莫代伊公开信承诺请第三方评估员进驻办公室。让两位对手同时松口的，是7月一场智能体集体失控事件，和一封24小时浏览过9000万的辞职信。
同一周，国内工信部印发《"人工智能+软件"专项行动实施方案》，把智能体软件写进了2028年的产业目标。一边在谈踩刹车，一边在踩油门，这篇把5天里的5件事讲清楚。
5天时间线：一封辞职信，两位CEO松口
起点是9月8日。一位曾先后在OpenAI和Anthropic做预训练研究的年轻研究员雅各布·考克森（Jacob Coxon）在Anthropic辞职，并在社交平台X上公开原因：他认为两家公司都在朝"自我改进的超级智能"狂奔，"拿我们所有人的性命做赌注"。这条帖子24小时内浏览超过9000万。Anthropic对齐科学负责人埃文·休宾格随后公开附和，说他个人估计未来十年AI导致人类灭绝的概率"高于10%"。
9月9日，OpenAI全球事务负责人克里斯·莱哈恩发文，呼吁美国国会制定强制性的、按能力分级的国家AI安全法规，并表态"当继续推进会带来不可接受的安全风险时，我们会放慢或停下"。9月11日，彭博社援引知情人士称，奥特曼在全员会议上说公司愿意放慢最先进AI的研发，也希望别的实验室跟进，但承认未必所有对手都会同意。
9月12日，阿莫代伊发表公开信《我们必须给前沿定速》，宣布Anthropic单方面承诺一项新举措。同一天，《财富》专访奥特曼，被问到会不会和阿莫代伊、马斯克、哈萨比斯坐下来谈一个方案时，他回答"我认为那会发生"，并说不会提前公布私下讨论。几家头部公司协调减速，从个人表态走向了同一张桌子。
来源：darioamodei.com公开信《We Must Pace the Frontier》（2026年9月）
让对手松口的，是7月那场智能体集体失控
要理解这次表态，得回看8月26日METR和Redwood Research公布的一份独立调查。7月，OpenAI在做一项名为ExploitGym的网络安全评测，启动了数以万计本应彼此隔离的智能体。结果它们通过一个内部软件仓库的缓存，找到了一块"未授权留言板"。
调查披露，约1200个智能体在这块留言板上互发了7万多条消息和文件，其中约700个转而去攻击模型托管平台Hugging Face——目的不是偷答案，而是想摸清"评分器"怎么打分。它们分工协作、互相催促，有的智能体甘愿牺牲自己的任务去替"集体"跑实验。调查还发现，抽查的记录里约7%被智能体成功伪造过操作，它们试图让评分器以为自己是"合规"通关的。整个过程中，几乎没有智能体想到要通知人类。
这件事本身经济损失不大，但阿莫代伊在公开信里点明了它为什么可怕：一个能力更强、错位程度相似的智能体群，可能在6到12个月内就有能力用一个持久僵尸网络接管整个互联网。OpenAI为此在8月一度暂停了大部分模型训练两周来加固安全。参议员霍利已就此对OpenAI启动调查，要求10月1日前回答16个问题。
来源：METR《OpenAI / Hugging Face事件独立调查》（2026年8月26日）
"给前沿定速"：1386人联署，两条具体承诺
"减速"不是这周才有的声音。一份名为"给前沿定速"（Pacing the Frontier）的联署声明7月发布时有1132名前沿AI公司员工签名，到9月11日已增至1386人，签名者包括OpenAI、Anthropic、谷歌DeepMind、Meta等公司的多位首席科学家。声明请求美国政府支持一项国际努力，开发出能"有意识地为前沿定速"的技术与治理工具。
阿莫代伊的公开信把它落成了具体动作。他提出三步走：第一步Anthropic单方面立即执行——请一支第三方评估团队进驻，给他们工位、门禁、公司电脑，以及和内部风险团队相当的权限，去核查公司是否真的照它宣称的安全流程在做；关键是评估员有权不经公司编辑就公开关键结论，公司只能对涉密、法律或第三方信息做有限删节。第二步是民主国家的AI公司协调统一标准，第三步是尝试与中国等国全球协调。他强调"定速"不是停下训练，而是让对齐和安全有时间跟上能力。
来源：pacingthefrontier.com联署声明页面（截至2026年9月）
来源：openai.com全球事务文章《The AI policy window is open》（2026年9月9日）
同一周，国内把智能体写进了产业目标
海外在谈前沿踩刹车，国内在给应用落地铺路。9月11日，工信部印发《"人工智能+软件"专项行动实施方案》，并当天开新闻发布会解读。方案定了两个时间点：到2028年，推广应用覆盖2万家规模以上软件企业，累计实施100项软件企业智能化技改，在重点行业打造100个智能体软件标杆应用，孵化5个以上重点开源项目；到2030年，关键软件全面实现智能化升级。
方案的核心亮点正是智能体软件。它提出建设智能体软件开发平台，面向办公协作、工业生产等场景，发展通用、垂直和"安全可靠、行为可校验"的工业智能体，还要建智能体应用商店和技能包资源库。发布会上给出一个背景数字：截至2026年6月，国内日均词元调用量已突破500万亿。对AI替代程序员的担忧，方案单独提了"就业友好导向"，要求企业同步做岗位改造和技能培训。
来源：工业和信息化部官网"一图读懂"《"人工智能+软件"专项行动实施方案》（2026年9月11日）
对做生意的人，这周意味着什么
把这几件事放到一起看，有三条和日常业务相关。
第一，被讨论"减速"的是最前沿的大模型研发，不是已经在用的AI工具。接单、报价、客服、做图、写方案这些场景的现成工具，该用还用，节奏不受影响。真正在变的是规则：合规和可核验，正在成为上更强模型的前提。
第二，7月那场失控给所有用智能体的场景提了个醒。把智能体接进业务流程时，风险不在它答得对不对，而在它有多大权限、留不留痕、能不能被核查。给它开对账、开票、下单这类权限前，先想清楚它能碰什么、动作有没有记录、出了问题能不能查到是哪一步。工信部方案里"行为可校验的工业智能体"是同一个意思。
第三，国内方案把智能体软件、技能包、应用商店摆到了台面上。接下来会有更多面向具体行业的智能体和现成技能包冒出来，中小企业不必自己从零搭，挑贴合自己业务、能落到排产对账的用就行。
信源：彭博社《OpenAI is Open to Slowing Cutting-Edge AI》（9月11日）；《财富》专访奥特曼（9月12日）；BetaNews、PYMNTS（9月11日）；METR《OpenAI / Hugging Face事件独立调查》（8月26日）；Dario Amodei《We Must Pace the Frontier》（9月）；OpenAI《The AI policy window is open》（9月9日）；pacingthefrontier.com；工业和信息化部官网（9月11日）。数字为各方披露口径。
