| 👆 点击关注「星捷AI前沿」 | 「···」→ 设为星标 ⭐ |
Bloomberg Originals深度专访Anthropic CEO Dario Amodei:估值超越OpenAI、Mythos"超级武器"模型拒发、AI军事应用的伦理红线、10-25%文明崩溃概率。一个AI公司CEO在技术、资本、军事、治理四条战线上的完整表态。
6月17日,Bloomberg Originals频道播出了对Anthropic CEO Dario Amodei的深度专访。主持人Emily Chang的提问从"你每天睡多久"开始,最终走到了"AI是否会导致文明崩溃"。
这不是一次常规的媒体露面。整场对话涵盖了离开OpenAI的真正原因、Mythos网络安全模型为何被测试者自己要求不要发布、AI在军事应用中的伦理红线、AI就业冲击的政策回应、以及Anthropic如何设计一个可以解雇自己的治理结构。
指数曲线上的冷静课
Emily Chang的开场问题是:"你每天睡多久?"Dario坦言正在"学习在异常压力下放松和睡眠的艺术",然后抛出一个比喻:想象你在一艘以接近光速飞离地球的飞船上——狭义相对论决定了你睡一觉醒来,地球上已过了两天;再睡一觉,三天;再睡一觉,四天。你必须用一天处理两三天的事。
但他拒绝恐慌式决策。"在'完全不担心'和'天哪我们今天必须恐慌'之间反复横跳,是不成熟决策的标志。"他将成熟决策比作外科医生面对手术、军事指挥官面对作战——理性、了解风险、但保持基本冷静。
这个姿态贯穿了整场专访。Dario试图建立第三种叙事:技术极其强大、风险真实存在、但正确的回应是制度化的冷静。不是不害怕,而是"害怕但理性"。这本身就是Anthropic区别于其他AI公司的核心品牌定位。
离开OpenAI:信任瓦解,不是安全分歧
关于离开OpenAI的决定,Dario此次给出了最直接的表达。他明确表示,安全分歧本身不足以导致离开。"Anthropic内部的人也经常和我有分歧,人们互相之间也有分歧。"
真正的原因是信任瓦解——
"当你觉得无法信任一个人,当你觉得他们的价值观不是他们所说的那样,当你觉得他们不诚实,当你觉得他们的动机不是他们声称的……当你看到令人不安的不诚实行为模式。"
——他没有点名Sam Altman。但意思已经很清楚了。
Dario拒绝深入细节,但态度坚决:"为什么要和一个你既没有共同愿景、又不信任的人争论?解决办法就是你去做你的事,他们做他们的。我们走着瞧,看谁在市场上赢,看谁在公众舆论上赢。"
他实际上在重新定义AI行业的竞争格局:不是Anthropic vs. OpenAI的简单二元,而是"可信阵营"vs."不可信阵营"。他将Google DeepMind的Demis Hassabis描述为认识15年的可信同行——"我们互相交换安全想法,我们从Google购买算力"。他提出的"竞优"(race to the top)概念是:可信者联合,通过示范效应和声誉压力,迫使不可信者跟进。"有时他们在攻击我们的同时抄袭我们,但这种拉动是有价值的。"
这种划分赋予了Anthropic的商业竞争一种道德合法性——我们不是在抢市场,我们是在拉高行业标准。这是极其聪明的叙事策略,也是Anthropic吸引人才和客户的核心逻辑。
80倍年化增长与万亿美元估值
Bloomberg报道Anthropic估值已超OpenAI,接近万亿美元。Emily的质疑很直接:"你更注重算力纪律、盈利路径更快,为什么还需要这么多钱?"
Dario给出的数字令人震惊:Anthropic按每年10倍增长规划算力,但2026年Q1出现了季度收入增长超3倍——年化即80倍。"我们没有为80倍年化增长做规划,那是不理性的。如果只有10倍增长,你就有8倍算力缺口。"但他认为这种极端增速不可持续——"如果持续下去,年底收入将超过地球上任何公司,这不可能。"
80倍年化增长即使只持续一个季度,也意味着AI产业的实际增速已远超任何理性预期模型。这解释了为什么科技巨头愿意砸数百亿美元投算力——不是疯狂,而是面对可能的80倍增长曲线,10倍规划本身就是保守的。
Mythos:被测试者自己要求不要发布的"超级武器"
Mythos是Anthropic的网络安全模型,能自主完成网络杀伤链的全部环节——发现软件漏洞并将其转化为可利用的exploit。Dario透露,早期测试公司直接称其为"超级武器",要求持枪证才能使用,并主动请求Anthropic不要公开发布。
"最让我惊讶的是跳跃的幅度。我们没有特别提示模型去做这些,是测试公司自己发现这么多关键漏洞和exploit能力后,基本恳求我们不要发布。"
Dario澄清了几个关键点:目标不是永远封锁,而是逐步开放,最终面向大众——但需要网络安全防护成熟到足以应对风险。已在Opus 4.7上发布较弱版本,带网络安全防护,但这些防护可被越狱绕过。在Firefox中发现了271个新漏洞,在私营公司中发现数千个——这些是之前的模型从未发现的。政府正在减缓开放速度,因为担心反情报风险,Dario认为这是明智的。
对于"廉价PR"的指控,Dario罕见地表现出情绪:"不发布Mythos在商业上给我们造成了巨大损失。客户每天打电话要访问权,国家打电话要访问权,而我们的安全团队和政府说'等一下'。"对于有人声称开源模型可以复制Mythos,他直接说"令人难以置信的错误"——"你把模型指向Mythos找到的那行代码,它当然能发现同样的问题。但这不是同一件事。"
一个AI模型被测试者自己要求不要发布——这不是监管者叫停,是市场参与者自愿叫停。如果Mythos级能力在12个月后可能被开源模型复制,我们是否正处于一个网络安全的"补窗期"?Dario的策略是先防御后开放——用Mythos帮助修补漏洞,当能力扩散时表面已经加固。但这个窗口有多长?
AI军事应用:当打击目标从1000提升到5000
最沉重的对话发生在AI军事应用部分。Emily Chang在访谈中提到,据美国官员称LLM帮助军方将每日打击目标从1000个提升到5000个。她还说Bloomberg曾报道Claude通过Palantir的Maven Smart System用于伊朗战争的AI辅助打击。
关于伊朗女校误炸事件,根据BBC报道,2026年2月28日,美国和以色列对伊朗发动大规模打击,伊朗城市Minab的一所女子学校被导弹击中,伊朗方面称超过160人死亡,多数为学生。BBC验证了视频显示美国Tomahawk导弹击中了学校旁边的IRGC军事基地,美国媒体报道称初步调查认定系美国导弹因过时目标坐标误击学校,五角大楼至今未正式承认。Emily Chang在访谈中将此次事件与Claude的军事使用联系起来提问,但Claude是否具体参与了此次打击,并无公开确认。
"Claude是否参与了那次打击?"
Dario的回答谨慎而坦诚:"我们不知道模型具体如何被使用。战争中发生的这些错误真的很可怕。"他强调Anthropic坚持的核心原则:人类做最终决定。"这里是人类做了最终决定,不是Claude。想象一下如果我们允许了完全自主武器——其他几乎所有公司都允许了——AI直接做决定,人类根本看不到。"
他用《奇爱博士》做比喻——自动发射核武器的末日机器,"什么可能出错?"关于AI战争是否更可能引发或阻止世界大战,Dario认为总体上更可能阻止——如果使用得当。优越的情报能力可以威慑冲突。"但如果没有使用限制,它可能更容易引发。"
这里有一个无法回避的逻辑裂缝:如果AI帮助将打击目标从1000提升到5000,即使每一步都有人类"确认",人类决策的速度和认知负荷已被根本性改变。AI没有扣扳机,但AI重新定义了扳机的节奏。这不是Anthropic独有的问题,是整个AI军事应用的系统性困境。
就业冲击:不是"末日来了",是"严肃政策讨论"
Dario一年前说AI可能在1-5年内消除50%的初级白领工作。Emily问:现在还持这个判断吗?
"我说的原话从来都是'我不知道会发生什么,但这个量级说明事情可能有多疯狂',同时我也谈了所有应对措施。"Dario对社交媒体截取3秒"末日来了"片段的做法极为不满。他指出当前处于"AI让人更高效"阶段,但最终会接近100%自动化。Anthropic内部已出现转变:AI写几乎所有代码,有些工程师开始不是被增效而是被替代。同时新角色出现——"前线部署工程师",技术+客户沟通混合岗位需求旺盛。
对于Jensen Huang等人"混淆任务与工作"的批评,Dario强力回击:"说这是廉价营销本身就是廉价营销,是懒惰,是不愿与严肃智识工作交锋。"他在《技术的青春期》中用了5页区分任务与工作、解释为什么这次不同、列出6种应对措施。"社交媒体是硅谷的病。人们只回应3秒片段,不读文章。"
制衡设计:一个可以解雇自己的CEO
Emily问了一个尖锐问题:为什么政府不直接接管你们?
Dario的回答出人意料地坦诚:"我也有同样的担忧。"他指出AI是历史上第一个完全在私营部门建造的极其强大的技术——核武器、互联网、GPS都起源于政府。"这是一个危险且不稳定的局面。但这不是私企的错,是政府没有参与。"
他拒绝政府直接接管,但提出制衡方案:Anthropic设立了"长期利益信托"(Long Term Benefit Trust),可任命和罢免多数董事会成员——"实质上可以解雇我"。政府侧需要立法和司法分支介入,设定红线、要求预发布测试。他严厉批评硅谷在监管问题上的极端摇摆:"从'任何透明度都扼杀创新'到'政府应该直接没收'——我们需要更明智、温和的方式。"
这实际上是一个AI治理的"三权分立"框架:AI公司、政府、独立信托机构互相制衡。这个框架的弱点也很明显——它是自愿的。Anthropic可以设立长期利益信托,但无法迫使其他公司效仿。但至少Anthropic在尝试——在AI行业普遍抵制监管的背景下,这种自我设限本身就是一种信号。
10-25%文明崩溃概率与航空比喻
Emily抛出了也许是整场访谈最沉重的问题:Dario曾说有10-25%的文明崩溃概率,而且这是Anthropic建造的东西可能导致的。
Dario没有回避。他用航空公司做比喻——"你可以比其他公司安全10倍,但无法保证飞机永不坠毁。"Emily立刻抓住破绽:"如果飞机有25%的坠毁概率,你不会登机。25%太高了。""对,25%太高了。我们的目标是大幅降低它。"
"10-25%"这个数字之所以令人不安,是因为它来自一个正在建造这种技术的人。Dario的核心论点——"我们的存在降低了风险"——在逻辑上无法证伪。我们不知道没有Anthropic的世界是否更危险。但有一点是确定的:如果AI真的导致文明崩溃,它最可能来自一个我们没预料到的方向——因为"技术不可预测"。
为什么要信任你?
Emily在访谈尾声问了最直接的问题:"你在建造极其强大的东西,并从中获得巨大利益。我们为什么要信任你?"
Dario的回答可能是整场访谈中最诚实的一段:"从'不信任'的起点出发是完全理性的。硅谷已经失去了世界的信任,需要重新赢得它。"他列举了Anthropic的行动记录:不发布Mythos——商业上巨大损失;主动切断对华模型访问——损失数亿美元收入;推迟Claude 2发布;坚持国防部合作中的红线——即使被联邦政府禁止参与。
"看看整体历史,哪种关于我们的假设与这些行为最一致?我们不完美,会犯错,但根本上我们在真诚地努力做正确的事。如果有人能提出一个更一致的假设,我愿意听。"
信任问题是AI治理的终极难题。Dario的论证逻辑是"行为一致性证明意图"。这个论证有力量,但也有局限——因为"真诚"和"正确"是两个不同的维度。一个人可以真诚地做错事。但如果我们要求"动机纯粹到无懈可击"才值得信任,那没有任何组织能通过测试。Dario提出的标准——"行为一致性"——可能是现实中最可行的信任基础。
指数曲线的另一端
Emily以一句意味深长的话结束了访谈:"我们在指数曲线的另一端见。"Dario微笑着回应:"希望如此。"
整场访谈中,Dario Amodei展示了一个AI行业领导者罕见的多面性:商业竞争者、安全倡导者、国防合作者、反战理想主义者、技术乐观派、文明悲观派。这些看似矛盾的身份在同一个人物身上共存,恰恰反映了AI这个技术本身的矛盾性——它可能带来一个世纪的医学进步,也可能造成25%的文明崩溃概率。
Dario最核心的信息不是"信任我",而是"看看我的行为,做出你自己的判断"。但他也提出了一个所有人都需要回答的问题:如果AI的指数增长是真实的、不可逆的,我们是否有比"恐慌"和"否认"更好的第三种选择?
Dario的答案是:有。那就是像外科医生一样——了解风险,保持冷静,理性行动。
原始视频:https://www.youtube.com/watch?v=x2VHFgyawPE

