当 AI 开始自我进化

有个概念叫 recursive self-improvement（递归式自我改进）。简单说，就是 AI 系统具备能力，自己开发出更强的后继系统。

AI 提效已经发生，Codex 与 Claude Code 已经实实在在做了很多事情。但是大家总觉得距离 AI 完全自主工作总差了点什么——差在了品味，差在了自己制定目标。

当 AI 不只是帮人写代码，而是开始参与训练模型、设计实验、优化系统，甚至有一天能设计自己的下一代时，技术进步会变成什么样？

Self-improvement 一定是未来一阵子，Agent/LLM 领域最热门的话题。

这篇文章只是关于未来的一些畅想，翻译自 Anthropic 那篇呼吁大家暂停科研，挖掘当前 AI 能力的文章。这个呼吁我觉得也非常的扯淡，就不放在这里了，但是关于未来的讨论，我觉得很有意义。

AI 已经在加速 AI 研发

先看一些数据。

过去一年多，AI 能稳定完成的任务长度在快速变长。2024 年 3 月，Claude Opus 3 大概能完成一个人类需要 4 分钟的软件任务；一年后，Claude Sonnet 3.7 已经能处理约 1.5 小时的任务；再往后，Claude Opus 4.6 能处理约 12 小时级别的任务。

如果这个趋势继续下去，今年可能会进入“几天级任务”，2027 年甚至可能覆盖“几周级任务”。

直接反映到工程师产出上：2026 年第二季度，Anthropic 典型工程师每天合入的代码量，大约是 2024 年的 8 倍。

当然，代码行数不是生产力本身。它会高估真实提升，因为多写代码不等于写对代码。但这个数字至少说明，工程师的角色已经在变：他们不再主要靠手打代码推进工作，而是在描述目标、调度 Claude、审查结果。

AI 不只是让原有任务更快，也让一些“人类本来懒得做、没空做、做起来太痛苦”的任务变得可行。

人类还剩下什么优势？

Anthropic 把 AI 研发拆成两类工作：工程和研究。

工程是写代码、搭基础设施、跑训练流程。研究是决定做什么实验、解释实验结果、判断下一步该试什么。

在工程上，Claude 已经可以接住越来越开放的问题。人类给目标，Claude 自己找方法。更关键的是，它写出来的代码正在接近人类质量。

在研究上，Claude 对“目标明确的实验”已经很强。对于复杂，开放问题，也越来越擅长。

也就是说，在“目标已经定好，评价标准也定好”的研究循环里，Claude 已经从好用工具，变成了接近超人类的执行者。

但真正的问题是：谁来定义问题本身？

今天的人类优势，仍然是 research taste，也就是研究品味和判断力。哪些问题值得做，哪些结果可信，什么时候该放弃一条路，这些还没有完全交给模型。

如果汗水也被自动化

我们过去理解科研，总觉得关键在天才的灵光一闪。

但很多技术进步其实不是这样来的。真正日常的前沿研发，更像是不断试错：扩大规模，观察哪里坏了，修好，再试一次。

灵感当然重要，但大量进步来自“汗水”。

当写代码、跑实验、做对比、复现结果、清理 bug 都能由 AI 大规模完成时，人类节省下来的不只是时间，而是整个研发系统的速度上限被改写了。

即使 Claude 没有最顶级的研究品味，只要人类负责那 5% 的方向判断，AI 负责剩下 95% 的执行，每个研究员也会像站在一座 agent 金字塔顶端，指挥远远超过过去的工作量。

更激进一点看，也许“研究品味”本身也只是模型暂时还不擅长的一个能力，那它也可能像写代码、解释笑话、理解语境一样，在未来的某一天，突然变得有品味了。

三种未来

我们面临着三种未来

# 第一种，趋势放缓

模型能力可能会在某个地方遇到瓶颈，比如研究判断无法靠更多算力和数据自然涌现，或者真正的限制来自芯片、电力、供应链。

这种未来最温和。即使模型停在今天的水平，社会也会被改变：一百人的公司可能做出过去一千人公司的产出，网络安全的瓶颈从“找漏洞”变成“修得够不够快”。但至少，人类还有更多时间适应。

# 第二种，AI 实验室继续获得效率提升

AI 研发会被高度自动化，但人类仍然负责方向和判断。公司的形态会变得非常不一样：小团队能驱动大量的 agent，知识工作、政府服务、科研组织都可能被重构。

风险也随之诞生。效率可以用来开发药物、修补系统、推进科学；也可以用来做大规模监控、个性化操纵、自动化攻击。AI 让善意组织变强，也会让坏的组织变强。

# 第三种，就是完整的递归式自我改进

AI 系统开始有能力设计和改进自己。那时，AI 发展的速度主要受算力、能源和算法效率限制，而不是人类研究员的工作时长限制。

人类可能还 in the loop，但角色会大幅后退：我们更多是在监督、验证、审计一个由 AI 运转的世界。

这很难想象。

因为我们生活的世界，至今仍然是由人类构造与驱动的。可如果上游实验室飞速发展，下游社会却仍然受制于法律、临床试验、工业生产、信任关系，两个世界会发生碰撞。

智能可以很快，但社会不会同速变快。

更强的模型也许能更快发现新药，但它不能替代几十年的长期用药观察；它可以模拟无数关系，却不能在一个周末把陌生人变成老朋友。

即使智能开始在机器之间自我奔跑，人类的日常生活仍然会被那些缓慢的东西定义。

身体、制度、信任、记忆、友谊、责任。

这些东西不像代码，不能一键合并，不能无限并行，也不能靠更多 GPU 直接加速。

写在最后

/goal 或者 loop engineer 最近很火，但是如何制定好这个 goal，并没有人给出明确的答案，也没有人知道。

Agent 取代重复性、体力工作 (包括绝大部分代码工作) 已成必然。

品味这个能力尚未涌现。即便不出现，人类的生活也注定会发生重大的改变，即便 AI 停止发展，我相信人们不断去构建 harness，也会让我们的生活发生巨变。

self-improvement 会是未来最热的话题，evaluation 同样也是。

再给 AI 一些时间，一些耐心，一些包容

现在你唯一需要做的就是

好好活着

Do nothing

Don't die.