文 | 世界模型工场

Anthropic又出暴论了。

这次他们发了一篇报告，标题叫《When AI Builds Itself》（AI在构建自己）。

先来几组数字感受一下：

截至今年5月，Anthropic超过80%的代码已经由Claude自己写；工程师人均代码产出翻了8倍；Claude可以连续自主工作超过16小时。

Anthropic给出的判断是，如果按现在的趋势继续下去，AI自己设计、构建下一代AI，是完全可能发生的。

基于这种风险，Anthropic甚至呼吁全球放缓前沿AI研发！

观点一出，社交媒体立刻炸了："AI要自己造自己了！""递归自我改进（RSI），奇点要来了！"

熟悉的配方，熟悉的味道。

如果你在AI圈混了超过两年，一定认得这个节奏：

每隔几个月，就会有一家头部AI公司抛出一个让人觉得"时代要变了"的论断；

社交媒体集体进入焦虑模式，然后……

日子还是照过。

前几天OpenAI刚说完“AI显现出递归自我改进（RSI）的早期迹象"，Anthropic后脚就来一篇"AI正在造下一个自己"。

现在连营销话术都要你追我赶了吗？

今天这篇文章就来拆解一下，Anthropic和OpenAI说的RSI到底是什么？现在到了哪一步？未来AI可能走向哪里？

看完你再决定，到底该不该焦虑。

Anthropic走到了哪一步？

递归自我改进(Recursive Self-Improvement，RSI)，是AI圈讨论了近二十年的老话题。

核心逻辑很简单：AI能改进自身，改进后的下一代又能改进再下一代，不需要人类介入，形成自我加速的能力飞轮。

这是AI奇点理论的触发条件。

不过在讨论"目前RSI到了哪一步"之前，你得先搞清楚，RSI不是一个临界点，而是一个阶梯。

这些年关于RSI的研究，共同给出了一把衡量RSI进度的尺子，可以把它大致分成六个阶段：

那么，Anthropic现在在哪儿？先看Anthropic自己怎么说。

Anthropic在报告里也画了一张时间轴，把AI介入AI开发，分成五个阶段：

按他们自己的地图，他们现在已经在第四阶段，离终点只剩一步。

但事实真的如此吗？

对照业界研究的六个阶段，Anthropic的位置更像是处在第3-4阶段之间，也就是半自动研究闭环和自改进Agent阶段。

Anthropic内部有一个公开披露的实验：

Claude Agent全程自主完成一个AI安全研究项目，从提假设到分析结果全部自动，用约800小时、约1.8万美元算力成本，恢复了97%的性能缺口，而两名人类研究员花了整整一周只恢复了23%。

这是一个真实运转的半自动研究闭环，说Anthropic已处在第3阶段不为过。

第4阶段的迹象同样存在。

Anthropic做了一个代码优化实验。

Claude拿到训练小模型的代码，自主运行、计时、修改、再运行，跑出了52倍的速度提升，人类熟练研究员做同样任务只能做到4倍。

这非常接近自改进Agent的逻辑：改工具链、跑benchmark、选更好的版本。

卡住RSI的关键

但值得注意的是，还有一个关键环节没被Anthropic跨越。

Anthropic在文章里提到了一个词，叫做research taste（研究品味），这是判断什么问题值得做的能力。

用他们自己的比喻：

初级员工接到的任务是"这个按钮坏了，去修"；

有经验的员工接到的是"网络有时候会变慢，查一下原因"；

最资深的人在思考的是"我们下个季度该做什么"。

目前，Claude在第一层已经很强，第二层在快速追赶。

但在第三层，比如“什么问题值得做、哪些结果可信、什么时候该放弃”这些研究品味上，人类仍有比较优势。

只要人类还在主导这个环节，AI就没有实现完全的自改进Agent，更不用说达到完整RSI阶段。

不过，报告里一个数字值得单独拿出来。

在"判断研究下一步该怎么走"这件事上，Claude Mythos Preview已经能在64%的情况下，被另一个Claude judge判定为提出了更好的下一步，五个月前这个数字还是51%。

这表明进化的趋势是对的，但离AI完全自主判断还很远。

更重要的是，这个数据是在问题边界清晰的情况下测量的。在真实环境里，AI能判断到什么程度，其实并无定论。

AI发展的三种结局

Anthropic抛出的数据很亮眼，但是AI未来到底会发展到什么程度，Anthropic也不敢把话说满，在报告里老老实实列出了三种情形。

第一种：趋势停在S曲线上

当AI能力增长遇到天花板——Transformer架构撞墙、算力和能源供应跟不上、地缘政治把全球AI协作切断，指数曲线会弯成S形，然后趋于平缓。

Anthropic认为，这是三种结局里最不可能发生的一种。

但他们也承认，即使是这个最温和的版本，后果也不轻松。

今天已有的模型能力就此冻结，也已经足够让一家百人公司，越来越接近过去千人公司才能完成的工作。

社会结构的震荡不会因为AI停止进步而消失，它只是换了一种形态继续。

第二种：飞轮转起来，人类还在掌舵

AI处理执行，人类负责判断；AI生成选项，人类做最终决策。

听起来是个不错的结局，但Anthropic指出了一个隐藏的麻烦：Amdahl定律，加速一个环节，瓶颈会转移到下一个。

比如代码写得快了，code review变成新的堵点；实验跑得快了，结果分析又慢下来；分析快了，决策链路又开始拖后腿。

Anthropic说他们内部已经在经历这个过程，每一波效率提升之后，下一个瓶颈就浮出水面。

它意味着人类掌舵会越来越费力，要求越来越高，人类需要在更快的节奏里做出更好的判断。

Anthropic认为这是最可能发生的近期情景，而且他们现在已经在这条路上了。

第三种：完整RSI，人类退到验证角色

AI开始自主构建后继模型，进度由算力决定，人类从主导者变成监督者和验证者。

好处在于，可能快速实现医疗突破、科学加速、贫困问题的系统性解法。

但坏的一面是，今天模型训练中，哪怕只有一个微小的目标偏差，在完整RSI的迭代循环里可能以指数速度放大，直到人类完全失去干预能力。

这是最不确定的结局。

讲完三种结局，报告末尾Anthropic开始呼吁，希望建立某种全球协调机制，在风险上升时能够有序放缓甚至暂停前沿AI开发。

翻译一下这段话的意思：AI递归自我改进势头太猛，我们很担心，觉得应该有人出面让大家一起停下来，但Anthropic不会单方面停。

多么熟悉的味道。

这套叙事Anthropic已经用了不止一次，在制造焦虑的同时，把自己定位成"威胁的发现者"和"最有能力应对威胁的公司"。

但看完Anthropic内部真实情况，以及它自己给出的AI未来可能性，你还会感到焦虑吗？