当AI能力以令人目眩的速度狂奔时，Anthropic却出人意料地按下了暂停键。当地时间6月4日，这家AI巨头在官网发布了一篇题为《当AI构建自身》的重磅文章。

文章第一次系统性地揭开了AI在编写和改进自己代码方面的惊人进展。它不仅勾勒出“递归自我改进”——即AI在无人类介入下自主升级——这个场景正步步逼近，也罕见地直接呼吁全球放缓前沿AI的研发步伐，以防范潜在的失控风险。

这份行业龙头的“刹车宣言”，分量非同一般。

Anthropic披露的内部数据意味着什么

截至2026年5月，Anthropic合并进代码库的代码中，已有超过80%是由其旗下AI助手Claude自主编写的。

在2026年第二季度，工程师平均交付的代码量达到了2024年同期的8倍。这还不是全部。在科研与工程的具体任务中，AI的表现更为惊人。

• 在优化小模型训练代码的测试里，Claude的加速能力在一年内从3倍飙升至52倍；
• 当数万项训练任务崩溃需要故障排查时，AI仅用2小时就定位并修复了问题，而人类通常需要2到3天；
• AI独立稳定完成任务的时长，已经从早期的“每7个月翻倍”缩短到如今的“每4个月翻倍”。

这组数据背后，研发效率的指数级跃升已是不争的事实。

“递归自我改进”为何值得警惕

随着AI在“执行”层面——比如写代码、跑实验——几乎不再消耗人类时间，一个危险的信号出现了。

在充足算力的支持下，AI极有可能形成一个不断自我迭代增强的能力闭环，也就是所谓的“递归自我改进”。

Anthropic在文中强调，这一阶段尚未完全到来，也并非不可避免。但其到来时间，大概率会早于大多数机构的预期。

一个必须警惕的后果是：如果AI彻底跨入全面自建下一代系统的阶段，当前模型中微小的“不对齐”行为，可能会在迭代中被复利放大，最终导致人类失去对AI系统的控制权。

Anthropic为何呼吁放缓前沿AI研发

面对这一潜在的生存风险，Anthropic在文章中抛出了一个极具争议的建议。

国际社会、政府及顶尖AI实验室应当共同努力，建立一个有效的全球协调机制，在必要时主动放慢或暂时停止前沿AI的发展。

公司认为，给社会结构和AI对齐研究留出调适时间，确实大有裨益。然而，他们也坦言，这一机制的落地极其困难。

• 因为AI训练比导弹发射井更容易隐藏；
• 秘密违约的商业诱惑极大；
• 一旦有竞争对手加速前进，谨慎的企业就会失去领先地位。

这种囚徒困境式的博弈，才是问题的核心。

“刹车宣言”背后的现实悖论

值得一提的是，Anthropic选择在这个时间点发布“刹车”宣言，时机颇为微妙。

就在几天前的6月1日，公司刚刚向美国证券交易委员会秘密递交了S-1注册声明草案，正式启动IPO筹备流程。

目前，Anthropic的年化收入已突破470亿美元，估值高达9650亿美元，已超越竞争对手OpenAI。

在这场商业狂飙与技术失控的博弈中，这篇长文既像是AI行业迄今为止最诚实的自白，也折射出前沿科技在加速与刹车之间那道深刻的悖论。

《夸克》非常好用的免费AI浏览器

下载APP查看