最近，来自OpenAI、Anthropic、谷歌和Meta等头部AI公司的1100多名员工联名签署了一封公开信，呼吁美国政府出手控制AI的发展速度。

这封信名为“把控前沿”，直指当前AI军备竞赛中，安全保障和治理体系的严重滞后。

信里聚焦的核心议题，是“自动化AI开发”。说白了，就是未来AI能够自己开发、改进AI系统，也就是所谓的“递归式自我改进”能力。

Anthropic之前就透露过，其Claude系列模型正在快速逼近这个门槛。

信中还警告说，AI能力的发展速度可能会迅速加快，快到人类理解不了、控制不住这些系统。

因此，他们呼吁美国政府支持国际合作，开发必要的技术和治理工具，有意识地把控自动化AI开发的前沿进程。

联名公开信的核心指向

• 呼吁美国政府控制AI的发展速度
• 指出AI军备竞赛中安全保障和治理体系严重滞后
• 重点关注“自动化AI开发”与“递归式自我改进”能力
• 主张支持国际合作，开发必要的技术和治理工具

高管集体背书，奥尔特曼态度反转

签署这封公开信的阵容，堪称AI行业的“全明星”阵容。

Anthropic的CEO达里奥·阿莫代伊及两位联合创始人、OpenAI首席科学家雅库布·帕霍茨基、Meta首席科学家赵晟佳，以及谷歌DeepMind的AI安全与对齐工作负责人安卡·德拉甘，悉数在列。

OpenAI和Anthropic随后也在X平台上发文呼应。

• 前者承认，未来某个时间点前沿模型开发加速可能会快到世界需要把控节奏
• 后者则引用上月发布的递归式自我改进研究，强调得让社会有时间做好准备

这里面最引人注目的，是OpenAI的CEO萨姆·奥尔特曼的态度反转。

他在接受《Invest Like the Best》播客采访时表示，或许现在是时候“把控”AI发展节奏了。

他的意思是，要让社会适应新能力水平，并建立相应的防护机制。

但他同时强调，这个做法既不能让人感觉是监管俘获，也不能让人觉得是前沿实验室之间的串通。

要知道，就在2023年，面对一封提出类似“放缓AI发展”主张的公开信，奥尔特曼当年可是以“缺少关键技术细节”为由拒绝签署的。

从当年的避签，到如今的公开支持，这一转变本身就折射出AI行业对安全风险的认知正在发生深刻变化。

《夸克》非常好用的免费AI浏览器

下载APP查看