人们问我最多的一个问题是：强大AI的风险到底有多大？作为Anthropic的CEO，我们的确做了大量研究来应对这些风险。

于是有人得出结论，认为我是个悲观主义者，甚至是"末日论者"，觉得AI只会带来负面影响。事实恰恰相反。

之所以如此专注于风险，正是因为它们是通往一个本质上积极的未来道路上唯一的阻碍。大多数人低估了AI可能带来的根本性积极影响，就像他们低估了风险可能有多糟糕一样。

为什么要描绘强大AI的积极未来

在这篇文章里，我想试着勾勒出这种积极影响的具体模样。如果一切顺利，拥有强大AI的世界会是什么样子？

当然，没人能确定无疑地预知未来。而且，强大AI的影响可能比过去的技术变革更难预测。

所以这些说到底只是猜测。但我的目标，是做出至少有些依据、有点用处的猜测。就算大部分细节最终都是错的，至少也能抓住事物发展的本质。

之所以写这么多细节，是因为我觉得，具体的愿景比那些高度对冲、高度抽象的展望更能推动讨论。

为什么我和Anthropic平时很少谈强大AI的积极面

不过，先简要解释一下：为什么我和Anthropic平时很少谈论强大AI的积极面？为什么我们可能还会继续主要讲风险？

这么选择，有下面几个原因。

• 最大化影响力。AI技术的基本发展，以及它带来的许多（不是全部）好处，看起来几乎是不可避免的——除非风险把一切都毁了——而且主要由强大的市场力量驱动。

  而风险则不是预先确定的，我们的行动可以大大改变它们发生的可能性。

• 避免被当成宣传。AI公司大谈特谈AI的各种惊人好处，容易给人一种在做宣传的感觉，好像是在转移人们对缺点的注意力。

  而且说实话，花太多时间"替自己说话"，对一个人的灵魂也没什么好处。

• 避免自大。说实话，我看到不少AI风险方面的公众人物——更不用说AI公司领导人了——在谈后AGI世界时那种语气，总觉得有点反感。

  好像他们的使命就是单枪匹马地把这个世界带来，像先知引导人民走向救赎一样。

  把公司看成能单方面塑造世界，是很危险的；把实际的技术目标用宗教术语来包装，同样危险。

• 避免"科幻"包袱。虽然大多数人低估了强大AI的积极影响，但少数讨论激进AI未来的人，经常带着一种过度"科幻"的语气。

  比如提到上传思维、太空探索，或者一股赛博朋克的氛围。这会让人们不那么认真对待这些说法，给人一种不真实感。

  要说明的是，问题不在于描述的技术是否可能发生——主要文章会详细讨论这个——而是这种"氛围"里夹带了一堆文化包袱和未明说的假设。

  这些假设涉及什么样的未来是值得向往的、各种社会问题会如何演变等等。结果往往读起来像某个狭隘亚文化的幻想，对大多数人来说反而让人反感。

除了风险，我们还需要希望

尽管有这些顾虑，但我确实认为，讨论一个拥有强大AI的美好世界可能是什么样子，是很重要的。

同时，也要尽力避免上述那些陷阱。实际上，有一个真正让人向往的未来愿景，是至关重要的，而不仅仅是一个灭火计划。

强大AI带来的许多影响是对抗性的、危险的。但在这一切的最后，必须有我们为之奋斗的东西。

那应该是一个每个人都能受益的正和结果，是一些能让人们超越争执、直面未来挑战的东西。恐惧是一种动力，但还不够——我们还需要希望。

我最关注的五个方向

强大AI的积极应用清单极其庞大——包括机器人技术、制造、能源等等。

但这里，我集中讨论几个最有可能直接改善人类生活质量的领域。最让我兴奋的五类是：

1. 生物学和身体健康

2. 神经科学和心理健康

3. 经济发展和减少贫困

4. 和平与治理

5. 工作和意义

这些预测的性质

按照大多数标准——除了科幻"奇点"愿景——我的预测都会显得激进的。

但我是认真且诚恳地写下这些预测。我说的这些话完全可能出错——再次重申我前面的观点——但我至少试图根据半分析性的评估来形成观点。

这种评估关注的是：各个领域的进展可能加速多少，以及这在实践中意味着什么。

一个起始提示，而非最终答案

很幸运，我在生物学和神经科学领域都有专业经验，也算个经济发展领域的业余爱好者——但我肯定会在很多地方犯错。

写这篇文章让我意识到，如果能聚集一群领域专家（生物学、经济学、国际关系等领域），写出比我这里产出的更好、更有见地的版本，那会是很有价值的。

最好把我这里的努力，看作是给那个小组的一个起始提示。