4月7日消息，近日，谷歌旗下DeepMind实验室发布了一份长达145页的人工智能安全报告，预测具备人类智能水平的通用人工智能（AGI）可能在2030年左右问世，并可能“永久毁灭人类”。

在报告中研究人员指出，AGI可能带来导致人类永久灭绝的生存风险，他们强调，这一重要议题无法由DeepMind一家公司单方面解决，而应由整个社会共同参与讨论。

报告并未具体说明AGI将如何导致人类灭绝，主要篇幅集中在风险防控措施上。

报告将AGI带来的风险分为四个主要类别：

滥用风险（人类故意利用AI实施危害行为）、错位风险（系统发展出非预期的有害行为）、失误风险（因设计或训练缺陷导致的意外故障）和结构性风险（不同主体之间的利益冲突）。

研究人员还概述了DeepMind的风险缓解策略，重点在于防止滥用，并强调了尽早识别危险能力的重要性。

这篇论文还对Anthropic和OpenAI等竞争对手的安全策略表达了含蓄批评。

报告认为，Anthropic在严格训练和监督方面投入不足，而OpenAI则过度关注所谓的对齐研究（即确保AI系统的目标和行为与人类的价值观和利益保持一致）。

《夸克》非常好用的免费AI浏览器

下载APP查看