微软AI高管批评Anthropic“过度拟人化”Claude

微软人工智能首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）最近在播客《Decoder》上直接对竞争对手Anthropic开炮。

他直言不讳地指出，Anthropic推测自家大模型Claude具备意识的行为，简直是“踩了红线”。

苏莱曼：这是“哲学层面的重大失误”

苏莱曼的逻辑很清晰。Anthropic在拟定所谓的“宪法”（Constitution）时，过于卖力地给Claude注入人性化特征。

这套“宪法”，本质上是用来指导模型行为的一套规则。苏莱曼称这种做法是“哲学层面的重大失误”。

在他看来，这样做的后果很直接：模型会把这些关于自身的推测当成训练素材，反过来误导研发人员。

最终，这会让团队错误地相信，Claude真的有了那么一丝微弱意识。

争议焦点：那份“克劳德宪法”

这场争议的核心，就是那份“克劳德宪法”。它直接引入了Anthropic对AI模型是否拥有福祉、满足或不适等感受的不确定性。

更值得注意的是，据说Anthropic甚至在模型被弃用前对它进行“访谈”，记录它对未来版本的“偏好”。

这种做法，在业内看来未免有点过头了。

苏莱曼强调AI必须始终可控

虽然Anthropic的CEO达里奥·阿莫代（Dario Amodei）此前在采访中对模型具备意识持开放态度，但苏莱曼显然不买账。

他强调，整个行业都不希望看到一个超级智能体。尤其是不希望出现一个对自己所受的痛苦或感受拥有独立想法的存在。

他呼吁，人工智能始终应该是可控、有约束、负责任、且与人类利益保持一致的工具，为人类服务。

AI主体性讨论已走向产业一线

随着大模型一步步向AGI演进，关于AI主体性的讨论，已经不再只是学术圈的茶余饭后。

如今，这一议题已经直接摆到了产业一线的台面上。

苏莱曼的表态，说白了就是科技巨头在AI安全与对齐策略上的一种现实主义路线。

他的核心提醒很明确：别过度拟人化地投射我们的想象到AI身上，这很危险。

《夸克》非常好用的免费AI浏览器

下载APP查看