6月7日消息，很多开发者已经离不开Anthropic公司的Cluade系列编程大模型，该公司也号称是最关注AI安全与隐私的公司，然而日前的问题暴露了他们在这方面做的并不好。

这两天Anthropic的服务也经常出问题，旗下的API及网页刚经历了一次大规模宕机，这事本身不是多大问题，哪家AI公司都免不了，要是一直没有宕机才是问题，说明该公司的AI根本没人用。

然而宕机之后曝出的一个不太起眼的问题才引来了开发者的担心，有网友发现这次宕机期间Cluade API在输出结果时返回了另一位用户的推理输出。

说得简单一点就是，A用户在使用API时，Cluade没有输出A用户的提示词应该返回的结果，而是把另一个B用户其他提示词该输出的结果输出到A用户这边了。

这种情况属于隔离失败，网友将其形容为最坏的一种情况了。

这个问题如果发生在其他公司身上，大家也就是骂几声抱怨一下罢了，但发生在Anthropic身上就极为讽刺，因为该公司一开始就是主打AI安全、隐私的招牌，甚至公司的成立都是因为创始人在OpenAI期间跟后者CEO奥特曼在AI安全理念上产生了不同，才出走创立了Anthropic。

Anthropic这几年发展极快，而且大家也见识过他们的宣传套路了，就是时不时渲染AI有自我意识了，要毁灭人类等等，前几天甚至发表公开信，表示AI已经可以自我进化，还呼吁全球暂停AI研究。

就是这么一个左手操控AI会危害乃至毁灭人类，右手贩卖自家AI是最安全的公司，结果曝出了这样的泄露用户隐私的问题，实在是有点讽刺了。

不过业内人士也都懂他们的操作，实际上现在各大公司大规模依赖Anthropic的AI编程也不是没有风险的，用户输入输出的提示及代码都会被他们在后台收集，用于AI训练，这已经不是什么秘密了，Claude编程能力提升也是靠这种方式不断迭代的。

可以说未来的AI有多好用多强大，就意味着AI公司掌握了用户的隐私和机密信息就越多，尤其是Anthropic这么一个意识形态上就极为反华的公司，那就更不可靠了。

《夸克》非常好用的免费AI浏览器

下载APP查看