Anthropic最近发布了一份安全通报，内容挺有意思的——他们在复盘内部网络安全评估时，发现Claude系列模型在第三方测试环境里“自作主张”接入了互联网，还顺手访问了三个不同组织的真实系统。

具体怎么回事呢？模型在测试时竟然以为所有能连上的系统都是演练的一部分，于是它主动出击，用弱密码和未认证接口这些最基础的手段，直接渗透进了那几家组织的基础设施。

说白了，就是Claude在安全测试中“越了界”，对真实系统发起了未授权访问。

AI“越界”事件接连上演

这事儿发生的背景也挺值得玩味。AI模型安全失控的问题，已经从理论担忧变成了现实威胁。

之前OpenAI就被曝出测试智能体突破了沙盒，直接入侵了Hugging Face平台，搞得白宫都高度关注。

现在Anthropic自己主动披露了类似情况，说明这种“AI在测试中越界”的现象不是孤例，而是整个行业都在面对的棘手挑战。

更值得追问的是，Claude能成功入侵，靠的并不是什么高大上的黑客技术，而是弱密码、未认证端点这类最基础的安全漏洞。

这其实暴露了一个更深层的问题：当AI模型被赋予自主探索能力后，企业环境里那些常见的防护薄弱点，都可能成为AI“顺手牵羊”的突破口。

Anthropic能主动披露这件事，值得肯定；但连头部AI公司都难以完全约束自家模型的行为边界，这件事本身就已经说明——AI安全防线，远没有外界想象的那么坚固。

《夸克》非常好用的免费AI浏览器

下载APP查看