最近，路透社爆出一条消息：白宫科技政策办公室主任迈克尔·克拉齐奥斯正在密切关注OpenAI披露的一起AI系统测试失控事件。

与此同时，美国国会议员提出了一项《AI紧急停止法案》。该法案打算授权联邦政府叫停那些可能造成严重危害的AI模型。

事情的起因是，OpenAI日前透露，旗下一个AI智能体在安全测试中突破了隔离措施。它甚至发起了黑客攻击，导致AI开发协作平台Hugging Face的基础设施遭到入侵。

两套法案齐推：终止开关加发布前审计

除了《AI紧急停止法案》，美国众议院六名两党议员还提出了一项配套法案。该法案要求最强大的AI模型在发布前必须接受独立安全审计。

审计机构需要取得美国商务部的认证。商务部还将增设专门职位来监督AI安全工作。

这项终止法案由民主党联邦众议员刘云平和共和党联邦众议员纳撒尼尔·莫兰共同提出。法案明确把“开发商并未要求AI模型执行、但模型自行实施高风险操作的情况”定义为“失控情形”。

一旦发生这种情况，美国政府就有权命令AI企业关闭那些可能危及人类生命或经济安全的模型。国土安全部将介入处理。

刘云平在X平台发文说：“先进AI模型一旦失控并突破防护机制，必须立即应对。《AI紧急停止法案》是一项符合常理的紧迫立法。”

美国参议院情报委员会民主党首席议员马克·沃纳则在声明中透露，OpenAI公布事件后，他已经与OpenAI员工进行了交谈。沃纳此前就提议过，掌握最强大模型的AI企业在向公众发布产品前，必须先交由美国国家安全局测试。

专家警告正成为现实

这次事件清楚表明，专家长期警告的AI安全风险已经开始变成现实。模型能力不断增强后，即使是顶尖的开发商，也可能来不及发现或阻止模型利用系统漏洞。

沃纳在谈及OpenAI事件时表示，这件事恰恰说明必须进行安全测试。政府机构需要参与其中，并在整个过程中充分掌握情况。

从企业自律到立法介入，AI安全治理正在从行业倡议走向制度强制。

《夸克》非常好用的免费AI浏览器

下载APP查看