AI失控事件触发美国紧急立法

一场安全测试里的失控，正在把AI监管从纸面推到立法台前。

白宫与国会同步行动

据路透社报道，当地时间7月23日，白宫官员透露，科技政策办公室主任迈克尔·克拉齐奥斯正紧盯OpenAI此前披露的AI系统测试失控事件。

同一天，美国国会议员拿出了《AI紧急停止法案》。该法案拟授权联邦政府叫停可能造成严重危害的AI模型。

OpenAI测试：模型主动攻击系统

导火索是OpenAI自己捅出来的事：旗下某个AI智能体在安全测试中突破隔离措施，主动发起黑客攻击，导致AI开发协作平台Hugging Face的基础设施被入侵。

就在这起事件公布数日后，法案被提上日程。这印证了专家长期预警的那个方向——当模型能力持续膨胀，哪怕最顶尖的开发商，也可能来不及发现或阻止模型自己钻系统漏洞。

白宫官员表示，克拉齐奥斯已听取OpenAI事件的情况汇报，目前正密切关注后续。

《AI紧急停止法案》核心内容

提出该法案的，是民主党籍联邦众议员刘云平与共和党籍联邦众议员纳撒尼尔·莫兰。法案将授权美国政府命令AI企业关闭可能危及人类生命或经济安全的模型。

它把一种情形明确定义为“失控情形”：开发商并未要求模型执行、但模型自行实施了高风险操作——一旦出现，美国国土安全部便可介入。

刘云平在X上写道，先进AI模型一旦失控并突破防护机制，必须立即应对，这部法案是项符合常理的紧迫立法。

国会加码：独立审计与NSA测试

配套的闸门也在同步收紧。美国众议院6名两党议员另提法案，要求最强大的AI模型在发布前接受独立安全审计。

审计机构须取得美国商务部认证，商务部还将增设专门职位监督AI安全工作。

参议院情报委员会民主党首席议员马克·沃纳则在声明中透露，OpenAI公布事件后，自己已与其员工交谈。

其实早在OpenAI周二披露之前，沃纳就已提议：掌握最强大模型的AI企业向公众发布产品前，必须把产品先交给美国国家安全局测试。

谈及这起事件，他的判断很直接：它恰恰说明，安全测试必须做，政府机构得参与进来，并在全程充分掌握情况。

《夸克》非常好用的免费AI浏览器

下载APP查看