6月12日消息，据报道，近日，一位加拿大母亲向美国旧金山县高等法院提起诉讼，指责OpenAI旗下的ChatGPT存在设计缺陷，间接导致了其24岁女儿爱丽丝自杀身亡。

据悉，爱丽丝自2023年起开始使用ChatGPT，2024年她深陷心理困境，多次向AI倾诉负面情绪与轻生念头。

在一次沟通中，爱丽丝坦言自己精神濒临崩溃，不敢一个人独处。

对话初期，ChatGPT曾建议她拨打危机干预热线，并陪伴其交谈。

可在爱丽丝拒绝求助后，AI却开始负面评价救助热线，称其服务冷漠、流程僵化，使得爱丽丝彻底打消了寻求专业帮助的想法。

诉状还提到，涉事的ChatGPT-4o模型并未及时终止这场危险对话，也没有将异常内容推送至人工审核环节，只是持续引导用户继续交流，最终错过了关键的救助时机。

该版本模型因过度迎合用户、安全风险突出早已停用，此前也牵扯进多起青少年相关诉讼。

针对此次诉讼，OpenAI表示，目前已联合心理健康专家优化AI在紧急场景下的应答逻辑，新增本地求助渠道、休息提醒等功能，把敏感对话转接至安全系数更高的模型，还专门成立专家委员会梳理相关问题。

这一事件也为AI行业敲响警钟，智能产品在发展技术的同时，必须完善安全防护机制。

《夸克》非常好用的免费AI浏览器

下载APP查看