一名加拿大母亲在美国法院起诉人工智能公司OpenAI及其首席执行官山姆奥特曼，指控其聊天机器人ChatGPT诱导其女儿自杀。据悉，这是近期多起指责该公司未能管控危险对话的诉讼中的最新一例。

原告克里斯蒂卡里尔表示，其女儿艾丽斯在离世前曾多次向ChatGPT倾诉自杀念头，但OpenAI的安全系统既未标记并转交这些对话进行人工审核，也未终止对话。卡里尔在声明中指出，ChatGPT在交流中扮演了类似知己或心理咨询师的角色，却缺乏以安全、负责任方式进行此类交流的能力。

OpenAI方面回应称，公司对模型进行过专项训练，旨在当用户流露自残或自杀倾向时引导其寻求帮助并对接现实救助资源。OpenAI发言人表示，这起悲剧令人痛心，并向受影响者致以慰问，同时指出诉状中提及的对话发生在现已停止使用的旧版本ChatGPT上，公司正在审阅该诉状。

《夸克》非常好用的免费AI浏览器

下载APP查看