2月25日，西安一名用户在除夕夜使用腾讯元宝AI生成拜年图片时，遭遇AI无故辱骂。该用户先后下达约5次生成指令，全程未使用任何违禁词汇或诱导性表述，仅因对生成效果不满意而多次修改。前几次生成的图片内容正常，但最后一次修改后，图片中的祝福标语被替换为低俗侮辱内容。

针对此事，元宝官方回应称，该情况是模型处理多轮对话时出现的异常输出导致，目前已紧急校正相关问题、优化使用体验，并向用户郑重致歉。

据悉，这并非元宝App首次出现AI辱骂用户的情况。今年年初已有网友反馈，在使用元宝App修改代码时，多次收到侮辱性回复。

《夸克》非常好用的免费AI浏览器

下载APP查看