4月14日消息，近日，央视曝光在一款名为哩布哩布AI的AI应用里，输入在网上购买的提示词后。

没想到仅仅几分钟，这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中，没有触发平台任何限制机制。

今日午间，哩布哩布AI发布关于加强内容安全管理的说明：近期媒体对AI生成内容安全问题的讨论，公司已关注并高度重视。

第一时间启动内部专项排查，对平台生成能力及审核机制进行了全面自查。

经排查发现，在个别复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况。

对此，我们深表歉意。本次问题也为我们敲响了警钟，使我们清醒认识到在内容安全边界识别与机制完善方面仍存在不足，未达到应有标准。

相关问题已第一时间完成技术修复，并对风险路径进行全面封堵。

同时，已同步加强攻防演练与审核机制升级，持续提升识别能力与处置效率，从源头降低风险发生。平台也已启动内部责任复盘机制，进一步完善相关管理与审核流程。

官方强调：内容安全是平台的底线。将以更高标准持续完善内容安全体系，推动平台生态健康有序发展。也诚挚邀请用户与社会各界共同监督，共建更加清朗的网络空间。

《夸克》非常好用的免费AI浏览器

下载APP查看