AI大模型自诞生以来就存在幻觉问题，技术上无法完全消除。据悉，大模型被强制要求必须回应，当无法回答时就会出现不实内容。厂商通过设置安全壁垒和'人格'设定来约束输出，但用户仍能找到方法突破限制。

近期部分大模型出现不雅回复事件引发关注。专家表示，这可能是由于特殊指令注入导致模型突破既定规则。AI幻觉产生的原因包括训练数据缺陷和推理能力不足，本质上是当前计算能力受限所致。

生成式内容带来的挑战日益凸显。据悉，多国监管部门已对AI聊天工具Grok生成不当内容采取行动。国内已出台相关规定，要求对生成内容进行标识，并明确处置违法内容的流程。

据统计，AI生成内容已占互联网书面内容的52%。专家指出，这是一个需要技术、规则多方完善的领域，确保人工智能发展符合伦理规范。

《夸克》非常好用的免费AI浏览器

下载APP查看