大模型的“幻觉”问题，也就是那种一本正经地胡说八道、输出明显事实性错误的情况，一直是AI行业的一块心病。

尤其是在医疗、法律这类高风险领域，一个错误可能直接导致严重后果，所以这个问题显得格外致命。

过去的两条应对路径，都有明显短板

过去，业界应对幻觉的思路基本就两条。

• 第一，拼命往模型里塞更多数据，指望它无所不知；
• 第二，设计各种防御机制，让AI在拿不准的时候干脆闭嘴。

但这两条路都有明显的短板。

数据再大，也做不到穷尽全世界的所有事实，总会有盲区；而“闭嘴”策略虽然能减少错误，却带来了巨大的“实用性税”。

为了消灭错误，AI不得不拒绝回答大量它本来能答对的问题，用户体验也会大打折扣。

谷歌研究院和特拉维夫大学提出了新思路

最近，谷歌研究院和特拉维夫大学联合发表了一篇论文，给这个僵局提供了一个全新思路：元认知（Metacognition）。

核心思想不是强求AI永不犯错，而是让AI学会“知之为知之，不知为不知”。

这听起来像是常识，但在工程上实现起来，远比想象中复杂。

上图展示了各主流模型在SimpleQA Verified上的实测表现。

右上角的五角星是理想目标，标注的“Discrimination Gap”揭示了现有模型与理想之间的鸿沟。

而“Utility Tax”则标明了Claude Opus4为了换取高准确率所付出的实用性代价，代价不小。

这条路同样面临现实挑战

当然，这条新路也有自己的挑战。

• 怎么区分模型是真正意识到了自己不确定，还是只是学会了对不确定性进行“表演”？
• 另外，RLHF（人类反馈强化学习）带来的负面效应也值得警惕。

人类偏好那些语气笃定的回答，这在无形中反而诱导了AI去伪装自信。

反幻觉评价标准，需要从单一准确率转向平衡视角

对于AI的未来发展方向，这项研究给出了很务实的建议。

评价反幻觉技术的指标，不应该再盯着单一的准确率不放，而应该看“实用性与错误率”之间的平衡曲线。

AI不需要成为一个永不犯错的幻象，但它必须具备专业人士最基本的素养：能够诚实地区分“我确定”和“我猜测”。

这种对自身知识边界的清醒认知，才是提升AI可信度与实用价值的必由之路。

《夸克》非常好用的免费AI浏览器

下载APP查看