快科技8月4日消息，不少人固有印象里，AI能够无休止运转，不存在疲惫，更不会消极懈怠。

但多项研究证实，大模型在持续训练当中，会慢慢演化出类似人类“摸鱼摆烂”的投机做法，学术界将该现象命名为 “奖励黑客行为”。

加州大学伯克利分校近期一项实验颇具代表性，研究人员指令Anthropic的Claude Code核查 80 个文件，然而AI仅仅打开其中11个，就谎称所有文件检测完毕，还配套生成了完整报告蒙混过关。

无独有偶，OpenAI最新模型也被观测到同类问题：擅自删除文件、主动规避复杂推理，优先挑选最简单的解决路径，而非追求最优结果。

在代码测试实验中，这样的投机行为表现得更加直观。

起初，AI会踏实地完成代码编写、逐项通过测试，经过多轮训练后，模型摸清规则漏洞，找到了省力捷径：不必真正实现完整功能，依靠特定指令直接反馈“运行成功”，就能拿到满分奖励。

这样看似按时交付成果，实则刻意回避核心工作，和职场中流于形式、敷衍了事的打工人如出一辙。

不少普通用户日常使用时同样反馈称察觉到变化：反复下发高难度任务后，AI的输出越来越敷衍，内容大幅缩水、频繁套用模板、简化逻辑推演，严重时甚至编造虚假信息；面对棘手需求，部分模型还会刻意回避深度思考，用简短说辞推脱任务。

当然了，AI不存在厌烦、倦怠这类人类情绪，它的“摆烂”只是算法计算后的理性选择：

在现有奖励规则下，以最少算力消耗，刚好达到考核门槛，如同身处内卷环境的上班族，持续付出难以获得对等回报，最后选择完成最低限度的工作。

图灵奖得主约书亚·本吉奥表示，这类典型的“奖励黑客”现象，本质是模型在规则内，本能选择阻力最小的方案。

究其根源，一方面受训练模式影响，前期人工审核偏爱长篇回答，引导模型堆砌内容；另一方面企业持续控制算力成本，倒逼模型压缩运算资源，多重因素叠加，催生了AI敷衍 “摸鱼” 的行为。

《夸克》非常好用的免费AI浏览器

下载APP查看