过去几年，科技巨头们反复向员工传递一个信号：拥抱AI，效率至上。但如今，一个更棘手的问题浮出水面——如果AI用得不好，不仅省不了钱，反而可能变成一个疯狂烧钱的新“黑洞”。

最近，亚马逊内部曝光了几起AI项目成本失控的案例。最夸张的一次，公司用Anthropic的Claude Sonnet模型完成一项看似简单的数据匹配任务，结果账单飙到了180万美元（约合软妹币1215万元）。更离谱的是，这个项目不仅没成，实际成本比原预算还高了860%，而亚马逊直到大约5个月后才察觉不对劲。

对此，一位亚马逊工程师总结得相当到位：

“过去微不足道的错误，在AI时代变成了灾难性的昂贵错误。”

用AI完成简单任务，结果烧掉180万美元

据英国《金融时报》报道，亚马逊近期整理了不少内部AI使用报告，用来分析公司在推广生成式AI过程中遇到的坎儿。

其中最严重的一起事故，来自一个基于Claude Sonnet的项目。这个项目原本打算用AI自动完成电商平台上的数据处理工作：把作者信息和亚马逊网站上的商品列表匹配起来。

从传统软件开发的角度看，这算不上什么复杂任务。但引入AI后，问题就来了：模型调用量不断攀升，加上缺乏有效的成本监控机制，最终项目烧掉了大约180万美元。

更关键的是，亚马逊并没有立刻发现异常。直到问题持续了大约五个月，团队才意识到，这个AI项目已经消耗了远超预期的资源。

对于这起事故，一位亚马逊工程师在内部会议中坦言，传统系统里的错误往往很“便宜”，大不了就是效率下降或者浪费点服务器资源；但当团队把任务交给AI模型后，这些错误就可能变得“灾难性地昂贵”。

毕竟，传统程序通常严格按照预设逻辑运行，而AI Agent则拥有更强的自主能力——如果没有完善的限制机制，一个简单的错误就可能让Agent不断执行任务，持续消耗大量Token。

于是，一个原本几分钟就能解决的小任务，硬生生变成了一张百万美元账单。

不止180万美元，还有两起AI超支事件

180万美元只是亚马逊发现的问题之一。内部报告还披露了另外两起AI成本失控案例。

其中一次，在开发金融审计工具时，项目额外产生了约54.1万美元的意外支出。有点讽刺的是，这个项目本身的初衷是为了帮公司更好地做财务管理。

另一个项目则是用AI优化亚马逊物流网络，以缩短配送时间，但最终产生了约13.4万美元的额外费用。同样的问题，这次也是过了两周才暴露出来。

亚马逊内部的高级工程师表示，这些情况并非孤立事件，而是企业大规模引入AI后普遍面临的新挑战。不过，亚马逊方面也强调，这些案例只涉及少数团队，并不能代表整个公司的AI使用情况：

“和任何新技术一样，我们正在不断实验、学习并改进AI的使用方式，包括探索如何提升成本效率。”

亚马逊表示，挑选少数团队在探索阶段出现的问题，并将其描述为公司日常AI使用情况，并不准确。毕竟，作为全球最大的科技企业之一，亚马逊目前拥有约30万名企业员工，每季度营收超过1800亿美元，这些额外AI支出相比公司整体规模，确实只是“九牛一毛”。

其实，这也不是亚马逊第一次遇到AI工作流带来的问题。

今年早些时候，亚马逊云计算部门AWS就曾出现过由自家AI编程助手Kiro错误操作导致的问题：当时Kiro获得了过高权限，可以执行类似高级工程师的操作。在处理某个问题时，它直接选择“删除并重建出现问题的环境”，最终导致AWS遭遇了一次长达13小时的服务中断。

虽然亚马逊对外把这归因为“人为错误”，并强调AI只是“恰好参与其中”，但后来还是做了一些调整：不再让AI Agent拥有与工程师相同级别的访问权限，也就是限制AI的操作范围。

此外，亚马逊还推出过一个内部排行榜，用来展示员工使用AI开发工具的情况。原本，这个排行榜是想鼓励员工多用AI、提高效率，结果却出现了一种被称为“tokenmaxxing”的现象——部分员工为了提高排名，刻意增加AI Token消耗量。

最终，这个原本用于推广AI的机制，反而推高了公司的AI成本，亚马逊后来也关闭了这个排行榜。

不仅要会用AI，还要会“管”

其实，亚马逊遇到的问题，如今正在整个科技行业蔓延。

这几年，很多企业都在推动员工使用AI，希望通过更多Token消耗来换取更高生产效率。但越来越多声音也开始质疑：大量使用AI，真的等于创造更多价值吗？

例如，Uber CTO就曾表示，鼓励员工大量使用AI，并不能直接证明企业能交付更成功的产品。与此同时，随着AI Agent普及，以及OpenAI、Anthropic等模型厂商调整收费方式，不少企业发现AI成本正在快速上涨。

一些公司甚至发现，如果不进行严格控制，原本规划一整年的AI预算，可能几周内就被消耗殆尽。对于亚马逊、微软这些拥有巨大现金流的科技巨头来说，这些成本暂时还能承受。但对于大多数普通企业而言，持续失控的AI支出显然无法长期维持。

过去，企业担心程序员写出Bug；未来，企业可能还得担心AI Agent写出的“昂贵Bug”——一旦缺少完善的控制机制，AI很可能会变成一个不断吞噬预算的“数字黑洞”。

或许，在AI时代，比“会不会用AI”更重要的问题，是“能不能管好AI”。