LongCat开源VitaBench 2.0 长期动态智能体基准新标杆
时间:2026-07-27 | 作者:多维游侠 | 阅读:0一个经常加班的白领,一个带着孩子出游的父亲,你的AI助理能分清他们需要什么样的服务吗?
现实是,它常常分不清。
AI能执行你明确的指令,却很难记住那些藏在场景和身份背后的真实需求。它们是真的无法理解,还是“情商”不够高呢?
自去年10月发布了 VitaBench 1.0,首次定义了生活场景下智能体任务的复杂度之后,美团 Longcat 团队再次推出 VitaBench 2.0。
这一次,他们不再仅仅关注任务有多难,而是将目光投向了更深层次的挑战:AI能否真正理解一个不断变化的人?
VitaBench 2.0 是首个真实生活场景下面向长期动态用户建模的智能体评测基准。它系统性地评测大语言模型在长期、真实、动态的用户互动中,展现个性化与主动性的能力。简单说,就是考验AI的“情商”和“记忆力”。
VitaBench 2.0 的“硬核”看点很明确:
- 高难度业界首创:首次将智能体场景与丰富用户生态相结合,打造面向长期动态用户建模的智能体基准。它包含了56名真实特征用户、819个复杂任务、超过2000个动态偏好以及66个可执行工具。
- 超长跨度动态追踪:平均每位用户包含2093个交互事件,平均时间跨度长达1580天,严格按时间线向Agent暴露,真实还原用户偏好的演进与漂移。这可不是一周、一个月的短期测试,而是一场长达数年的“陪伴式”大考。
- 统一评测生态:针对长文本上下文学习与智能体记忆策略,搭建了统一的评测平台。这意味着,不管是拼“记忆力”还是“检索力”,都有了一个公平的竞技场。
01 设计原理:VitaBench 2.0的三维解构
能得出这些结论,得益于VitaBench 2.0的核心设计。它不再是简单的问答,而是围绕三大创新构建了一个前所未有的评测体系。
1.1 搭建“人生副本”:让AI在真实用户轨迹中接受考验
不同于一次性的问答,VitaBench 2.0为56位虚拟用户,在送餐、到店、差旅等多个真实领域中,构建了包含2000多种动态偏好、跨度长达数年的生活轨迹。
这背后是庞大而真实的数据支撑。如下图所示,这些图表直观地展示了我们构建的用户画像和偏好分布的真实性与复杂性。
具体来说,这个数据生态包含:
- 56个拟真用户,每个用户都拥有基于真实世界统计数据构建的独特身份、习惯和需求。
- 819个可执行任务,贯穿于用户的整个生命周期。
- 用户的偏好不是静态标签,而是会随着时间、事件而动态演变,平均每个用户的偏好会发生超过48次动态变化。
这些偏好被巧妙地嵌入到碎片化的互动历史中,包括对话记录和行为日志(如浏览、搜索、下单)。智能体必须像侦探一样,从这些混杂着“信号”与“噪音”的线索中,持续对用户进行理解。
1.2 引入“时间标尺”:将持续理解作为核心目标
传统的Agent评测关注“单个任务是否完成”,而VitaBench 2.0的核心目标是评测智能体是否在持续理解一个动态的人。
为此,评测的时间轴被拉长到了前所未有的尺度——用户的平均交互周期长达1580天(约4.3年),最长甚至达到2,974天。在这漫长的时间线里,智能体需要不断地提取、利用、并更新对用户的理解,才能在后续的任务中做出正确决策。
这从根本上改变了评测的焦点,从单次任务的成功,转向了对用户偏好的考核。
1.3 设立“记忆擂台”:对决AI的两种记忆模式
为了探究记忆在长期用户建模中的作用,VitaBench 2.0搭建了首个真实用户场景下的统一长期智能体评测平台。通过可扩展的接口,让两种代表性机制在此对决:
- 智能体记忆: AI自己决定记住什么、忘记什么,主动维护一个精炼的用户档案。
- RAG记忆: 像一个外部搜索引擎,根据当前任务检索最相关的历史片段。
通过对比这两种模式,我们可以清晰地看到不同记忆架构对个性化决策的真实影响。同时,也能看清同架构下的不同设计带来的差异,从而回答“AI应该如何记忆”这一关键问题。
为了考验AI的“眼力劲”,我们还设计了主动性任务。在这些任务中,AI必须意识到信息不足并主动提问,而不是盲目决策。
02 核心洞察:用数据看清模型的短板
VitaBench 2.0不仅给出了总分,更用数据揭示了模型们犯错的具体原因。如表1所示,这是主要模型在不同记忆设置下的性能排行榜。
从排行榜(表1)可以看出,即使在能看到全部历史记录的“开卷”模式下,最强的模型Claude-Opus-4.6的平均分也刚过0.5。这说明,从海量信息中准确提炼偏好本身就比较困难。
而一旦切换到更真实的记忆模式,模型的表现出现了不同程度的下滑。
洞察一:时间越长,AI忘得越快
如下图所示,随着任务序列索引增加(即时间推移),所有模型的平均性能都在下降。这说明,处理超长上下文的能力,以及记忆模块的累积误差,都严重限制了AI的长期服务能力。
更关键的是,记忆并没有成为解药。对比实验结果发现,大部分模型在接入Agentic Memory或RAG Memory后,性能反而低于直接使用全历史记录的场景——记忆不是装上就好,如何正确更新、检索和利用,才是真正的挑战。
洞察二:高“智商”不等于高“情商”
一个常见的假设是,开启模型的“思考模式”能提升其表现。然而,VitaBench 2.0 的实验结果给出了相反的答案:开启思考模式,在个性化任务上并不总是有帮助。
下图展示了模型在开启/关闭思考模式下的性能与效率关系。横轴是完成任务所需的交互轮数(越少越好),纵轴是平均性能(越高越好),理想的模型应位于左上角。可以看到,开启思考模式的点并没有稳定地比关闭模式更优越。
洞察三:AI普遍缺乏“主动沟通”的意愿
模型普遍缺乏在信息不足时主动提问的“眼力见”。所有模型家族在需要主动提问的任务上,得分都出现了“断崖式”下跌。例如,Claude家族的平均分从46.0骤降至27.4。
这表明,AI倾向于“想当然”,而不是在不确定时“多问一句”。
洞察四:就算“喂到嘴边”,AI也未必会吃
为了分离“提取偏好”和“利用偏好”这两个难题,我们直接把真实用户偏好告诉模型。虽然性能有所提升,但仍有很大进步空间。即便把真实偏好直接告诉模型,多数模型仍然失败。
这说明,即使拥有了准确的用户画像,在高压、多约束的决策中正确应用这些偏好,本身就是一个巨大的挑战。
洞察五:从“工具失误”到“情商不足”的瓶颈转移
我们对模型的失败原因进行了分类统计。在由66个真实工具构成的复杂生活服务场景中,早期模型更多地犯下工具使用错误,例如选错API或填错参数。而更强的模型(如DeepSeek-V4-Pro)虽然工具用得更好了,但在偏好理解和应用上的失败却成了主要矛盾。
这表明,随着模型基础能力的提升,个性化已是当前Agent的最大瓶颈。
03 总结:定义下一代智能体评测范式
VitaBench 2.0清晰地揭示了,当前AI在成为“高情商助理”的路上,依然任重道远。
它的核心价值,在于推动了评测范式的演进:从单点任务到长期陪伴,从被动执行到主动沟通,从黑盒到透明。
这使得VitaBench 2.0成为一座连接技术与产品的“桥梁”。它用可量化的数据回答了“我的AI为什么不够好用”的问题,并为开发者指明了模型在“服务于人”这一终极目标上的具体短板。
我们希望,VitaBench 2.0能成为一个起点,激发更多研究关注智能体的个性化、记忆和主动性,共同推动AI从一个强大的“工具”进化为一个有温度的“伙伴”。
VitaBench 2.0 已全面开源,欢迎各大模型前来接受“情商”大考。
开源地址
- 项目主页: vitabench2.github.io/
- 论文链接: arxiv.org/abs/2605.27…
- GitHub: github.com/meituan-lon…
- HuggingFace:huggingface.co/datasets/me…
免责声明:文中图文均来自网络,如有侵权请联系删除,心愿游戏发布此文仅为传递信息,不代表心愿游戏认同其观点或证实其描述。
相关文章
更多-
- 美团回应LongCat模型负责人离职传闻,持续推进国产算力大模型落地
- 时间:2026-08-15
-
- 美团发布全场景AI Agent平台CatPaw与LongCat 2.0开源大模型
- 时间:2026-08-15
-
- 美团回应LongCat核心负责人离职传闻否认离职
- 时间:2026-08-15
-
- 美团LongCat团队基础模型负责人裴鹏即将离职
- 时间:2026-07-28
-
- 美团开源LongCat-2.0:1.6T参数规模,创新架构赋能Agentic Coding与国产算力适配
- 时间:2026-07-28
-
- 美团发布首个国产五万卡集群训练1.6万亿参数大模型LongCat-2.0
- 时间:2026-07-27
-
- LongCat开源VitaBench 2.0填补真实生活场景长期动态智能体评测空白
- 时间:2026-07-27
-
- 美团开源LongCat-2.0大模型:1.6T参数助力Agentic Coding及国产卡推理
- 时间:2026-07-27
精选合集
更多大家都在玩
大家都在看
更多-
- 蚂蚁新村小课堂今日答案9月25日 福建土楼营造技艺中主要用什么作为墙体材料
- 时间:2026-09-25
-
- 蚂蚁新村2026年9月25日答案最新
- 时间:2026-09-25
-
- 蚂蚁庄园答案2026年9月26日
- 时间:2026-09-25
-
- 蚂蚁庄园今天答题答案2026年9月26日
- 时间:2026-09-25
-
- 今日小鸡庄园答案2026.9.26
- 时间:2026-09-25
-
- 蚂蚁庄园今日答案2026年9月26日
- 时间:2026-09-25
-
- 橡皮擦能擦掉铅笔字迹的原理是什么 蚂蚁庄园今日答案9.26
- 时间:2026-09-25
-
- 小鸡答题今天的答案是什么2026年9月26日
- 时间:2026-09-25