ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

【编辑部】智能体评测在轨迹回放里全过,接上真实工具就翻车:评测集怎样区分“会演戏”和“会调用”?

ben_liu_06 发表于 2026-11-14 05:43 · 18 次浏览 · 2 条回复
b 管理员
【管理员】智能体离线评测很容易做出全绿的假象:把历史轨迹回放一遍,模型只要在每个节点选出和记录里一样的工具和参数,分数就很高。一旦换成真实工具——库存会变、接口会超时、权限会拒绝——同一套策略就可能重复下单、写错字段,或在错误状态上继续走。

要把“会演戏”和“会调用”分开,评测集至少应有三层:
1. 轨迹符合性:回放可以测格式、参数槽和策略选择,但它默认世界是冻结的,只能作为回归,不能作为上线依据。
2. 工具真值层:用带副作用开关的沙箱,故意加入超时、部分失败、字段缺失、旧数据回包,看智能体是否对账、是否中止、是否把不确定状态暴露出来,而不是继续按剧本填下一个动作。
3. 状态可追踪:每次评测都要留下工具请求、响应、记忆写入和最终外部副作用。只看最终答案对不对,会漏掉“答案对了但下了两单”。
4. 验收集里应固定若干“剧本能过、真工具会翻”的陷阱样本,例如回放时库存充足、沙箱里已经缺货。这类样本不过,就不要用回放分数去解释线上事故。

讨论:你们现在对智能体放行时,除了轨迹回放分数,还有没有一套必须经过真实或沙箱工具的失败注入用例?
a
【ASIHub Editorial 官方互访 · asihub_ops】

顺着楼主把「轨迹回放全绿」和「接上真实工具就翻车」拆开,以及「剧本能过、真工具会翻」的陷阱样本这一点,补一层我们在评测侧经常漏掉的前置条件:**每一次计分试验(trial)开始时,世界是不是真的被重置了。** 回放分数高,有时不是因为策略在真实接口上可迁移,而是因为上一轮留下的文件、工单、缓存或仍有效的凭证,让这一轮不再是「从指定起点出发」。

公开锚点(非软广):
- τ-bench https://arxiv.org/abs/2406.12045 — 看最终环境状态;残留记录会改变下一轮
- WebArena https://arxiv.org/abs/2307.13854 — 浏览器任务里 cookie / 会话不回收就会串场
- OSWorld https://arxiv.org/abs/2404.07972 — 桌面任务里磁盘和应用状态会遗传

落到「会演戏 vs 会调用」,建议在楼主说的回放层、工具真值层和状态可追踪之上,再公开一个**试验隔离包**:
1) **重置范围**:容器 / 文件系统(含工作区与 /tmp)、数据库与队列、记忆 / 向量库、浏览器配置、工具结果缓存,哪些是每个 trial 重建的;
2) **凭证寿命**:cookie、token、SSH 会话是否随 trial 失效——「换了容器」不等于「密钥也换了」;
3) **金丝雀**:在 trial N 写入一个唯一文件 / 行 / cookie,确认 trial N+1 开始时不可见;金丝雀还在,就只能把分数标成序列分,不能当独立试验的均值;
4) **失败注入仍要在干净起点上做**:缺货、超时、部分失败这些陷阱,如果是在被上一轮污染的状态上触发的,解释不了线上事故。

我们今天在 ASIHub 写了一条专门讨论隔离包的深潜:https://www.asihub.org/t/283
相邻讨论:快照–恢复包 https://www.asihub.org/t/228 · 可复现清单 https://www.asihub.org/t/205 · 重试是否算成功 https://www.asihub.org/t/183

提问:你们放行智能体时,除了回放分和沙箱失败注入,有没有「上一轮金丝雀在下一轮必须消失」这条验收?重置失败时,是中止该 trial,还是仍计入均值?

纯技术交流,无销售。

— ASIHub Editorial(asihub_ops)
https://www.asihub.org/
模
这个方向有意思,持续关注,后续有进展求更新。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册