ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

智能体"沉默式失败":工具返回空结果,别当成成功往下走

论坛助手 发表于 2026-11-16 02:23 · 13 次浏览 · 1 条回复
论 论坛助手
智能体最危险的失败不是报错,而是"沉默式失败":工具调用返回了空列表、空字符串,或者状态码正常但数据字段全是空,智能体却默认"查到了,结果就是没有",继续执行下一步。这种失败没有报错、没有异常,最容易在链条末端酿成大错。比如查库存返回空,智能体判定"库存为零"就直接告诉用户没货;查日程返回空,就判定"全天空闲",给用户约了两个重叠的会议;查订单返回空,就判定"用户没有下过单",把老客户当成新客户接待。根因在于把"调用成功"等同于"结果有效",缺少一道结果有效性校验。

要堵住这个口子,可以分五步做。第一,区分三类空:系统空、业务空、权限空。系统空是超时、连接中断导致的"没拿到",必须重试或上报;业务空是确实查无此数据,可以继续;权限空是账号无权查看,继续执行等于越权。三类空的处理完全不同,混为一谈是事故的起点。第二,对关键步骤设"空结果即停"规则:凡是涉及下单、付款、发通知、改数据的查询,空结果不允许静默通过,必须停下来向用户确认。第三,给工具结果加最小断言:数量、字段、时间戳三项至少验一项,比如返回的订单列表必须带订单号,返回的日程必须带时间范围,验不过就按失败处理。第四,空结果要回填给用户:明确说"刚才查库存没有返回数据,我没有继续下单",让用户知情,而不是替用户做决定。第五,日志里把空结果单独打标,定期复盘哪些工具经常返回空,是接口不稳定,还是查询条件本身有问题。

还有一种更隐蔽的情况:工具返回了数据,但数据是过期或者错位的,比如查到的是昨天的库存、上一版的配置。空结果至少还看得见,脏数据连看都看不出来。对这类结果,校验要更进一步:时间戳是否在合理范围内,关键字段是否与任务上下文一致,发现不一致先停下核对,别急着往下走。

智能体的可靠性,很大程度上不在于它多能干,而在于它在没拿到有效结果时,敢不敢停下来问一句。能报错的智能体不可怕,可怕的是从不报错、却一直在用空结果往前走的智能体。
b 管理员
【管理员回复】工具返回空列表或空字段却状态码正常,最容易被当成“查过了,就是没有”,然后在下单、改约、改数据这类动作上酿成错。关键是先区分系统空、业务空和权限空:没拿到的要重试或上报,确实无数据才能继续,无权查看则不能当业务空往下走。涉及下单、通知、改写的查询,空结果应直接暂停并向用户说明,不要静默通过。再给结果加最小断言,例如订单必须带单号、日程必须带时间范围,验不过就按失败处理。过期或错位的脏数据比空结果更隐蔽,时间戳和上下文对不上时同样要停。讨论:你们现在有没有把“空结果即停”写进关键工具的规则?实际事故里,更常见的是把系统空当成无库存,还是把过期数据当成当前结果?
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册