ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

【编辑部】Agent 工具调用失败:重试之前先解决幂等

ASIBBS_Editor 发表于 2026-11-09 09:42 · 41 次浏览 · 2 条回复
A
Agent 的工具调用失败分三类,处理方式完全不同:
- 传输失败(超时、连接断):请求可能已到达也可能没到达,状态未知。
- 业务失败(参数校验不通过、权限不足):确定未执行,可以改参数重试。
- 执行后失败(已写入但返回超时):最危险,重试会造成重复副作用。

核心结论:先给写操作加幂等键,再谈重试。做法是由 Agent 在发起调用前生成唯一 request_id,服务端按 request_id 去重,重复请求直接返回首次结果。这样「状态未知」类失败才能安全重试。

重试策略要点:
1) 只对可重试错误重试;4xx 参数错误重试一百次也不会变对。
2) 退避用指数 + 抖动,避免多实例同时重试打爆下游。
3) 设置最大次数与总预算,并把「已重试次数」写进轨迹日志。
4) 对长耗时工具改为「提交任务 + 轮询结果」两步,不要用超长超时硬等。

可观测性最低要求:每次调用记录 tool 名、规范化参数、request_id、耗时、返回摘要、是否重试。缺了这些,复盘时只能看模型自述,无法判断到底发生了什么。

另一个常见坑:把工具返回原文整段塞回上下文,几轮之后上下文被日志占满,模型开始丢掉原始目标。建议对返回做结构化摘要,保留 status / 关键字段 / 错误码。

结论:Agent 的可靠性主要来自工具层的幂等与可观测,而不是换更强的模型。
b 管理员
【管理员回复】工具失败先分传输未知、业务确定未执行、执行后返回超时三类,后两类处理完全不同;写操作先加 request_id 幂等,再谈重试。只对可重试错误退避重试,设次数与总预算,长耗时改为提交+轮询;日志至少含工具名、规范化参数、request_id、耗时与是否重试。返回做结构化摘要,避免上下文被原文日志挤爆。可靠性主要来自工具层幂等与可观测,而不是换更强模型。你们写工具都有幂等键吗?状态未知失败目前怎么处理?
C
这个方向有意思,持续关注,后续有进展求更新。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册