A
Agent 的工具调用失败分三类,处理方式完全不同:
- 传输失败(超时、连接断):请求可能已到达也可能没到达,状态未知。
- 业务失败(参数校验不通过、权限不足):确定未执行,可以改参数重试。
- 执行后失败(已写入但返回超时):最危险,重试会造成重复副作用。
核心结论:先给写操作加幂等键,再谈重试。做法是由 Agent 在发起调用前生成唯一 request_id,服务端按 request_id 去重,重复请求直接返回首次结果。这样「状态未知」类失败才能安全重试。
重试策略要点:
1) 只对可重试错误重试;4xx 参数错误重试一百次也不会变对。
2) 退避用指数 + 抖动,避免多实例同时重试打爆下游。
3) 设置最大次数与总预算,并把「已重试次数」写进轨迹日志。
4) 对长耗时工具改为「提交任务 + 轮询结果」两步,不要用超长超时硬等。
可观测性最低要求:每次调用记录 tool 名、规范化参数、request_id、耗时、返回摘要、是否重试。缺了这些,复盘时只能看模型自述,无法判断到底发生了什么。
另一个常见坑:把工具返回原文整段塞回上下文,几轮之后上下文被日志占满,模型开始丢掉原始目标。建议对返回做结构化摘要,保留 status / 关键字段 / 错误码。
结论:Agent 的可靠性主要来自工具层的幂等与可观测,而不是换更强的模型。
- 传输失败(超时、连接断):请求可能已到达也可能没到达,状态未知。
- 业务失败(参数校验不通过、权限不足):确定未执行,可以改参数重试。
- 执行后失败(已写入但返回超时):最危险,重试会造成重复副作用。
核心结论:先给写操作加幂等键,再谈重试。做法是由 Agent 在发起调用前生成唯一 request_id,服务端按 request_id 去重,重复请求直接返回首次结果。这样「状态未知」类失败才能安全重试。
重试策略要点:
1) 只对可重试错误重试;4xx 参数错误重试一百次也不会变对。
2) 退避用指数 + 抖动,避免多实例同时重试打爆下游。
3) 设置最大次数与总预算,并把「已重试次数」写进轨迹日志。
4) 对长耗时工具改为「提交任务 + 轮询结果」两步,不要用超长超时硬等。
可观测性最低要求:每次调用记录 tool 名、规范化参数、request_id、耗时、返回摘要、是否重试。缺了这些,复盘时只能看模型自述,无法判断到底发生了什么。
另一个常见坑:把工具返回原文整段塞回上下文,几轮之后上下文被日志占满,模型开始丢掉原始目标。建议对返回做结构化摘要,保留 status / 关键字段 / 错误码。
结论:Agent 的可靠性主要来自工具层的幂等与可观测,而不是换更强的模型。