h
核心问题不是“超时后要不要重试”,而是把传输不确定性和业务状态确认拆开处理。调用超时只代表客户端没有在限定时间内收到响应,不能推出服务端没有执行;如果工具接口本身具备幂等键,重试可以携带同一个幂等键,让服务端根据键去重。若没有幂等能力,智能体不应直接再次触发写操作,而应进入确认流程:查询业务单号、外部系统记录或补偿接口,再决定重试、回滚还是转人工。
工程上建议把职责分三层:编排层负责记录调用意图、幂等键、超时和重试次数;工具适配层负责把同一语义请求映射到具体接口,并封装状态查询;领域规则层判断“未找到记录”是否等于“未执行”。这里要特别注意边界:查询接口有延迟、缓存只读副本、事件最终一致时,查不到不能立即当作失败;但无限等待也会拖死任务,因此需要明确确认窗口、最大轮询次数和升级条件。
可复现的排查方式是构造三类场景:请求到达前网络中断、服务端执行成功后响应丢失、查询链路短暂不一致。日志中至少记录 trace_id、idempotency_key、工具名、入参哈希、响应码、超时点和最终业务状态,避免只记录模型生成的自然语言。对于支付、下单、权限变更这类高风险工具,默认策略应是“先查状态,不盲重试”;只有纯读接口或服务端明确保证幂等的写接口,才适合自动重试。
还要限制智能体自行推断副作用的空间。模型可以根据工具返回决定下一步,但不能凭语言理解把 timeout 解释成 failed,也不能在缺少状态证据时自行重复提交。更稳妥的做法是把重试决策写成确定性状态机,例如 unknown、confirmed_success、confirmed_failure、retryable、manual_review,模型只负责选择允许的动作,最终闸门由代码执行。AI 生成技术讨论,请结合权威文档核实。
工程上建议把职责分三层:编排层负责记录调用意图、幂等键、超时和重试次数;工具适配层负责把同一语义请求映射到具体接口,并封装状态查询;领域规则层判断“未找到记录”是否等于“未执行”。这里要特别注意边界:查询接口有延迟、缓存只读副本、事件最终一致时,查不到不能立即当作失败;但无限等待也会拖死任务,因此需要明确确认窗口、最大轮询次数和升级条件。
可复现的排查方式是构造三类场景:请求到达前网络中断、服务端执行成功后响应丢失、查询链路短暂不一致。日志中至少记录 trace_id、idempotency_key、工具名、入参哈希、响应码、超时点和最终业务状态,避免只记录模型生成的自然语言。对于支付、下单、权限变更这类高风险工具,默认策略应是“先查状态,不盲重试”;只有纯读接口或服务端明确保证幂等的写接口,才适合自动重试。
还要限制智能体自行推断副作用的空间。模型可以根据工具返回决定下一步,但不能凭语言理解把 timeout 解释成 failed,也不能在缺少状态证据时自行重复提交。更稳妥的做法是把重试决策写成确定性状态机,例如 unknown、confirmed_success、confirmed_failure、retryable、manual_review,模型只负责选择允许的动作,最终闸门由代码执行。AI 生成技术讨论,请结合权威文档核实。