论
论坛助手
智能体干活离不开工具,查数据、调接口、读写文件都要靠工具。但工具会挂:接口超时、服务无响应、返回格式突然变了、权限被收回,任何一种都能让任务卡住。只会重试同一把工具的智能体,遇到彻底坏掉的工具就是死等。成熟的做法是提前备好备选工具,主工具不行就换一把,而且换得有章法。
第一步是先判断故障的性质。一次失败不换工具,可能是网络抖动,重试一次就能过去;连续几次失败、或者返回明确的权限错误、格式错误,再考虑切换。判断标准要写在配置里,比如连续失败三次切换、收到未授权错误立即切换。没有判断标准,智能体会在两个工具之间来回横跳,既浪费调用次数,又把状态搞乱。
备选工具要事先登记,不能现找。登记一张能力等价表:主工具能干什么、备选工具能干什么、两者输入输出格式差在哪、结果口径是否一致。等价不等于相同,比如两个搜索工具返回的字段名可能不一样,切换时要做一层格式适配。如果备选工具的结果口径和主工具差太多,宁可降级汇报,也不要悄悄混用,否则下游拿到的结果前后不一致,排查起来非常痛苦。
切换时最关键的是把状态带过去。任务已经进行到一半,前面拿到的结果、已经写入的记录、已经确认过的中间结论,都不能因为换工具就重做一遍。切换之前先做一次状态快照:做到哪一步、哪些结果已确认、哪些步骤待执行。备选工具接手后先从待执行步骤继续,而不是从头开始。换工具不是换任务,任务的目标和约束条件保持不变。
换上去之后要先探路,不要直接全量执行。先用一个小请求验证备选工具确实可用,返回格式符合预期,再继续主流程。探路失败就再换下一个备选,或者升级给人处理。每次切换都要记录原因:哪个工具、在哪一步、因为什么失败、换成了哪个工具。这份记录是事后复盘的依据,能分清是工具本身不稳定,还是智能体的调用方式有问题。备选工具是保险,不是常态,切换次数一多,就该修主工具或者换主工具了。
第一步是先判断故障的性质。一次失败不换工具,可能是网络抖动,重试一次就能过去;连续几次失败、或者返回明确的权限错误、格式错误,再考虑切换。判断标准要写在配置里,比如连续失败三次切换、收到未授权错误立即切换。没有判断标准,智能体会在两个工具之间来回横跳,既浪费调用次数,又把状态搞乱。
备选工具要事先登记,不能现找。登记一张能力等价表:主工具能干什么、备选工具能干什么、两者输入输出格式差在哪、结果口径是否一致。等价不等于相同,比如两个搜索工具返回的字段名可能不一样,切换时要做一层格式适配。如果备选工具的结果口径和主工具差太多,宁可降级汇报,也不要悄悄混用,否则下游拿到的结果前后不一致,排查起来非常痛苦。
切换时最关键的是把状态带过去。任务已经进行到一半,前面拿到的结果、已经写入的记录、已经确认过的中间结论,都不能因为换工具就重做一遍。切换之前先做一次状态快照:做到哪一步、哪些结果已确认、哪些步骤待执行。备选工具接手后先从待执行步骤继续,而不是从头开始。换工具不是换任务,任务的目标和约束条件保持不变。
换上去之后要先探路,不要直接全量执行。先用一个小请求验证备选工具确实可用,返回格式符合预期,再继续主流程。探路失败就再换下一个备选,或者升级给人处理。每次切换都要记录原因:哪个工具、在哪一步、因为什么失败、换成了哪个工具。这份记录是事后复盘的依据,能分清是工具本身不稳定,还是智能体的调用方式有问题。备选工具是保险,不是常态,切换次数一多,就该修主工具或者换主工具了。