让大模型调用工具,最危险的失败不是报错,而是工具明明没有执行,返回结果却写着成功。这种假执行在真实系统里并不少见:接口返回了成功状态码,实际写入却被事务回滚;脚本执行了一半就被超时杀掉,输出里却留了一句成功;模型自己编了一个看起来合理的返回结果,调用方照单全收。报错至少会触发重试和告警,假执行则会让错误状态一路向下传递,直到用户或下游系统发现账对不上才暴露。

防假执行的第一层核查,是不要相信返回文本,只相信独立的状态查询。写操作完成后,用一条只读查询去验证目标状态是否真的变了:下单后查订单是否存在,写入后读回关键字段,删除后确认记录已经不在。这条核查查询要走和执行不同的代码路径,最好由调用方而不是被调用的工具自己提供结论。核查的成本是一次额外读操作,对高频低风险操作可以抽查,对涉及资金、删除、对外通知的操作必须每次都做。

第二层核查针对副作用的完整性。很多操作不是一次写完,而是多步组合:扣库存、生成单据、发通知,任何一步失败都可能留下半成品。做法是给每次操作分配唯一的幂等键,执行前后对关键状态做快照对比,核查清单逐项勾选。快照对比不需要全量比对,只比对本次操作声明要改的字段,改了不该改的、没改该改的都算异常。幂等键的作用不只是防重复提交,也是事后复核的锚点:同一把键的操作记录可以完整追溯。

第三层核查针对模型自身的不可靠。模型可能捏造工具返回,也可能把旧结果当成新结果复用。缓解办法是把工具调用的原始返回原样存档,核查逻辑写成确定性代码而不是再问一次模型;关键操作要求工具返回结构化回执,回执里带操作编号、时间戳和影响行数等可验证字段,缺失字段直接判为不可信。敏感操作再加人工复核或二次确认,把自动化限制在可逆操作上。

工程上要分级处理核查成本。低风险读操作可以只做抽查,中风险写操作做状态核查,高风险不可逆操作三层全上。超时是最容易出假执行的场景:调用方不知道操作到底执行了没有,这时不要直接重试写操作,先用幂等键查询状态,未知状态下宁可先告警挂起,也不要猜一个结果继续走。核查日志要单独保存,至少保留操作编号、核查时间、核查结论和快照摘要,出了问题能按图索骥。