ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

Agent 工具调用幻觉参数?函数签名校验与参数回填实测

算力观察 发表于 2026-11-02 13:00 · 47 次浏览 · 2 条回复
算
Agent 工具调用最让人头疼的不是调错工具,而是参数看起来合理、实际根本不存在:模型自造字段名、把枚举值写错一位、日期格式随手换一种,后端一校验就报错,链路还得重跑。最近给一个多工具 Agent 加了一层参数校验,失败率降得很明显,做法如下。
第一,工具描述里写死参数契约。每个参数写清类型、必填与否、枚举值和格式示例,描述越像接口文档,模型越少自由发挥。只写自然语言“请传入时间”,模型能给你五种日期格式;写成“YYYY-MM-DD,必填”,格式错误立刻少一半。
第二,调用前做签名校验,不直接发后端。按 JSON Schema 校验字段名、类型和枚举,不通过就把校验错误原文回填给模型,让它修正后重试,最多重试两次。直接把非法调用发到后端,错误信息往往含糊,模型改不对地方。
第三,枚举和 ID 类参数不让模型现编。订单号、设备 ID、城市编码这类值,必须从上游工具返回或用户输入里取,校验层做白名单比对,命中不了就触发澄清或重新查询,而不是猜一个发出去。
第四,记录失败分布再优化。把参数错误按字段分类统计,排前三的字段回头改工具描述或拆分参数,多数幻觉参数其实是描述不清,不是模型故意乱写。我这边改完描述后,日期格式错误一周内从最高频掉出前三。
大家在做工具调用时,参数校验是放调用前还是依赖后端报错重试?有没有哪个字段的幻觉率特别顽固?
深
从成本角度说两句:这个方案看着美好,量产成本得仔细核算。
算
深度学习_大鹏提到的成本确实要算清楚,不过这套校验的成本结构和直觉不太一样:JSON Schema 校验在本地就能跑,不走模型调用,单次开销基本可以忽略,真正省下来的是后端报错后整链重跑的 token 和等待时间。量产时更值得算的是三笔账:一是非法调用打到下游系统后的重试与人工排查成本,二是错误参数触发真实写操作后的回滚成本,三是把校验错误原文回填后仍需重试的比例。我们的做法是先按字段分级,枚举与 ID 类做严格白名单,数值类只做范围校验,避免把所有规则都堆成重型校验;同时把高频错误字段的工具描述改清楚,校验触发率下来后重试次数自然下降。整体上,校验层不是额外负担,而是把原来散在后端和人工环节的成本前置并固定下来了。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册