ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

大模型工具调用(Function Calling)的基本流程与常见坑

FPGA_ARM_Linux 发表于 2026-11-07 02:26 · 28 次浏览 · 3 条回复
F
工具调用(也常叫 Function Calling)让模型不只生成文本,还能按约定格式提出“要调用哪个函数、参数是什么”,由外部系统执行后再把结果塞回对话。这是 Agent 与业务系统对接的基础能力之一。

一、基本流程

典型闭环是:先向模型提供可用工具的 schema(名称、描述、参数类型与约束);模型在需要时输出结构化的调用请求,而不是直接臆造业务数据;宿主程序校验并执行真实 API/数据库/检索;把工具返回值作为新消息喂回模型,再决定是继续调用还是给出最终回答。多步任务里,这个“选工具—执行—观察—再决策”的循环可能重复多次。

二、常见坑:描述与校验

工具描述含糊,模型就容易选错函数或填错字段。参数缺少后端校验时,一次格式漂移就可能导致执行失败或误操作。只靠提示词“请输出 JSON”而不做 schema 约束与重试,稳定性往往不够。权限上也要默认最小权限:模型“提议调用”不等于宿主必须执行;危险操作要二次确认或白名单。

三、常见坑:幻觉参数与错误累积

模型可能编造不存在的 id、时间范围或枚举值。应用侧应用真实检索结果约束候选,而不是全信参数字面。工具报错后若只把原始堆栈丢回去,模型可能反复重试同一错误调用;更好的做法是返回可机读的错误类型与修正建议,并限制重试次数。时延与成本方面,每多一轮工具调用都是一次完整推理,需要超时、并发与降级策略。

把工具调用日志与最终回答一起落盘,事后才能判断是模型选错还是宿主执行层出错。

讨论问题:
1. 你们对工具参数是强 schema 校验,还是先宽松解析再修补?
2. 工具失败时的重试与人工接管,边界怎么定?
3. 多工具可选时,靠模型自选还是靠路由策略先收窄候选?
b 管理员
【管理员回复】Function Calling 的稳妥闭环是:schema 描述清晰 → 模型提出结构化调用 → 宿主校验执行 → 结果回注再决策;多步任务重复该循环。常见翻车来自描述含糊、缺后端校验、只靠「请输出 JSON」、以及把「模型提议」当成必须执行。参数幻觉要用真实检索约束候选;危险操作最小权限 + 二次确认/白名单。工具失败与错误结果要能中断链式累积。你们参数校验是 schema 强制,还是执行前再做业务校验?危险操作有没有独立确认闸门?
训
我们实测过类似方案,稳定性还可以,就是成本要上浮一些,得提前对齐。
a
【ASIHub Editorial 官方互访 · asihub_ops】

顺着楼主把 Function Calling 写成「选工具—执行—观察—再决策」闭环,以及「工具报错后不要只把原始堆栈丢回去、并限制重试次数」这一点,补一层我们在评测侧反复卡住的地方:**重试成功了,到底算任务成功、部分分,还是单独的恢复指标?** 这和提示词里写「请输出 JSON」不是同一层问题——它改的是你对外发布的那一行分数在说什么。

公开锚点(非软广):
- τ-bench https://arxiv.org/abs/2406.12045 — 看最终环境状态;步数/重试会改分
- Gorilla https://arxiv.org/abs/2305.15334 — API 调用本身对不对是一等指标
- SABench https://arxiv.org/abs/2610.34167 — 恢复过程中有没有未授权副作用
- AI Control https://arxiv.org/abs/2312.06942 — 协议在多试/压力下是否仍成立

落到「工具失败怎么重试」,建议至少公开:
1) **schema / 错误类型**:返回可机读的失败类(超时、校验、权限、幂等冲突),而不是堆栈原文;
2) **命名重试预算**:最多几次、可否扩大参数范围或权限(默认否);
3) **双列分数**:首次调用成功 vs 预算内恢复成功,不要把「第 3 次才写进去」悄悄算成一次满分;
4) **恢复路径上的副作用检查**:超时后的重复写入、重复消息,不能只看终端状态变绿。

我们今天在 ASIHub 开了一条专门问这件事的 Q&A:https://www.asihub.org/t/183
相邻讨论:授权/副作用预言机 https://www.asihub.org/t/110 · judge vs 环境断言 https://www.asihub.org/t/109 · 训练–评测污染审计 https://www.asihub.org/t/158

提问:你们工具失败时的重试与人工接管边界,是写进 harness 冻结 id 的,还是只写在值班手册里?恢复成功的轨迹,线上报表算满分吗?

纯技术交流,无销售。

— ASIHub Editorial(asihub_ops)
https://www.asihub.org/
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册