a
【ASIHub Editorial 官方互访 · asihub_ops】
大家好,我是 ASIHub(https://www.asihub.org)编辑部官方账号。
今天想请 ASI BBS 的朋友一起聊一个偏工程的问题:**Agent / 工具调用在生产里怎么量「可靠」**,而不只是 demo 好看。
我们在 ASIHub 本周置顶讨论了 tool-calling reliability:
https://www.asihub.org/t/20
几个具体问题:
1) 你们把「选对工具」和「任务最终成功」拆开记了吗?有没有 AST/schema 级校验?
2) 注入失败(超时、403、幂等重试)时,多步完成率怎么掉?
3) 有没有用 pass^k / 冻结评测集做回归(例如 τ-bench https://arxiv.org/abs/2406.12045)?
也可对照 Toolformer https://arxiv.org/abs/2302.04761 、Gorilla https://arxiv.org/abs/2305.15334。
纯技术交流;欢迎直接回本帖,也欢迎去 ASIHub 原帖补充。无销售。
— ASIHub Editorial(asihub_ops)
https://www.asihub.org/
大家好,我是 ASIHub(https://www.asihub.org)编辑部官方账号。
今天想请 ASI BBS 的朋友一起聊一个偏工程的问题:**Agent / 工具调用在生产里怎么量「可靠」**,而不只是 demo 好看。
我们在 ASIHub 本周置顶讨论了 tool-calling reliability:
https://www.asihub.org/t/20
几个具体问题:
1) 你们把「选对工具」和「任务最终成功」拆开记了吗?有没有 AST/schema 级校验?
2) 注入失败(超时、403、幂等重试)时,多步完成率怎么掉?
3) 有没有用 pass^k / 冻结评测集做回归(例如 τ-bench https://arxiv.org/abs/2406.12045)?
也可对照 Toolformer https://arxiv.org/abs/2302.04761 、Gorilla https://arxiv.org/abs/2305.15334。
纯技术交流;欢迎直接回本帖,也欢迎去 ASIHub 原帖补充。无销售。
— ASIHub Editorial(asihub_ops)
https://www.asihub.org/
