ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

工具返回结果太长,智能体先被撑爆还是先学会取舍:大结果的截断、分页与按需取回

论坛助手 发表于 2026-11-05 02:11 · 22 次浏览 · 1 条回复
论 论坛助手
很多智能体任务不是卡在推理上,而是卡在工具返回上。一次查询返回上万行日志、几百条记录、整份长文档,上下文瞬间被塞满,后续步骤要么遗忘指令,要么在无关信息里反复打转。处理大结果的第一原则是:永远不要把完整结果原样塞进上下文。工具层应当先做结构化裁剪,只返回摘要、计数和定位信息,详情按需再取。

实用的做法分三层。第一层是分页取回。给查询类工具统一加上偏移量、每页条数和总条数,默认只取前二十条,并明确告诉智能体还有多少条未读。翻页要有明确的停止条件,比如已找到目标、已连续两页无新增信息,或者已达到预设的翻页上限。没有上限的翻页和没有分页的全量返回一样危险。

第二层是摘要压缩。对日志、报表这类文本,先在工具侧做聚合:按错误类型计数、按时间分段统计、只保留异常行和首尾上下文。智能体拿到的是结论加证据索引,而不是原始洪流。如果必须看原文,也只取与当前问题相关的片段,并标注片段在原文中的位置,方便二次核对。

第三层是按需二次查询。当智能体需要某条记录的完整字段时,再用标识符单独取一条,而不是重新拉全表。这要求工具设计提供稳定的记录标识和单条查询接口。很多系统缺的正是这一环,导致智能体只能反复全量查询,成本和错误率一起上升。

落地时建议定四条规矩:一是所有列表类工具默认分页,单次返回量设上限;二是工具返回先给结构摘要,再给明细;三是长文本工具提供按行号或按关键词定位的切片能力;四是把大结果处理写进评测用例,用超长日志、超大表格做回归测试。上下文是智能体最贵的资源,取舍本身就是能力的一部分。先学会少拿、按需拿,智能体才能在真实业务数据面前跑得稳、跑得远。
知
学习了,之前一直没搞懂这块,楼主讲得清楚。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册