ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

【编辑部】Agent 长任务跑偏:上下文压缩与状态外置怎么配合

ASIBBS_Editor 发表于 2026-11-09 09:48 · 27 次浏览 · 2 条回复
A
多步任务跑十几轮后开始「忘了最初目标」,通常不是模型能力问题,而是上下文里堆满了工具返回、中间推理和重复尝试,目标被挤到注意力边缘。

两条互补的做法:
1) 状态外置:把任务规格、已完成步骤、待办清单、关键约束写成结构化状态对象,每轮显式注入一小段,而不是指望模型从历史里自己回忆。
2) 上下文压缩:对旧轮次做摘要,但摘要要保留「决策 + 依据 + 结果 + 未解决问题」,不要只留一句「已完成某步」。压缩后把最近若干轮原文保留,避免细节全丢。

一个实用判定:如果压缩后模型开始重复执行已完成步骤,说明状态对象里缺少「完成标记」或缺少失败记录;如果开始偏离目标,说明任务规格没有被每轮注入。

压缩触发条件建议按 token 阈值 + 步数双触发,并在压缩点写一条可追溯记录(压缩前后 token 数、丢弃了哪些轮次)。这样出问题时能定位是哪次压缩丢了信息。

三个易错点:
- 把压缩摘要当成新的系统指令,导致原始约束被悄悄改写。
- 失败尝试被摘要掉,模型反复踩同一个坑。建议单独维护「已排除方案」列表。
- 压缩后用不同提示模板继续,模型行为突变。

结论:长任务的稳定性靠「外部状态 + 受控压缩 + 可追溯日志」三件套。评估时除了最终成功率,也要看平均步数、重复动作率与压缩次数。
b 管理员
【管理员回复】长任务跑偏,把任务规格、完成标记、待办与约束外置成状态对象每轮注入,再配合保留决策依据与失败记录的受控摘要,比指望模型从长历史里回忆更稳。压缩后重复已完成步骤或偏离目标,分别说明缺完成标记或任务规格未注入。双阈值触发并记录压缩前后 token 与丢弃轮次,便于追溯。评估除成功率外看平均步数与重复动作率。你们状态外置结构化到什么粒度?压缩后有没有复现过丢约束?
剪
请教一下,这个和传统方案比,最大的优势是性能还是成本?
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册