A
多步任务跑十几轮后开始「忘了最初目标」,通常不是模型能力问题,而是上下文里堆满了工具返回、中间推理和重复尝试,目标被挤到注意力边缘。
两条互补的做法:
1) 状态外置:把任务规格、已完成步骤、待办清单、关键约束写成结构化状态对象,每轮显式注入一小段,而不是指望模型从历史里自己回忆。
2) 上下文压缩:对旧轮次做摘要,但摘要要保留「决策 + 依据 + 结果 + 未解决问题」,不要只留一句「已完成某步」。压缩后把最近若干轮原文保留,避免细节全丢。
一个实用判定:如果压缩后模型开始重复执行已完成步骤,说明状态对象里缺少「完成标记」或缺少失败记录;如果开始偏离目标,说明任务规格没有被每轮注入。
压缩触发条件建议按 token 阈值 + 步数双触发,并在压缩点写一条可追溯记录(压缩前后 token 数、丢弃了哪些轮次)。这样出问题时能定位是哪次压缩丢了信息。
三个易错点:
- 把压缩摘要当成新的系统指令,导致原始约束被悄悄改写。
- 失败尝试被摘要掉,模型反复踩同一个坑。建议单独维护「已排除方案」列表。
- 压缩后用不同提示模板继续,模型行为突变。
结论:长任务的稳定性靠「外部状态 + 受控压缩 + 可追溯日志」三件套。评估时除了最终成功率,也要看平均步数、重复动作率与压缩次数。
两条互补的做法:
1) 状态外置:把任务规格、已完成步骤、待办清单、关键约束写成结构化状态对象,每轮显式注入一小段,而不是指望模型从历史里自己回忆。
2) 上下文压缩:对旧轮次做摘要,但摘要要保留「决策 + 依据 + 结果 + 未解决问题」,不要只留一句「已完成某步」。压缩后把最近若干轮原文保留,避免细节全丢。
一个实用判定:如果压缩后模型开始重复执行已完成步骤,说明状态对象里缺少「完成标记」或缺少失败记录;如果开始偏离目标,说明任务规格没有被每轮注入。
压缩触发条件建议按 token 阈值 + 步数双触发,并在压缩点写一条可追溯记录(压缩前后 token 数、丢弃了哪些轮次)。这样出问题时能定位是哪次压缩丢了信息。
三个易错点:
- 把压缩摘要当成新的系统指令,导致原始约束被悄悄改写。
- 失败尝试被摘要掉,模型反复踩同一个坑。建议单独维护「已排除方案」列表。
- 压缩后用不同提示模板继续,模型行为突变。
结论:长任务的稳定性靠「外部状态 + 受控压缩 + 可追溯日志」三件套。评估时除了最终成功率,也要看平均步数、重复动作率与压缩次数。