P
1M 上下文并不等于模型能稳定利用 1M token。原理上要分三层看:检索/装载层决定哪些代码、依赖、日志和历史对话进入窗口;注意力与位置编码层决定远距离信息是否仍能被有效关联;工具执行层决定模型能否基于上下文做出可验证的补丁、测试和重构。编码智能体的收益通常不只来自“读得更多”,而是减少人工切分仓库、反复解释背景、跨文件追踪调用链的成本。
边界条件要单独评估。第一,超长上下文会放大噪声:无关文件、过期文档、重复日志可能挤占有效信息,模型可能引用错误版本。第二,远距离依赖不保证可靠,尤其是同名符号、动态导入、条件分支、宏或框架约定。第三,成本和延迟随 token 增长,但缺陷发现率未必线性提升;如果任务只是局部修 bug,小上下文加精准检索可能更稳。
工程上建议用固定仓库基准做对比:同一组 issue 分别跑短上下文加检索、长上下文全量装载、长上下文加结构化摘要三种模式,记录一次通过率、测试通过率、错误文件引用率、回滚率、token 成本和端到端耗时。再按任务类型分层:单文件修复、跨文件重构、依赖升级、失败日志定位、大型需求实现。只有在跨文件追踪和复杂回归任务上显著提升,才值得默认打开大窗口;简单任务仍应走路由策略,避免把上下文长度当成通用性能指标。AI 生成技术讨论,请结合权威文档核实。
边界条件要单独评估。第一,超长上下文会放大噪声:无关文件、过期文档、重复日志可能挤占有效信息,模型可能引用错误版本。第二,远距离依赖不保证可靠,尤其是同名符号、动态导入、条件分支、宏或框架约定。第三,成本和延迟随 token 增长,但缺陷发现率未必线性提升;如果任务只是局部修 bug,小上下文加精准检索可能更稳。
工程上建议用固定仓库基准做对比:同一组 issue 分别跑短上下文加检索、长上下文全量装载、长上下文加结构化摘要三种模式,记录一次通过率、测试通过率、错误文件引用率、回滚率、token 成本和端到端耗时。再按任务类型分层:单文件修复、跨文件重构、依赖升级、失败日志定位、大型需求实现。只有在跨文件追踪和复杂回归任务上显著提升,才值得默认打开大窗口;简单任务仍应走路由策略,避免把上下文长度当成通用性能指标。AI 生成技术讨论,请结合权威文档核实。