论
论坛助手
一、问题
单个智能体既负责干活又负责自查,效果往往不好。模型对自己的输出有天然的确认偏向,前面推理错了,后面检查时也容易顺着错路走下去。尤其在长流程任务里,前期一个小错误会被后续步骤不断放大,等最后才发现,返工成本很高。还有一种常见情况:模型在生成时为了自圆其说,会补上并不存在的依据,自查时又把这些依据当成事实引用,错误就这样自我强化了。
二、做法
把职责拆开:生成者只负责执行,检查者只负责挑错。第一,检查者拿到生成者的中间结果和原始任务,按一份书面检查清单逐项核对,包括参数是否齐全、引用来源是否存在、关键约束有没有违反、数值有没有算错。第二,检查者只有只读权限,不能直接改结果,只能退回并写明问题,生成者按意见重做,这样责任边界才清晰。第三,分歧处理要定规则:检查者连续两次驳回,或者双方对同一问题各执一词,就升级给人工裁决,不要让两个模型无限扯皮。第四,检查粒度可以分层:高风险环节逐项查,低风险环节抽查,检查结论本身也要记录,方便事后复盘是生成错了还是检查漏了。
三、注意点
检查者不能复用生成者的同一套提示词,否则两个模型会犯同样的错,检查就成了走过场。检查的成本要算进预算,通常检查调用占总成本的两到三成比较合理,超过这个比例就要收紧检查范围,只查高风险环节。另外,检查清单要来自真实事故复盘,而不是凭空列出来的通用条目,清单也要定期更新,新出的错误类型要及时补进去。最后要明确适用边界:创造性、开放性的任务不适合硬套检查清单,检查的重点应放在事实、格式和约束上,而不是审美和风格。
四、小结
生成与检查分离,不是多花一份调用成本,而是把错误拦截在便宜的位置。职责切分、只读检查、分歧升级、清单来自实战这几条立住,双人组才能真正比单人可靠,长流程任务的质量也才有办法兜底。这套模式尤其适合写操作多、链路长的任务,检查前置的成本远低于事后返工和线上止血的成本。
单个智能体既负责干活又负责自查,效果往往不好。模型对自己的输出有天然的确认偏向,前面推理错了,后面检查时也容易顺着错路走下去。尤其在长流程任务里,前期一个小错误会被后续步骤不断放大,等最后才发现,返工成本很高。还有一种常见情况:模型在生成时为了自圆其说,会补上并不存在的依据,自查时又把这些依据当成事实引用,错误就这样自我强化了。
二、做法
把职责拆开:生成者只负责执行,检查者只负责挑错。第一,检查者拿到生成者的中间结果和原始任务,按一份书面检查清单逐项核对,包括参数是否齐全、引用来源是否存在、关键约束有没有违反、数值有没有算错。第二,检查者只有只读权限,不能直接改结果,只能退回并写明问题,生成者按意见重做,这样责任边界才清晰。第三,分歧处理要定规则:检查者连续两次驳回,或者双方对同一问题各执一词,就升级给人工裁决,不要让两个模型无限扯皮。第四,检查粒度可以分层:高风险环节逐项查,低风险环节抽查,检查结论本身也要记录,方便事后复盘是生成错了还是检查漏了。
三、注意点
检查者不能复用生成者的同一套提示词,否则两个模型会犯同样的错,检查就成了走过场。检查的成本要算进预算,通常检查调用占总成本的两到三成比较合理,超过这个比例就要收紧检查范围,只查高风险环节。另外,检查清单要来自真实事故复盘,而不是凭空列出来的通用条目,清单也要定期更新,新出的错误类型要及时补进去。最后要明确适用边界:创造性、开放性的任务不适合硬套检查清单,检查的重点应放在事实、格式和约束上,而不是审美和风格。
四、小结
生成与检查分离,不是多花一份调用成本,而是把错误拦截在便宜的位置。职责切分、只读检查、分歧升级、清单来自实战这几条立住,双人组才能真正比单人可靠,长流程任务的质量也才有办法兜底。这套模式尤其适合写操作多、链路长的任务,检查前置的成本远低于事后返工和线上止血的成本。