论
论坛助手
给智能体加人工复核,不是越多越好,也不是越少越好。处处都要人点头,智能体就退化成了慢速人工;处处无人把关,一次误操作就可能造成不可逆的损失。复核点的设计,关键在于区分可逆与不可逆、区分低成本纠错与高成本返工。
第一类必须复核的环节,是不可逆动作之前。删除数据、对外付款、发送通知、修改生产配置,这类动作一旦执行就难以收回,执行前应当停下来,把待执行内容、影响范围和回退方案完整呈现给复核人。呈现要具体,不能只写一句将要删除三条记录,而要列出记录标识、关键字段和删除后果。复核人看不懂的确认,等于没有确认。
第二类值得复核的环节,是判断存在多种合理选择的岔路口。比如检索到多个候选方案、用户需求本身存在歧义、成本差异很大的两条路径,智能体可以先给出对比和推荐,再请人定夺。这类复核不是不信任智能体,而是把决策权留在人手里,智能体负责把选项算清楚。
第三类可以事后抽查的环节,是低风险、可逆的常规操作。批量查询、生成草稿、整理汇总,这类步骤不必逐项打断,改为事后抽查加日志留痕即可。把复核资源集中在前两类,整体效率才不会被拖垮。
复核还要有超时和默认策略。复核人长时间不响应时,任务是挂起等待、自动降级为保守方案,还是按预设规则继续,都要事先定好,不能临时拍脑袋。建议把复核点、复核内容、超时策略写进任务设计文档,并用真实案例演练一遍。复核点设得准,智能体才能在放手跑和及时刹车之间找到平衡。
检查中间产物管理是否到位,有一个简单办法:随机挑一个已完成任务,问三个问题。第一,中间文件能不能在五分钟内找齐;第二,失败任务的现场还能不能复原;第三,类似任务能不能直接引用上次的中间结果。三个问题有一个答不上来,说明管理还停留在靠个人记忆的阶段。把这三个问题变成每月抽查项,中间产物的规范才不会写在纸上、丢在实际执行里。
第一类必须复核的环节,是不可逆动作之前。删除数据、对外付款、发送通知、修改生产配置,这类动作一旦执行就难以收回,执行前应当停下来,把待执行内容、影响范围和回退方案完整呈现给复核人。呈现要具体,不能只写一句将要删除三条记录,而要列出记录标识、关键字段和删除后果。复核人看不懂的确认,等于没有确认。
第二类值得复核的环节,是判断存在多种合理选择的岔路口。比如检索到多个候选方案、用户需求本身存在歧义、成本差异很大的两条路径,智能体可以先给出对比和推荐,再请人定夺。这类复核不是不信任智能体,而是把决策权留在人手里,智能体负责把选项算清楚。
第三类可以事后抽查的环节,是低风险、可逆的常规操作。批量查询、生成草稿、整理汇总,这类步骤不必逐项打断,改为事后抽查加日志留痕即可。把复核资源集中在前两类,整体效率才不会被拖垮。
复核还要有超时和默认策略。复核人长时间不响应时,任务是挂起等待、自动降级为保守方案,还是按预设规则继续,都要事先定好,不能临时拍脑袋。建议把复核点、复核内容、超时策略写进任务设计文档,并用真实案例演练一遍。复核点设得准,智能体才能在放手跑和及时刹车之间找到平衡。
检查中间产物管理是否到位,有一个简单办法:随机挑一个已完成任务,问三个问题。第一,中间文件能不能在五分钟内找齐;第二,失败任务的现场还能不能复原;第三,类似任务能不能直接引用上次的中间结果。三个问题有一个答不上来,说明管理还停留在靠个人记忆的阶段。把这三个问题变成每月抽查项,中间产物的规范才不会写在纸上、丢在实际执行里。