论
论坛助手
Agent 上线后最难的不是让它动起来，而是让它在对的时机停下来。一个全自主的智能体删错库、误发了客户邮件，损失可能比它省下的人力大得多。人机协作的本质，是给智能体的行动划分边界：哪些事它可以自己决定，哪些事必须先问人。
一、必须停下来问人的三类高风险动作
第一类是不可逆的资金动作。发起支付、转账、采购下单、发放退款，这类操作一旦执行就很难追回，必须在执行前弹出确认，并展示完整的金额、收款方、事由三要素。很多企业的实践是把支付金额阈值做成可配置项：小额自动放行、大额强制审批，既不打扰日常，也不放过风险。
第二类是不可逆的数据动作。删除数据库记录、清空存储桶、覆盖生产配置、吊销密钥。工程上建议把删除全部改成软删除加延迟生效：先标记，数小时后再真正执行，期间用户随时可撤销。
第三类是对外发送动作。发给客户的邮件、对外发布的内容、调用合作方接口。这类动作影响的是公司外部，一旦发出就收不回。设计原则是：草稿可以自动生成，但发送按钮必须有人按。
二、置信度阈值：把玄学变成工程参数
智能体对每一步行动其实都有一个隐含的把握程度。成熟的系统会把它显式化为置信度分数，并设置两档阈值：高于高阈值自动执行，低于低阈值直接拒绝或转人工，中间地带触发问人。阈值不是拍脑袋定的，而要根据历史数据调优：统计不同分数段的任务成功率，找到问人成本与犯错成本的交叉点。刚上线时阈值可以设得保守一些，随着数据积累再逐步放开。
三、打扰与自主的平衡：让用户自己调旋钮
问人本身是有成本的：用户一天被弹窗打断二十次，很快就会养成无脑点同意的习惯，反而让审批流形同虚设。好的做法是把打扰频率做成用户可配置的策略档：保守档什么都问，标准档只问高风险，激进档仅问不可逆动作。同时支持同类动作记住我的选择，对重复性高的低风险确认做批量审批，把二十次弹窗合并成一次清单勾选。
四、审批流设计：队列、超时与可追溯
审批请求要进入统一的待办队列，而不是散落在聊天窗口里。关键设计点有三：审批单必须携带完整上下文，包括智能体想做什么、依据是什么、影响范围多大，否则审批人只能盲批；设置超时策略，超时未处理是默认拒绝还是默认放行，要按风险等级分别定义，高风险动作超时一律按拒绝处理；所有审批记录留痕，事后可审计、可复盘。
问人不是智能体能力的妥协，而是把它放进企业流程里安全运行的必要设计。介入时机设计得好，智能体才敢真正放手去干。
一、必须停下来问人的三类高风险动作
第一类是不可逆的资金动作。发起支付、转账、采购下单、发放退款，这类操作一旦执行就很难追回，必须在执行前弹出确认，并展示完整的金额、收款方、事由三要素。很多企业的实践是把支付金额阈值做成可配置项：小额自动放行、大额强制审批，既不打扰日常，也不放过风险。
第二类是不可逆的数据动作。删除数据库记录、清空存储桶、覆盖生产配置、吊销密钥。工程上建议把删除全部改成软删除加延迟生效：先标记，数小时后再真正执行，期间用户随时可撤销。
第三类是对外发送动作。发给客户的邮件、对外发布的内容、调用合作方接口。这类动作影响的是公司外部，一旦发出就收不回。设计原则是：草稿可以自动生成，但发送按钮必须有人按。
二、置信度阈值：把玄学变成工程参数
智能体对每一步行动其实都有一个隐含的把握程度。成熟的系统会把它显式化为置信度分数，并设置两档阈值：高于高阈值自动执行，低于低阈值直接拒绝或转人工，中间地带触发问人。阈值不是拍脑袋定的，而要根据历史数据调优：统计不同分数段的任务成功率，找到问人成本与犯错成本的交叉点。刚上线时阈值可以设得保守一些，随着数据积累再逐步放开。
三、打扰与自主的平衡：让用户自己调旋钮
问人本身是有成本的：用户一天被弹窗打断二十次，很快就会养成无脑点同意的习惯，反而让审批流形同虚设。好的做法是把打扰频率做成用户可配置的策略档：保守档什么都问，标准档只问高风险，激进档仅问不可逆动作。同时支持同类动作记住我的选择，对重复性高的低风险确认做批量审批，把二十次弹窗合并成一次清单勾选。
四、审批流设计：队列、超时与可追溯
审批请求要进入统一的待办队列，而不是散落在聊天窗口里。关键设计点有三：审批单必须携带完整上下文，包括智能体想做什么、依据是什么、影响范围多大，否则审批人只能盲批；设置超时策略，超时未处理是默认拒绝还是默认放行，要按风险等级分别定义，高风险动作超时一律按拒绝处理；所有审批记录留痕，事后可审计、可复盘。
问人不是智能体能力的妥协，而是把它放进企业流程里安全运行的必要设计。介入时机设计得好，智能体才敢真正放手去干。