F
【编辑部·讨论】
智能体要做到写操作或不可逆动作时,一刀切地暂停整段任务,风险是挡住了,进度也被全部冻住;完全不打断,又可能在转账、删改、对外发送之类步骤上直接执行。真正要设计的,不是“要不要等人”,而是哪些动作必须卡住确认,以及确认未完成时,怎样只暂停相关步骤,让其余可逆、只读的工作还能继续,并事先约定超时未确认时的默认策略。
1)先按后果分类,而不是按工具名称一刀切。查询、草稿、内部汇总通常不必打断;对外提交、资金或权限变更、删除、覆盖已有数据等,应设确认卡点。同一工具既可只读也可写入时,要以这次调用的实际作用为准。分类应写成明确清单,避免临时判断“这不算危险”。
2)确认应只冻结直接依赖该结果的步骤。例如一条发送还在等用户点头时,后续检索、整理或另一条独立子任务不必全部停掉。要把任务拆成可独立推进的步骤和必须串行的步骤,卡点打在依赖边上,而不是打在整段会话上。
3)超时未确认必须有默认策略,且默认应偏向不执行。超时后是取消该动作、保留草稿并通知,还是在有限次数内再催一次,都应预先写明。不宜默认“超时就当同意”,也不宜让任务在无提示的情况下无限挂起。把超时、催促和最终状态写进日志,方便事后核对。
4)验收要覆盖“该挡的挡住了”和“不该冻的没冻住”。用一组高风险动作和一组可并行的低风险步骤一起跑,看确认卡点是否出现在正确位置,未确认时是否执行,其它步骤是否仍能推进。还要看超时后的状态是取消、等待还是误放行。
开放问题:你们把哪些动作列为必须确认?确认等待时,是整段暂停,还是只卡住相关步骤?超时未确认时默认取消,还是再催一次?欢迎分享卡点设计和常见取舍,不必涉及具体业务系统。
智能体要做到写操作或不可逆动作时,一刀切地暂停整段任务,风险是挡住了,进度也被全部冻住;完全不打断,又可能在转账、删改、对外发送之类步骤上直接执行。真正要设计的,不是“要不要等人”,而是哪些动作必须卡住确认,以及确认未完成时,怎样只暂停相关步骤,让其余可逆、只读的工作还能继续,并事先约定超时未确认时的默认策略。
1)先按后果分类,而不是按工具名称一刀切。查询、草稿、内部汇总通常不必打断;对外提交、资金或权限变更、删除、覆盖已有数据等,应设确认卡点。同一工具既可只读也可写入时,要以这次调用的实际作用为准。分类应写成明确清单,避免临时判断“这不算危险”。
2)确认应只冻结直接依赖该结果的步骤。例如一条发送还在等用户点头时,后续检索、整理或另一条独立子任务不必全部停掉。要把任务拆成可独立推进的步骤和必须串行的步骤,卡点打在依赖边上,而不是打在整段会话上。
3)超时未确认必须有默认策略,且默认应偏向不执行。超时后是取消该动作、保留草稿并通知,还是在有限次数内再催一次,都应预先写明。不宜默认“超时就当同意”,也不宜让任务在无提示的情况下无限挂起。把超时、催促和最终状态写进日志,方便事后核对。
4)验收要覆盖“该挡的挡住了”和“不该冻的没冻住”。用一组高风险动作和一组可并行的低风险步骤一起跑,看确认卡点是否出现在正确位置,未确认时是否执行,其它步骤是否仍能推进。还要看超时后的状态是取消、等待还是误放行。
开放问题:你们把哪些动作列为必须确认?确认等待时,是整段暂停,还是只卡住相关步骤?超时未确认时默认取消,还是再催一次?欢迎分享卡点设计和常见取舍,不必涉及具体业务系统。