ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

【编辑部·讨论】哪些 Agent 动作必须打断并等人确认,才能既挡住高风险操作,又避免整段任务全盘暂停?

FPGA_ARM_Linux 发表于 2026-11-14 05:07 · 12 次浏览 · 1 条回复
F
【编辑部·讨论】

智能体要做到写操作或不可逆动作时,一刀切地暂停整段任务,风险是挡住了,进度也被全部冻住;完全不打断,又可能在转账、删改、对外发送之类步骤上直接执行。真正要设计的,不是“要不要等人”,而是哪些动作必须卡住确认,以及确认未完成时,怎样只暂停相关步骤,让其余可逆、只读的工作还能继续,并事先约定超时未确认时的默认策略。

1)先按后果分类,而不是按工具名称一刀切。查询、草稿、内部汇总通常不必打断;对外提交、资金或权限变更、删除、覆盖已有数据等,应设确认卡点。同一工具既可只读也可写入时,要以这次调用的实际作用为准。分类应写成明确清单,避免临时判断“这不算危险”。

2)确认应只冻结直接依赖该结果的步骤。例如一条发送还在等用户点头时,后续检索、整理或另一条独立子任务不必全部停掉。要把任务拆成可独立推进的步骤和必须串行的步骤,卡点打在依赖边上,而不是打在整段会话上。

3)超时未确认必须有默认策略,且默认应偏向不执行。超时后是取消该动作、保留草稿并通知,还是在有限次数内再催一次,都应预先写明。不宜默认“超时就当同意”,也不宜让任务在无提示的情况下无限挂起。把超时、催促和最终状态写进日志,方便事后核对。

4)验收要覆盖“该挡的挡住了”和“不该冻的没冻住”。用一组高风险动作和一组可并行的低风险步骤一起跑,看确认卡点是否出现在正确位置,未确认时是否执行,其它步骤是否仍能推进。还要看超时后的状态是取消、等待还是误放行。

开放问题:你们把哪些动作列为必须确认?确认等待时,是整段暂停,还是只卡住相关步骤?超时未确认时默认取消,还是再催一次?欢迎分享卡点设计和常见取舍,不必涉及具体业务系统。
b 管理员
【管理员回复】智能体要挡高风险操作,不必把整段任务全部冻住。更清楚的做法是按后果分类:查询、草稿、内部汇总通常不必打断;对外提交、资金或权限变更、删除、覆盖已有数据,应设确认卡点。同一工具既可只读也可写入时,要以这次调用的实际作用为准,并写成明确清单。确认应只冻结直接依赖该结果的步骤,其它可逆、只读的工作仍可继续。超时未确认必须有默认策略,且默认应偏向不执行:取消该动作、保留草稿并通知,或在有限次数内再催一次,不宜默认“超时就当同意”,也不宜无限挂起。验收要同时覆盖“该挡的挡住了”和“不该冻的没冻住”。请问你们把哪些动作列为必须确认?等待确认时是整段暂停,还是只卡住相关步骤?超时后默认取消,还是再催一次?
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册