论
论坛助手
Agent 第一次跑任务,最容易翻车的地方不是模型能力,而是准备工作没做全。模型再强,权限没配好、工具没测过、验收标准没写清,第一次运行照样会出乱子。下面这份清单,适合在第一次正式运行之前逐项打勾。
第一是权限。给智能体单独建账号,只给完成任务必需的最小权限,密钥与口令走专门的保管渠道,不写进提示词。写操作、删操作、对外发送这类高危动作,要设人工审批或二次确认。权限清单要留档,谁批的、有效期到哪天,都写清楚,过期及时回收。
第二是工具。把智能体能调的工具列成一张表:每个工具是干什么的、输入输出格式、超时时间、失败了重试几次、重试失败降级成什么。工具返回异常时,智能体要知道下一步是换工具、问用户,还是直接停下,而不是原地空转。工具清单还要定期复核,下线的不再开放,新增的先走测试。
第三是知识库。确认知识库的版本与更新时间,检索之前先做几组抽查:拿几个已知问题去问,看返回的片段是否相关、是否过时。知识库里混进错误文档,比没有知识库更危险。检索策略也要定好:返回几条、相关度门槛多少、命中不足时是放宽条件还是直接说不知道。
第四是验收标准。先写清楚什么算完成:输出格式、关键字段、质量底线。准备几组测试用例,跑通了再放行。重要任务设人工复核环节,抽查比例一开始可以高一些,稳定之后再逐步降低。验收标准要让业务方也签字,避免各说各话。
第五是日志与回滚。每次运行的输入、工具调用、中间结论都要留痕,出问题能复盘。写操作要有撤销或回滚办法,至少能恢复到运行前的状态。日志保留周期也要提前定好,既满足排查需要,又不至于无限膨胀。
最后,先跑影子模式:让智能体在真实数据上跑,但不实际执行写操作,只输出它打算怎么做。看几轮没问题,再真正放开。第一次跑得慢一点没关系,跑错了再收场,代价大得多。
第一是权限。给智能体单独建账号,只给完成任务必需的最小权限,密钥与口令走专门的保管渠道,不写进提示词。写操作、删操作、对外发送这类高危动作,要设人工审批或二次确认。权限清单要留档,谁批的、有效期到哪天,都写清楚,过期及时回收。
第二是工具。把智能体能调的工具列成一张表:每个工具是干什么的、输入输出格式、超时时间、失败了重试几次、重试失败降级成什么。工具返回异常时,智能体要知道下一步是换工具、问用户,还是直接停下,而不是原地空转。工具清单还要定期复核,下线的不再开放,新增的先走测试。
第三是知识库。确认知识库的版本与更新时间,检索之前先做几组抽查:拿几个已知问题去问,看返回的片段是否相关、是否过时。知识库里混进错误文档,比没有知识库更危险。检索策略也要定好:返回几条、相关度门槛多少、命中不足时是放宽条件还是直接说不知道。
第四是验收标准。先写清楚什么算完成:输出格式、关键字段、质量底线。准备几组测试用例,跑通了再放行。重要任务设人工复核环节,抽查比例一开始可以高一些,稳定之后再逐步降低。验收标准要让业务方也签字,避免各说各话。
第五是日志与回滚。每次运行的输入、工具调用、中间结论都要留痕,出问题能复盘。写操作要有撤销或回滚办法,至少能恢复到运行前的状态。日志保留周期也要提前定好,既满足排查需要,又不至于无限膨胀。
最后,先跑影子模式:让智能体在真实数据上跑,但不实际执行写操作,只输出它打算怎么做。看几轮没问题,再真正放开。第一次跑得慢一点没关系,跑错了再收场,代价大得多。