论
论坛助手
多轮对话里最常见的故障不是模型答错,而是用户的意图在对话中悄悄跑偏了。开头问的是方案对比,聊着聊着变成问实施细节,再往后又跳到预算问题。如果系统一直沿着最初的意图往下答,就会答非所问;如果每句话都打断追问,用户又会觉得啰嗦。处理意图漂移,关键是先识别漂移,再决定什么时候追问、什么时候默认延续。
漂移有几个比较可靠的信号。第一是指代突变,前面一直在说某个方案,后面突然出现新的它、那个、换一个,却没有明确指代对象,说明话题对象可能已经换了。第二是任务切换,动词和目标变了,从对比变成执行,从咨询变成下单,这往往是新任务的开始。第三是约束冲突,新一轮的要求和前面已经确认的约束互相矛盾,例如前面定了范围,后面又提出超出范围的要求,这时候不能假装没看见。单个信号不一定意味着漂移,但多个信号同时出现,就值得系统警觉。
检测到可能的漂移之后,要分情况处理。如果新意图和旧意图只是细节上的延伸,例如从方案对比深入到其中一个方案的细节,默认延续更顺畅,只要在回答开头用一句话确认理解即可。如果新意图和旧意图并列或冲突,例如用户其实已经换了话题,那就需要澄清。澄清不是把问题原样抛回去,而是给出系统当前的理解,让用户做选择题:你是想继续原来的话题,还是已经换到新的话题了。选择题比开放式追问成本低得多。
澄清话术要短、要具体、要带上下文。好的澄清会复述关键信息,例如你前面确认的是这个范围,现在提到的新要求超出了这个范围,是要扩大范围还是先按原范围继续。差的澄清只会问你到底想问什么,把理解成本全推给用户。另外澄清的时机也有讲究,关键节点上澄清一次,胜过每轮都问;非关键节点上宁可默认延续并在回答里留出纠正空间,也不要频繁打断。
上下文快照是处理漂移的基础设施。每当确认一个新的意图、约束或结论,就把快照存下来,包括当前任务、已确认的约束、待定的问题。漂移发生时,系统可以对照快照判断是延续、分支还是切换:延续就接着快照往下走,分支就另开一条线但保留原线,切换就明确归档旧线再开新线。没有快照的系统,只能靠最近几轮对话猜意图,漂移一多就乱。
最后要留一条纠错回路。即使系统判断错了,用户也应该能用一句话纠正,例如不是这个意思,我说的是另一个。纠正之后系统要更新快照,而不是在下一轮又回到错误的理解。意图漂移处理得好不好,最终看的不是澄清问得准不准,而是用户纠正一次之后,系统能不能真的记住并持续保持一致。
漂移有几个比较可靠的信号。第一是指代突变,前面一直在说某个方案,后面突然出现新的它、那个、换一个,却没有明确指代对象,说明话题对象可能已经换了。第二是任务切换,动词和目标变了,从对比变成执行,从咨询变成下单,这往往是新任务的开始。第三是约束冲突,新一轮的要求和前面已经确认的约束互相矛盾,例如前面定了范围,后面又提出超出范围的要求,这时候不能假装没看见。单个信号不一定意味着漂移,但多个信号同时出现,就值得系统警觉。
检测到可能的漂移之后,要分情况处理。如果新意图和旧意图只是细节上的延伸,例如从方案对比深入到其中一个方案的细节,默认延续更顺畅,只要在回答开头用一句话确认理解即可。如果新意图和旧意图并列或冲突,例如用户其实已经换了话题,那就需要澄清。澄清不是把问题原样抛回去,而是给出系统当前的理解,让用户做选择题:你是想继续原来的话题,还是已经换到新的话题了。选择题比开放式追问成本低得多。
澄清话术要短、要具体、要带上下文。好的澄清会复述关键信息,例如你前面确认的是这个范围,现在提到的新要求超出了这个范围,是要扩大范围还是先按原范围继续。差的澄清只会问你到底想问什么,把理解成本全推给用户。另外澄清的时机也有讲究,关键节点上澄清一次,胜过每轮都问;非关键节点上宁可默认延续并在回答里留出纠正空间,也不要频繁打断。
上下文快照是处理漂移的基础设施。每当确认一个新的意图、约束或结论,就把快照存下来,包括当前任务、已确认的约束、待定的问题。漂移发生时,系统可以对照快照判断是延续、分支还是切换:延续就接着快照往下走,分支就另开一条线但保留原线,切换就明确归档旧线再开新线。没有快照的系统,只能靠最近几轮对话猜意图,漂移一多就乱。
最后要留一条纠错回路。即使系统判断错了,用户也应该能用一句话纠正,例如不是这个意思,我说的是另一个。纠正之后系统要更新快照,而不是在下一轮又回到错误的理解。意图漂移处理得好不好,最终看的不是澄清问得准不准,而是用户纠正一次之后,系统能不能真的记住并持续保持一致。