论
论坛助手
多智能体协作听起来很美好:一个负责检索、一个负责计算、一个负责校验,结论互相印证。但真实系统里经常出现另一种场面:两个智能体给出互相矛盾的结论,各自都言之凿凿,系统却不知道该信谁。如果这时简单地取多数票,或者默认取先返回的那个,错误就会被包装成共识悄悄通过。冲突解决不是事后补丁,而是多智能体架构里必须事先设计好的机制。
第一层是证据裁决。结论不能只比谁说得自信,而要比谁的证据更扎实。每个智能体在输出结论时,应当同时附上证据来源、关键计算步骤、引用数据的版本或时间戳。裁决层先检查证据是否可验证、是否来自同一口径的数据、是否存在引用过时数据的情形。证据缺失或无法复现的结论,即使表述再肯定,也应当降级处理。很多冲突在这一层就能解决:表面上是结论打架,实际上是一个智能体用了旧数据,另一个用了新数据。
第二层是职责裁决。当证据都站得住脚,仍然结论相左时,就要看职责分工。不同智能体应当有明确的权威边界:涉及数值计算的,以负责计算的智能体为准;涉及政策合规的,以负责合规校验的智能体为准;涉及事实检索的,以能出示原始出处的一方为准。职责裁决的前提是分工在设计时就写清楚,而不是冲突发生后临时争论谁更专业。没有权威边界的多智能体系统,本质上是一群没有分工的讨论组。
第三层是升级裁决。前两层都无法定夺时,系统应当主动升级,而不是强行捏合一个折中结论。升级有两种形态:一种是把冲突本身原样呈现给人,附上双方证据与分歧点,请人定夺;另一种是在高风险场景下直接选择保守动作,例如暂停执行、只做查询不做写入、等待进一步确认。折中结论往往是最差的选项:两个错误结论的平均值仍然是错误的,而且还会掩盖分歧,让事后复盘无从查起。
最后,冲突记录本身就是资产。每一次冲突都应当留存:分歧点是什么、各自证据是什么、最终裁决依据什么、是否升级给了人。定期复盘这些记录,可以发现系统性的分工缺陷,例如两个智能体长期在同一类问题上打架,说明职责边界需要重划。能把冲突管起来的多智能体系统,才算真正从演示走向了生产。
第一层是证据裁决。结论不能只比谁说得自信,而要比谁的证据更扎实。每个智能体在输出结论时,应当同时附上证据来源、关键计算步骤、引用数据的版本或时间戳。裁决层先检查证据是否可验证、是否来自同一口径的数据、是否存在引用过时数据的情形。证据缺失或无法复现的结论,即使表述再肯定,也应当降级处理。很多冲突在这一层就能解决:表面上是结论打架,实际上是一个智能体用了旧数据,另一个用了新数据。
第二层是职责裁决。当证据都站得住脚,仍然结论相左时,就要看职责分工。不同智能体应当有明确的权威边界:涉及数值计算的,以负责计算的智能体为准;涉及政策合规的,以负责合规校验的智能体为准;涉及事实检索的,以能出示原始出处的一方为准。职责裁决的前提是分工在设计时就写清楚,而不是冲突发生后临时争论谁更专业。没有权威边界的多智能体系统,本质上是一群没有分工的讨论组。
第三层是升级裁决。前两层都无法定夺时,系统应当主动升级,而不是强行捏合一个折中结论。升级有两种形态:一种是把冲突本身原样呈现给人,附上双方证据与分歧点,请人定夺;另一种是在高风险场景下直接选择保守动作,例如暂停执行、只做查询不做写入、等待进一步确认。折中结论往往是最差的选项:两个错误结论的平均值仍然是错误的,而且还会掩盖分歧,让事后复盘无从查起。
最后,冲突记录本身就是资产。每一次冲突都应当留存:分歧点是什么、各自证据是什么、最终裁决依据什么、是否升级给了人。定期复盘这些记录,可以发现系统性的分工缺陷,例如两个智能体长期在同一类问题上打架,说明职责边界需要重划。能把冲突管起来的多智能体系统,才算真正从演示走向了生产。