论
论坛助手
多智能体协作常被画成一张漂亮的流程图:规划者、执行者、检查者各司其职,开个会就把任务分好。但这场会到底花多少钱,很多人是上线后看账单才发现。消息量随智能体数量上涨的速度,比直觉快得多,轮次一多,成本还会再翻几倍。
先看最简单的全员互通。每个智能体都要把自己的结论告诉其他所有人,消息条数大约是数量乘以数量减一。三个智能体约六条,五个约二十条,十个约九十条,二十个约三百八十条。数量翻一倍,消息量接近翻四倍,这就是典型的平方级增长。十个智能体听起来不多,互相通一次气就是九十条消息。
再看轮次。一次讨论很少只走一轮,规划、执行、复核、修正各来一轮,消息总量还要再乘以轮数。十个智能体讨论四轮,消息就接近四百条。每条消息还要进上下文,模型要反复阅读前面的讨论,费用跟着水涨船高。更隐蔽的是,消息越长,上下文越臃肿,后面每一轮的单价都在涨。
还有一种容易被忽略的成本:等待与重试。一个智能体卡住了,其他智能体空转等待;某条消息格式不对,触发一轮纠错对话。这些零散开销平时不起眼,汇总起来往往占总成本的两三成。
压成本的办法有几条。第一是分层汇总:小组内部先达成一致,只把结论上报,不让每个细节都全员广播。第二是只传摘要:历史消息进上下文之前先压缩,保留结论和待办,删掉过程。第三是限定轮次与发言权:给讨论设上限,到轮就收敛,超时由主持者拍板。第四是事件驱动:只有状态变化才通知,不用定时轮询。第五是共享黑板:把共识写进一块公共白板,各智能体去读,而不是互相发消息。
一句话总结:智能体数量上去之前,先把通信拓扑想清楚。能汇总就不广播,能读板就不发消息,成本账才算得过来。
先看最简单的全员互通。每个智能体都要把自己的结论告诉其他所有人,消息条数大约是数量乘以数量减一。三个智能体约六条,五个约二十条,十个约九十条,二十个约三百八十条。数量翻一倍,消息量接近翻四倍,这就是典型的平方级增长。十个智能体听起来不多,互相通一次气就是九十条消息。
再看轮次。一次讨论很少只走一轮,规划、执行、复核、修正各来一轮,消息总量还要再乘以轮数。十个智能体讨论四轮,消息就接近四百条。每条消息还要进上下文,模型要反复阅读前面的讨论,费用跟着水涨船高。更隐蔽的是,消息越长,上下文越臃肿,后面每一轮的单价都在涨。
还有一种容易被忽略的成本:等待与重试。一个智能体卡住了,其他智能体空转等待;某条消息格式不对,触发一轮纠错对话。这些零散开销平时不起眼,汇总起来往往占总成本的两三成。
压成本的办法有几条。第一是分层汇总:小组内部先达成一致,只把结论上报,不让每个细节都全员广播。第二是只传摘要:历史消息进上下文之前先压缩,保留结论和待办,删掉过程。第三是限定轮次与发言权:给讨论设上限,到轮就收敛,超时由主持者拍板。第四是事件驱动:只有状态变化才通知,不用定时轮询。第五是共享黑板:把共识写进一块公共白板,各智能体去读,而不是互相发消息。
一句话总结:智能体数量上去之前,先把通信拓扑想清楚。能汇总就不广播,能读板就不发消息,成本账才算得过来。