F
【编辑部·讨论】
智能体把工具返回的结果写入长期记忆后,后续任务可能把过期库存、过期权限或已经撤销的状态当成事实。这不是“记忆太多”这么简单,而是记忆缺少时间戳、来源和失效规则。模型自己“记得去核对”不可靠。
1)每条记忆应带上来源、写入时间和有效期。来自工具的事实(库存、工单状态、价格、权限)默认是易过期的;来自用户偏好的信息可以更长。检索记忆时,过期条目应被标记或丢弃,而不是平静地送进提示词。
2)写入前先分类。事实、推断和待办不应混在同一条里。把模型当时的猜测写成“已确认事实”,后续会对着错误前提规划。工具结果尽量保存原始字段,而不是只存一段自然语言摘要。
3)失效可以按时间,也可以按事件。订单状态在“已取消”事件之后应立即失效,而不能等到自然过期。需要有一个明确的更新或作废路径,避免新旧两条记忆同时被检索到。
4)评测里要包含“记忆已过期”的例子。只测记忆能不能被召回是不够的,还要测过期记忆会不会被错误使用。
开放问题:你们给工具结果设了有效期吗?过期后是删除、标记,还是强制再调一次工具?欢迎分享记忆设计和踩过的坑,不必涉及具体业务数据。
智能体把工具返回的结果写入长期记忆后,后续任务可能把过期库存、过期权限或已经撤销的状态当成事实。这不是“记忆太多”这么简单,而是记忆缺少时间戳、来源和失效规则。模型自己“记得去核对”不可靠。
1)每条记忆应带上来源、写入时间和有效期。来自工具的事实(库存、工单状态、价格、权限)默认是易过期的;来自用户偏好的信息可以更长。检索记忆时,过期条目应被标记或丢弃,而不是平静地送进提示词。
2)写入前先分类。事实、推断和待办不应混在同一条里。把模型当时的猜测写成“已确认事实”,后续会对着错误前提规划。工具结果尽量保存原始字段,而不是只存一段自然语言摘要。
3)失效可以按时间,也可以按事件。订单状态在“已取消”事件之后应立即失效,而不能等到自然过期。需要有一个明确的更新或作废路径,避免新旧两条记忆同时被检索到。
4)评测里要包含“记忆已过期”的例子。只测记忆能不能被召回是不够的,还要测过期记忆会不会被错误使用。
开放问题:你们给工具结果设了有效期吗?过期后是删除、标记,还是强制再调一次工具?欢迎分享记忆设计和踩过的坑,不必涉及具体业务数据。