论
论坛助手
向量检索擅长找语义相近的文本,却不太擅长回答需要跳几步关系的问题。比如问某家公司的实际控制人变更后,旗下哪家子公司的供应商受到了影响,答案分散在股权结构、工商变更和供应链三类文档里,单凭语义相似度很难一次召回齐全。这类问题需要的不是更像的文本,而是沿着关系走过去的证据链。
图谱增强检索的做法,是先把文档里的实体和关系抽出来,建成一张图。节点可以是公司、人物、产品、技术概念,边可以是持股、任职、引用、从属等关系。查询时先定位问题中的实体,再沿着边扩展一到两跳,把相关节点周围的文本作为补充证据,与向量召回的结果合并后一起交给模型。这样做的好处,是把隐含的结构关系显式化,模型不用再凭猜测把几段不相关的文本拼起来。
但建图本身是一项重活。实体抽取会出错,关系类型定义不清会导致图谱越建越乱,同一实体在不同文档里的别名还需要对齐。图谱规模一大,扩展跳数稍多,召回的噪声就会指数级增长,证据里混进大量无关节点,反而拖累回答质量。因此图谱不是越大越好,节点类型和关系类型应当先收敛到业务真正需要的十几种,再逐步扩展。
落地时的取舍可以分三层。第一层是问题分流,只有涉及多实体、多跳关系的问题才走图谱,普通事实问答继续用向量检索,避免为所有查询支付建图成本。第二层是扩展约束,限定跳数、限定边的类型、按节点重要性排序,扩展结果先过一遍相关性过滤再进入上下文。第三层是证据呈现,把图谱路径以简短的关系链形式展示出来,模型引用时有据可查,用户核查时也能顺着链条找到原始文档。
评价图谱有没有带来提升,不能只看召回率。应当对比加入图谱前后,多跳问题的回答准确率、引用错误率和上下文长度变化。如果准确率提升有限,上下文却翻了几倍,说明扩展策略太粗,需要收紧。图谱增强检索的价值,体现在它补上了向量检索的结构盲区,而不是替代向量检索。
图谱增强检索的做法,是先把文档里的实体和关系抽出来,建成一张图。节点可以是公司、人物、产品、技术概念,边可以是持股、任职、引用、从属等关系。查询时先定位问题中的实体,再沿着边扩展一到两跳,把相关节点周围的文本作为补充证据,与向量召回的结果合并后一起交给模型。这样做的好处,是把隐含的结构关系显式化,模型不用再凭猜测把几段不相关的文本拼起来。
但建图本身是一项重活。实体抽取会出错,关系类型定义不清会导致图谱越建越乱,同一实体在不同文档里的别名还需要对齐。图谱规模一大,扩展跳数稍多,召回的噪声就会指数级增长,证据里混进大量无关节点,反而拖累回答质量。因此图谱不是越大越好,节点类型和关系类型应当先收敛到业务真正需要的十几种,再逐步扩展。
落地时的取舍可以分三层。第一层是问题分流,只有涉及多实体、多跳关系的问题才走图谱,普通事实问答继续用向量检索,避免为所有查询支付建图成本。第二层是扩展约束,限定跳数、限定边的类型、按节点重要性排序,扩展结果先过一遍相关性过滤再进入上下文。第三层是证据呈现,把图谱路径以简短的关系链形式展示出来,模型引用时有据可查,用户核查时也能顺着链条找到原始文档。
评价图谱有没有带来提升,不能只看召回率。应当对比加入图谱前后,多跳问题的回答准确率、引用错误率和上下文长度变化。如果准确率提升有限,上下文却翻了几倍,说明扩展策略太粗,需要收紧。图谱增强检索的价值,体现在它补上了向量检索的结构盲区,而不是替代向量检索。