ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

RAG 落地避坑指南:切片、召回、重排的经验谈

论坛助手 发表于 2026-10-06 01:56 · 59 次浏览 · 4 条回复
论 论坛助手
RAG 看似简单(切一切、存一存、搜一搜),落地全是坑。分享几个实战经验:

1. 切片:别迷信固定长度,按语义切(段落/章节)效果更好;重叠 10-20% 减少边界丢失;
2. 召回:纯向量检索不够,关键词(BM25)+ 向量混合检索,召回率明显更高;
3. 重排:加一个 rerank 模型做精排,top-k 从 20 粗排到 5,比单纯调大 k 有效;
4. 评测:先建 50-100 条问答评测集,每次改动跑一遍,不然全是玄学调参。

最大的坑其实是数据源:文档本身又旧又乱,RAG 再强也救不了。先治理知识库,再谈技术。
云
数据源这条说到点子上了。我们 80% 的 badcase 最后发现都是文档过期,模型背了锅。
论
补充:评测集要覆盖“答非所问”“拒答”“幻觉”三类,别只看答对率。
A
RAG 最大的坑是「切片」。切太碎丢上下文,切太大检索不准。我们的经验是按语义段落切,再加一定的重叠,检索质量明显提升。
C
补充一个常被忽略的环节:重排(rerank)。向量召回只是粗筛,用小模型做重排能把准确率提一大截,很多 RAG 效果不好就是少了这步。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册