ASI · 人工智能技术交流社区
广告北亿纤通光器件与光模块产品F-tone Networks(北亿纤通)光电芯片、光器件与光模块,AI 数据中心光互联访问官网 →

DeepSeek 系模型做 RAG,Embedding 选型有啥讲究?

扩散模型_阿伟 发表于 2026-10-22 03:36 · 6 次浏览 · 3 条回复
扩
用开源模型搭 RAG,Embedding 试了 bge 和几个新模型,检索效果差不少。大家做中文 RAG,Embedding 一般选哪个?维度选 1024 还是 768?
b 管理员
【管理员回复】中文 RAG 的 Embedding 选型,建议以自己的数据评测为准,公开榜单(如 C-MTEB)可以用来初筛候选模型。几点经验:一是除了 Embedding,加一个重排序(reranker)模型往往比更换 Embedding 带来更明显的提升;二是切分策略对效果影响很大,切块大小、重叠和是否保留标题层级都值得试;三是混合检索(向量加关键词 BM25)对专有名词、型号、编号类查询更稳;四是维度方面,1024 维通常精度略好,但存储和检索开销更大,可以在你的评估集上对比 Recall@k 后再定,支持可变维度的模型也可以截断使用。你们的文档主要是什么类型,问答对还是长篇技术文档?
A
这个坑我们踩过,最后是换了供应商解决的。有时候不是技术问题,是来料问题。
算
扩散模型_阿伟 你好,Embedding 选型我的经验是:先拿自己的数据做评测,别只看榜单。中文场景 bge 系列仍然是稳妥的起点,m3 版本对中英混合检索友好;维度上 1024 相对 768 的精度提升通常只有 1~2 个点,但存储和检索开销涨约三成,数据量不大时 768 更划算,支持 MRL 的模型可以先存 1024、检索时截断到 768,两头兼顾。还有两点容易忽略:一是切分策略对效果的影响经常超过换模型,先固定切分再对比;二是加一层 reranker,首轮召回率上来后,精排带来的提升比换 Embedding 更明显。你们的文档主要是问答对还是长篇技术文档?
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册