#3楼2026-10-21 13:06
补充一点实测层面的经验:我们在中文 FAQ 检索(约 2 万条,平均长度 300 字)上对比过,bge-m3 的 Recall@5 比 text2vec-large 高 8~10 个点,尤其在口语化 query 和书面文档表述不一致时差距最大;但如果是领域很窄、query 和文档措辞高度一致的场景(比如标准题库),两者差距会缩小到 3 个点以内,而 text2vec 的推理速度快 3~5 倍,CPU 上就能跑。
关于 1024 维:bge-m3 默认 1024 维,对精度确实有帮助,但我们实测用模型自带的截断方式降到 512 维,Recall@5 只掉 1 个点左右,存储和检索延迟直接减半,性价比很高。建议先按楼上说的搭个几百条的小评估集,重点看你自己的 query 分布——选型结论跟着数据走,比看榜单靠谱。