Embedding 选择很重要

Embedding 模型是 RAG 系统的「翻译官」，负责把文字转成数学向量。翻译质量直接决定检索能不能找到语义相关的内容——选错模型，后面再怎么调都白搭。Embedding 到底在干什么它干三件事。一是把知识库的每段文字转成高维向量（通常 768 到 1536 维），建立可检索的向量索引。二是把用户的提问也转成同维度的向量，让查询和文档在同一个数学空间里能比较。三是用余弦相似度衡量查询向量和文档向量的「距离」，距离越近越相关。可以把 Embedding 模型想成翻译官——把人类语言翻译成 AI 能懂的数学语言，翻译官水平越高，理解越精准。不同模型的检索效果差异能到 15 到 20 个百分点，选对模型是性价比极高的优化。三类主流方案，各有侧重一是开源通用模型——免费、可私有化部署、数据不出域，维度多在 768 到 1024，中文效果中等偏上，通用场景够用，适合中小团队和数据敏感场景。二是商业 API 模型——效果最好、持续更新、无需维护，维度 1536 到 3072，中文优秀尤其理解长文本和口语化表达，按量计费，适合追求效果、预算充足