本文系统梳理了22道RAG检索增强生成核心面试题覆盖基础概念、Embedding选型、向量数据库、检索优化、Agentic RAG、幻觉处理等关键知识点。每题均提供详细参考答案与延伸追问旨在帮助读者深入理解RAG技术栈掌握其原理与实践应用为AI领域面试做好充分准备。万字详解面试题库RAG篇万众期待的面试题库系列今天正式上线啦即日起持续更新 AI 面试题库系列内容。拒绝碎片化拼凑只输出体系化万字长文干货。建议先收藏高效备战面试。RAG检索增强生成是目前大模型落地应用的主流技术方案也是AI面试中的高频考点。本文整理了22道RAG核心面试题涵盖基础概念、Embedding选型、向量数据库、检索优化、Agentic RAG、幻觉处理等核心知识点每道题都配有详细参考答案和延伸追问提示帮助你系统掌握RAG技术栈。题目一什么是RAG它解决了什么问题参考答案RAG是Retrieval-Augmented Generation的缩写中文叫检索增强生成。它解决的是大模型知识局限和幻觉问题。大模型的知识来自训练数据有截止日期无法获取最新信息。同时模型会一本正经地胡说八道生成看似合理但实际错误的内容。RAG的思路是在生成答案之前先从外部知识库中检索相关信息把检索到的内容作为上下文传给模型让模型基于这些事实来生成答案。这样既扩展了模型的知识边界又提高了答案的准确性和可溯源性。RAG是目前大模型落地应用的主流方案特别适合企业知识库问答、客服、文档分析等场景。延伸追问面试官可能会问RAG和微调的区别。回答要点是RAG不需要训练模型成本低、更新快适合知识频繁变动的场景。微调需要重新训练成本高但模型本身能力会提升适合固定领域的深度优化。题目二RAG的基本流程是怎样的参考答案RAG流程分为索引阶段和查询阶段。索引阶段把文档切分成适当大小的片段通过Embedding模型把片段转换成向量把向量存储到向量数据库中同时保存原始文本作为元数据查询阶段把用户问题转换成向量在向量数据库中做相似度搜索召回最相关的几个文档片段把用户问题和检索到的片段一起拼成Prompt传给大模型让模型生成答案整个流程的关键在于检索的准确率和召回率如果检索不到相关内容或者检索到不相关的内容都会影响最终答案质量。延伸追问可能会问索引阶段文档切分的策略。回答要提到按固定长度切分、按语义切分、按段落切分等方式以及切分大小对检索效果的影响通常几百个Token比较合适。题目三Embedding模型选型要考虑哪些因素参考答案Embedding模型选型要考虑四个因素1. 语言支持- 中文场景要用中文模型比如BGE、M3E、Text2Vec英文场景选择更多比如OpenAI的text-embedding-ada-002、sentence-transformers系列。2. 向量维度- 维度越高表达能力越强但存储和计算成本也越高常见有384维、768维、1024维、1536维等。3. 上下文长度- 模型能处理的最大文本长度要覆盖文档片段的大小常见有512、1024、2048、8192等。4. 性能指标- 关注在标准评测集上的MRR、NDCG、RecallK等指标。实际选型要在效果和成本之间权衡一般先用开源模型验证效果效果不达标再考虑商用API。延伸追问可能会问如何评估Embedding模型的效果。回答要提到可以用公开评测集比如C-MTEB、MTEB也可以用自己的业务数据构建测试集计算检索的准确率和召回率。题目四向量数据库有哪些选择各有什么特点参考答案向量数据库选型要考虑规模、性能、成本等因素Faiss- Facebook开源的向量检索库适合小规模本地部署支持多种索引算法但不支持分布式和持久化。Milvus- 专门的向量数据库支持分布式部署、多种索引类型、混合查询适合大规模生产环境。Pinecone- 托管服务开箱即用但成本较高适合快速验证。Weaviate- 支持向量搜索和语义搜索有GraphQL接口功能丰富但学习成本较高。pgvector- PostgreSQL的向量扩展适合已有PG基础设施的场景可以复用现有的运维能力。Elasticsearch- 也支持向量搜索适合需要同时做关键词搜索和向量搜索的场景。选型要根据数据规模、查询QPS、团队技术栈综合考虑。延伸追问可能会问HNSW和IVF索引的区别。回答要点是HNSW基于图结构构建慢查询快适合静态数据集。IVF基于倒排文件构建快查询慢一些适合动态更新的场景。题目五如何提高RAG的检索准确率参考答案提高检索准确率可以从查询优化、索引优化、重排序三个层面入手查询优化查询扩展- 用LLM把用户问题改写成多个同义表达增加命中概率查询分解- 把复杂问题拆成多个子问题分别检索HyDE技术- 用LLM生成假设答案再检索相似文档索引优化文档切分策略优化- 按语义边界切分而不是固定长度元数据增强- 给文档打上标签、分类、时间等元数据支持过滤检索摘要索引- 存储文档摘要用于粗排原始文本用于精排重排序用更精确的模型对召回结果二次排序比如用Cross-Encoder计算问题和文档的相关性分数或者用LLM判断文档是否包含答案。多种技术组合使用可以显著提升检索效果。延伸追问可能会问HyDE的原理。回答要点是用LLM先根据问题生成一个假设的答案然后用这个答案去检索相关文档解决用户问题和文档表述不一致的问题。题目六RAG中如何处理多轮对话参考答案多轮对话中用户的问题往往依赖上下文单独检索当前问题可能找不到相关信息。解决方案有几种历史拼接- 把多轮对话历史拼在一起作为查询但会引入噪声且可能超出长度限制。查询重写- 用LLM把当前问题结合历史改写成独立完整的问题然后再检索。历史摘要- 维护一个对话摘要作为上下文既保留关键信息又控制长度。独立检索- 分别检索历史问题和当前问题的相关文档合并去重后传给模型。实际应用中查询重写效果较好可以用专门的模型或者Prompt工程实现。要注意的是改写本身也有成本需要在效果和开销之间权衡。延伸追问可能会问对话历史太长怎么处理。回答可以提到滑动窗口保留最近N轮或者定期用LLM生成摘要压缩历史。题目七什么是检索结果的上下文压缩参考答案上下文压缩是解决检索结果过长导致超出模型上下文限制或者干扰模型注意力的问题。直接把所有检索到的文档片段拼进Prompt可能太长而且包含很多无关信息。压缩方法Map-Reduce- 把长文档分段处理每段分别与问题做相关性判断只保留相关部分。Refine- 迭代精炼先用部分文档生成初步答案再逐步引入其他文档完善答案。相关性过滤- 用轻量级模型计算每个片段与问题的相关性分数只保留高分片段。LLM压缩- 用模型提取关键信息生成摘要。实际应用中通常组合使用先用轻量级方法粗筛再用LLM精筛既保证效果又控制成本。延伸追问可能会问Map-Reduce和Refine的区别。回答要点是Map-Reduce并行处理各段然后汇总速度快但可能丢失跨段信息。Refine串行处理逐步完善能利用上下文但速度较慢。题目八RAG系统如何评估效果参考答案RAG系统评估要分别评估检索和生成两个阶段。检索阶段评估指标RecallK- 前K个结果中相关文档的比例MRR- 第一个相关文档的排名倒数NDCG- 考虑排序位置的加权指标生成阶段评估指标答案相关性- 答案是否切题答案忠实度- 答案是否基于检索内容而不是胡编答案完整性- 是否覆盖了问题的所有方面评估方法手工标注构建测试集用LLM作为评判员自动打分端到端的人工评估实际落地要建立持续评估机制定期抽样检查效果收集用户反馈形成数据闭环不断优化。延伸追问可能会问如何构建评估数据集。回答要点是收集真实用户问题人工标注正确答案和相关文档确保覆盖各种类型的问题和难度。题目九RAG和知识图谱如何结合参考答案RAG和知识图谱结合可以互补优势。RAG擅长处理非结构化文本知识图谱擅长处理结构化关系。结合方式图谱增强检索- 先用知识图谱做实体链接和关系推理扩展查询语义再用RAG检索相关文档。结构化RAG- 把知识图谱作为检索源之一直接检索图谱中的三元组作为上下文。混合推理- 让模型同时参考文本片段和知识图谱结合两者生成答案。比如回答公司相关问题可以从图谱获取股权关系、高管信息从文本获取新闻报道、财报分析。实现上可以用GraphRAG等框架或者自己构建Pipeline。结合的关键在于实体识别和链接的准确性以及图谱的覆盖度和质量。延伸追问可能会问GraphRAG的原理。回答要点是先用LLM从文档中提取实体和关系构建图谱查询时先在图谱上做社区发现找到相关子图再结合子图和原始文本生成答案。题目十如何处理RAG中的知识冲突参考答案知识冲突是指检索到的多个文档片段包含相互矛盾的信息。处理冲突有几种策略置信度排序- 根据文档来源的权威性、时效性、相关性给不同片段赋权重优先采信高权重来源。时效性优先- 对于时效敏感的问题优先使用最新文档。多源验证- 要求多个独立来源都支持才采信。不确定性表达- 让模型在答案中说明存在不同说法而不是强行给出唯一答案。冲突检测- 用LLM判断检索结果是否存在矛盾如果存在矛盾可以进一步追问用户澄清或者把矛盾点都列出来让用户判断。实际应用中冲突处理要结合业务场景有些场景要求给出确定答案有些场景可以保留不确定性。延伸追问可能会问如何评估文档的可信度。回答可以提到来源权威性官方文档大于论坛帖子时效性新文档优于旧文档相关性匹配度高的更可信。题目十一RAG系统的性能如何优化参考答案RAG性能优化可以从索引、检索、生成三个环节入手索引优化选择合适的向量索引算法HNSW适合查询多IVF适合更新多索引分片- 大数据量时分片存储提高并发量化压缩- 用PQ等方法压缩向量减少存储和传输开销检索优化缓存热门查询结果预过滤- 先用元数据过滤缩小检索范围并行检索- 同时检索多个查询变种生成优化流式输出提升用户体验模型蒸馏用小模型替代大模型Prompt压缩只保留最相关的上下文实际优化要用profiling工具定位瓶颈避免盲目优化。通常检索是瓶颈优先优化向量索引和检索策略。延伸追问可能会问流式输出的实现方式。回答要点是模型生成过程中逐步返回结果前端边收边展示提升用户感知的响应速度。题目十二RAG在企业落地有哪些挑战参考答案企业落地RAG面临数据、技术、运营三方面挑战数据挑战文档质量参差不齐需要清洗和标准化权限控制- 不同用户能访问的知识范围不同数据更新- 知识库内容频繁变动需要及时同步技术挑战与现有系统集成比如对接企业微信、钉钉、OA等高可用部署- 满足企业级SLA要求安全合规- 数据不出域、敏感信息脱敏等运营挑战效果持续优化建立反馈闭环成本控制- 平衡效果和开销用户培训- 让员工习惯使用解决这些挑战需要产品、技术、运营的紧密配合不能单纯追求技术指标要关注实际业务价值。延伸追问可能会问权限控制怎么实现。回答可以提到文档级别打标签检索时根据用户权限过滤或者在检索后做二次过滤。题目十三详细说下RAG的核心原理参考答案RAG是Retrieval-Augmented Generation的缩写中文叫检索增强生成。它是一种把信息检索和文本生成结合起来的技术框架。核心思想在让大模型生成答案之前先从外部知识库中检索相关信息把检索到的内容作为上下文提供给模型让模型基于这些事实来生成答案。这样做有两个好处扩展知识边界- 模型可以获取训练数据之外的信息特别是企业私有知识和最新信息提高准确性和可溯源性- 模型基于检索到的真实内容生成减少了幻觉而且可以给出信息来源基本流程索引阶段- 把文档切分、向量化、存储到向量数据库查询阶段- 把用户问题向量化、检索相关文档、拼接Prompt、生成答案RAG是目前大模型落地应用的主流方案特别适合企业知识库问答、智能客服、文档分析等场景。延伸追问可能会问RAG和Fine-tuning的区别。回答要点是RAG不需要训练模型成本低、更新快适合知识频繁变动的场景。Fine-tuning需要重新训练模型成本高但模型本身能力会提升适合固定领域的深度优化。题目十四文档分块大小和topK参数是怎么选择的参考答案文档分块大小和topK参数的选择要通过实验确定没有固定标准。分块大小的考虑因素太小会丢失上下文信息比如一个段落被切成多块每块单独看都语义不完整太大会降低检索精度一个块包含太多内容只有一小部分相关会干扰模型注意力通常几百个Token比较合适比如256到512之间还要考虑文档结构按段落或章节边界切分比固定长度切分效果更好topK参数的选择要权衡召回率和成本K太小可能漏掉相关信息K太大会增加噪声和成本通常先设置一个较大的值比如10到20然后通过实验找到最优值评估方法是用测试集测试不同K值的Recall和Precision找到平衡点实际应用中还可以动态调整对于复杂问题增大K值简单问题减小K值延伸追问可能会问有没有自动确定分块大小的方法。回答可以提到可以用语义切分根据句子或段落的语义完整性自动确定切分点而不是固定长度切分。题目十五什么是Agentic RAG参考答案Agentic RAG是把AI Agent和RAG结合起来的进阶方案。与传统RAG的区别传统RAG是一次性检索然后生成答案Agentic RAG则是让Agent自主决定检索策略可以多次检索、动态调整查询、甚至主动验证信息。具体实现方式查询重写- Agent分析用户问题生成多个检索查询从不同角度收集信息多步检索- 第一轮检索后分析结果发现信息不足就生成新的查询继续检索直到收集到足够信息信息验证- Agent对检索到的信息进行交叉验证发现矛盾时进一步检索澄清主动追问- 当问题不清晰时Agent主动向用户提问澄清需求优势与代价优势是能够处理更复杂的查询比如需要多跳推理的问题或者需要综合多个来源信息的问题。代价是延迟增加、成本上升适合对答案质量要求高、可以承受一定延迟的场景。延伸追问可能会问Agentic RAG和普通RAG的性能对比。回答要点是Agentic RAG效果更好但成本更高、延迟更长适合复杂问题普通RAG适合简单直接的问答。题目十六混合RAG有什么好处参考答案混合RAG是指同时结合多种检索方式的RAG方案。常见组合向量检索 关键词检索- 向量检索擅长语义匹配关键词检索擅长精确匹配两者结合可以兼顾模糊查询和精确查询稀疏向量 稠密向量- 稀疏向量基于词频适合关键词匹配稠密向量基于语义适合概念匹配内部知识库 外部搜索引擎- 内部知识库检索企业私有文档外部搜索引擎获取互联网公开信息多模态检索- 同时检索文本、图片、表格等不同模态的内容好处互补各种检索方式的优势提高召回率和准确率。比如用户搜索产品型号向量检索可能找不到精确匹配关键词检索可以精确命中。实现方式可以用RRF倒数排名融合等方法合并不同检索方式的结果。延伸追问可能会问RRF融合的具体算法。回答要点是RRF计算每个文档在不同检索结果中的排名倒数然后求和作为最终分数排名越靠前得分越高。题目十七如何处理文档更新和增量索引参考答案文档更新处理是RAG系统的运维重点。全量重建- 最简单的方式文档更新后重新切分、向量化、构建索引适合更新频率低的场景。增量更新- 更高效的方式只处理变更的文档文档版本管理- 给每个文档打版本标签更新时识别变更的文档增量索引- 新文档直接添加到索引删除的文档从索引中移除修改的文档先删除旧版本再添加新版本索引分区- 按时间或类别分区更新时只重建受影响的分区更新策略实时更新- 文档变更立即触发索引更新适合对实时性要求高的场景定时更新- 比如每小时或每天批量更新一次适合更新频率适中的场景还要考虑更新期间的查询服务不中断通常采用双索引切换或者索引版本管理来实现平滑过渡。延伸追问可能会问如果文档量很大全量重建耗时很长怎么办。回答要点是采用增量更新策略或者使用支持增量更新的向量数据库或者设计索引分区策略减少每次重建的范围。题目十八向量数据库为什么使用Milvus参考答案选择Milvus作为向量数据库主要基于以下考虑1. 专为向量设计- Milvus是专门为向量检索打造的数据库支持多种向量索引类型如HNSW、IVF_FLAT、IVF_SQ8等能根据数据规模和查询特点灵活选择。2. 分布式架构- 支持水平扩展可以处理十亿级别的向量数据适合企业级生产环境的高并发查询需求。3. 混合查询能力- 除了向量相似度搜索还支持标量过滤可以结合元数据条件进行精确过滤比如按时间范围、文档类型等筛选后再做向量检索。4. 生态完善- 提供Python、Java、Go等多种语言的SDK与LangChain、LlamaIndex等主流框架有良好集成开发成本低。5. 云原生支持- 支持Kubernetes部署有完善的监控和运维工具符合现代云原生架构要求。相比Faiss这种单机库Milvus更适合生产环境相比Pinecone这种托管服务Milvus可以私有化部署数据安全可控。延伸追问可能会问Milvus和Elasticsearch的向量功能有什么区别。回答要点是ES的向量搜索是附加功能适合混合场景Milvus是专业向量库性能更好、功能更完善适合大规模纯向量检索场景。题目十九召回与重排的区别是什么参考答案召回和重排是RAG检索流程中两个不同的阶段各自承担不同职责召回阶段Retrieval目标是从海量文档中快速筛选出可能相关的候选集追求高召回率宁可错杀不可放过确保相关文档被包含通常使用向量相似度搜索计算Query和文档向量的余弦相似度速度快但精度相对较低一般召回几十到几百个结果重排阶段Reranking目标是对召回的候选集进行精确排序找出最相关的文档追求高准确率确保排在前面的都是真正相关的通常使用Cross-Encoder等更精确的模型直接计算Query和文档的交互相关性速度较慢但精度高一般只处理Top K个候选为什么分两阶段如果直接用Cross-Encoder对所有文档打分计算量太大无法接受。先用向量检索快速召回候选再用重排模型精确排序是效率和效果的平衡。延伸追问可能会问重排模型有哪些选择。回答可以提到Cross-Encoder、bge-reranker、Cohere Rerank等以及它们各自的优缺点和适用场景。题目二十Embedding是什么意思参考答案Embedding中文叫嵌入或向量表示是将高维离散数据映射到低维连续向量空间的技术。核心概念把文本、图片、音频等非结构化数据转换成固定维度的数值向量向量中的每个维度代表某种语义特征语义相似的内容在向量空间中距离更近在RAG中的作用文档向量化- 把知识库文档转换成向量存储查询向量化- 把用户问题转换成向量相似度计算- 通过向量距离计算语义相似度常用模型中文BGE、M3E、Text2Vec英文OpenAI text-embedding、sentence-transformers相似度度量通常使用余弦相似度或欧氏距离余弦相似度关注向量方向对长度不敏感更适合文本语义匹配。延伸追问可能会问Embedding和One-Hot编码的区别。回答要点是One-Hot维度高且稀疏无法表达语义相似性Embedding维度低且稠密语义相似的内容向量距离近。题目二十一召回的相似度算法是什么参考答案RAG召回阶段常用的相似度算法主要有以下几种1. 余弦相似度Cosine Similarity计算两个向量夹角的余弦值值域[-1, 1]1表示完全相同方向-1表示相反方向优点对向量长度不敏感只关注方向适合文本语义匹配缺点无法区分向量大小差异2. 欧氏距离Euclidean Distance计算向量空间中的直线距离距离越小表示越相似优点直观计算简单缺点受向量长度影响需要归一化处理3. 点积Dot Product直接计算向量对应元素相乘再求和优点计算最快适合大规模检索缺点同时受方向和长度影响实际应用向量数据库通常使用余弦相似度作为默认度量因为它对文本语义匹配效果最好。在使用前需要确保Embedding向量已经归一化这样点积就等价于余弦相似度可以加速计算。延伸追问可能会问为什么向量检索比关键词检索快。回答要点是向量检索使用近似最近邻算法如HNSW时间复杂度O(logN)而暴力搜索是O(N)向量索引大幅降低了计算量。题目二十二如何避免大模型产生幻觉参考答案避免幻觉是RAG系统的核心挑战需要多管齐下1. RAG增强让模型基于检索到的真实内容生成而不是依赖训练记忆这是最根本的防幻觉手段2. Prompt约束明确要求模型基于提供的上下文回答禁止编造不确定就说不确定添加如果你不确定请回答我不知道等约束3. 事实校验对关键事实用外部工具验证比如搜索、数据库查询用规则或模型检测可能的幻觉内容4. 引用溯源要求模型给出信息来源便于核查实现方式是在Prompt中要求标注引用文档编号5. 置信度评估让模型评估答案置信度低置信度时提示用户或者设置阈值低于阈值时转人工6. 多模型验证用多个模型独立回答对比一致性不一致时标记为高风险幻觉无法完全避免但可以通过技术手段大幅降低关键是让模型有自知之明不确定时不强行回答。延伸追问可能会问怎么检测幻觉。回答要点是事实核查、一致性检查、人工抽样、用户反馈等方式结合可以建立自动化检测流水线。说真的这两年看着身边一个个搞Java、C、前端、数据、架构的开始卷大模型挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis稳稳当当过日子。结果GPT、DeepSeek火了之后整条线上的人都开始有点慌了大家都在想“我是不是要学大模型不然这饭碗还能保多久”我先给出最直接的答案一定要把现有的技术和大模型结合起来而不是抛弃你们现有技术掌握AI能力的Java工程师比纯Java岗要吃香的多。即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇这绝非空谈。数据说话2025年的最后一个月脉脉高聘发布了《2025年度人才迁徙报告》披露了2025年前10个月的招聘市场现状。AI领域的人才需求呈现出极为迫切的“井喷”态势2025年前10个月新发AI岗位量同比增长543%9月单月同比增幅超11倍。同时在薪资方面AI领域也显著领先。其中月薪排名前20的高薪岗位平均月薪均超过6万元而这些席位大部分被AI研发岗占据。与此相对应市场为AI人才支付了显著的溢价算法工程师中专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%产品经理岗位中AI方向的产品经理薪资也领先约20%。当你意识到“技术AI”是个人突围的最佳路径时整个就业市场的数据也印证了同一个事实AI大模型正成为高薪机会的最大源头。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】
万字面试题库深度解析：22道RAG核心考点，助你拿下AI高薪Offer！
发布时间：2026/5/21 23:19:43
本文系统梳理了22道RAG检索增强生成核心面试题覆盖基础概念、Embedding选型、向量数据库、检索优化、Agentic RAG、幻觉处理等关键知识点。每题均提供详细参考答案与延伸追问旨在帮助读者深入理解RAG技术栈掌握其原理与实践应用为AI领域面试做好充分准备。万字详解面试题库RAG篇万众期待的面试题库系列今天正式上线啦即日起持续更新 AI 面试题库系列内容。拒绝碎片化拼凑只输出体系化万字长文干货。建议先收藏高效备战面试。RAG检索增强生成是目前大模型落地应用的主流技术方案也是AI面试中的高频考点。本文整理了22道RAG核心面试题涵盖基础概念、Embedding选型、向量数据库、检索优化、Agentic RAG、幻觉处理等核心知识点每道题都配有详细参考答案和延伸追问提示帮助你系统掌握RAG技术栈。题目一什么是RAG它解决了什么问题参考答案RAG是Retrieval-Augmented Generation的缩写中文叫检索增强生成。它解决的是大模型知识局限和幻觉问题。大模型的知识来自训练数据有截止日期无法获取最新信息。同时模型会一本正经地胡说八道生成看似合理但实际错误的内容。RAG的思路是在生成答案之前先从外部知识库中检索相关信息把检索到的内容作为上下文传给模型让模型基于这些事实来生成答案。这样既扩展了模型的知识边界又提高了答案的准确性和可溯源性。RAG是目前大模型落地应用的主流方案特别适合企业知识库问答、客服、文档分析等场景。延伸追问面试官可能会问RAG和微调的区别。回答要点是RAG不需要训练模型成本低、更新快适合知识频繁变动的场景。微调需要重新训练成本高但模型本身能力会提升适合固定领域的深度优化。题目二RAG的基本流程是怎样的参考答案RAG流程分为索引阶段和查询阶段。索引阶段把文档切分成适当大小的片段通过Embedding模型把片段转换成向量把向量存储到向量数据库中同时保存原始文本作为元数据查询阶段把用户问题转换成向量在向量数据库中做相似度搜索召回最相关的几个文档片段把用户问题和检索到的片段一起拼成Prompt传给大模型让模型生成答案整个流程的关键在于检索的准确率和召回率如果检索不到相关内容或者检索到不相关的内容都会影响最终答案质量。延伸追问可能会问索引阶段文档切分的策略。回答要提到按固定长度切分、按语义切分、按段落切分等方式以及切分大小对检索效果的影响通常几百个Token比较合适。题目三Embedding模型选型要考虑哪些因素参考答案Embedding模型选型要考虑四个因素1. 语言支持- 中文场景要用中文模型比如BGE、M3E、Text2Vec英文场景选择更多比如OpenAI的text-embedding-ada-002、sentence-transformers系列。2. 向量维度- 维度越高表达能力越强但存储和计算成本也越高常见有384维、768维、1024维、1536维等。3. 上下文长度- 模型能处理的最大文本长度要覆盖文档片段的大小常见有512、1024、2048、8192等。4. 性能指标- 关注在标准评测集上的MRR、NDCG、RecallK等指标。实际选型要在效果和成本之间权衡一般先用开源模型验证效果效果不达标再考虑商用API。延伸追问可能会问如何评估Embedding模型的效果。回答要提到可以用公开评测集比如C-MTEB、MTEB也可以用自己的业务数据构建测试集计算检索的准确率和召回率。题目四向量数据库有哪些选择各有什么特点参考答案向量数据库选型要考虑规模、性能、成本等因素Faiss- Facebook开源的向量检索库适合小规模本地部署支持多种索引算法但不支持分布式和持久化。Milvus- 专门的向量数据库支持分布式部署、多种索引类型、混合查询适合大规模生产环境。Pinecone- 托管服务开箱即用但成本较高适合快速验证。Weaviate- 支持向量搜索和语义搜索有GraphQL接口功能丰富但学习成本较高。pgvector- PostgreSQL的向量扩展适合已有PG基础设施的场景可以复用现有的运维能力。Elasticsearch- 也支持向量搜索适合需要同时做关键词搜索和向量搜索的场景。选型要根据数据规模、查询QPS、团队技术栈综合考虑。延伸追问可能会问HNSW和IVF索引的区别。回答要点是HNSW基于图结构构建慢查询快适合静态数据集。IVF基于倒排文件构建快查询慢一些适合动态更新的场景。题目五如何提高RAG的检索准确率参考答案提高检索准确率可以从查询优化、索引优化、重排序三个层面入手查询优化查询扩展- 用LLM把用户问题改写成多个同义表达增加命中概率查询分解- 把复杂问题拆成多个子问题分别检索HyDE技术- 用LLM生成假设答案再检索相似文档索引优化文档切分策略优化- 按语义边界切分而不是固定长度元数据增强- 给文档打上标签、分类、时间等元数据支持过滤检索摘要索引- 存储文档摘要用于粗排原始文本用于精排重排序用更精确的模型对召回结果二次排序比如用Cross-Encoder计算问题和文档的相关性分数或者用LLM判断文档是否包含答案。多种技术组合使用可以显著提升检索效果。延伸追问可能会问HyDE的原理。回答要点是用LLM先根据问题生成一个假设的答案然后用这个答案去检索相关文档解决用户问题和文档表述不一致的问题。题目六RAG中如何处理多轮对话参考答案多轮对话中用户的问题往往依赖上下文单独检索当前问题可能找不到相关信息。解决方案有几种历史拼接- 把多轮对话历史拼在一起作为查询但会引入噪声且可能超出长度限制。查询重写- 用LLM把当前问题结合历史改写成独立完整的问题然后再检索。历史摘要- 维护一个对话摘要作为上下文既保留关键信息又控制长度。独立检索- 分别检索历史问题和当前问题的相关文档合并去重后传给模型。实际应用中查询重写效果较好可以用专门的模型或者Prompt工程实现。要注意的是改写本身也有成本需要在效果和开销之间权衡。延伸追问可能会问对话历史太长怎么处理。回答可以提到滑动窗口保留最近N轮或者定期用LLM生成摘要压缩历史。题目七什么是检索结果的上下文压缩参考答案上下文压缩是解决检索结果过长导致超出模型上下文限制或者干扰模型注意力的问题。直接把所有检索到的文档片段拼进Prompt可能太长而且包含很多无关信息。压缩方法Map-Reduce- 把长文档分段处理每段分别与问题做相关性判断只保留相关部分。Refine- 迭代精炼先用部分文档生成初步答案再逐步引入其他文档完善答案。相关性过滤- 用轻量级模型计算每个片段与问题的相关性分数只保留高分片段。LLM压缩- 用模型提取关键信息生成摘要。实际应用中通常组合使用先用轻量级方法粗筛再用LLM精筛既保证效果又控制成本。延伸追问可能会问Map-Reduce和Refine的区别。回答要点是Map-Reduce并行处理各段然后汇总速度快但可能丢失跨段信息。Refine串行处理逐步完善能利用上下文但速度较慢。题目八RAG系统如何评估效果参考答案RAG系统评估要分别评估检索和生成两个阶段。检索阶段评估指标RecallK- 前K个结果中相关文档的比例MRR- 第一个相关文档的排名倒数NDCG- 考虑排序位置的加权指标生成阶段评估指标答案相关性- 答案是否切题答案忠实度- 答案是否基于检索内容而不是胡编答案完整性- 是否覆盖了问题的所有方面评估方法手工标注构建测试集用LLM作为评判员自动打分端到端的人工评估实际落地要建立持续评估机制定期抽样检查效果收集用户反馈形成数据闭环不断优化。延伸追问可能会问如何构建评估数据集。回答要点是收集真实用户问题人工标注正确答案和相关文档确保覆盖各种类型的问题和难度。题目九RAG和知识图谱如何结合参考答案RAG和知识图谱结合可以互补优势。RAG擅长处理非结构化文本知识图谱擅长处理结构化关系。结合方式图谱增强检索- 先用知识图谱做实体链接和关系推理扩展查询语义再用RAG检索相关文档。结构化RAG- 把知识图谱作为检索源之一直接检索图谱中的三元组作为上下文。混合推理- 让模型同时参考文本片段和知识图谱结合两者生成答案。比如回答公司相关问题可以从图谱获取股权关系、高管信息从文本获取新闻报道、财报分析。实现上可以用GraphRAG等框架或者自己构建Pipeline。结合的关键在于实体识别和链接的准确性以及图谱的覆盖度和质量。延伸追问可能会问GraphRAG的原理。回答要点是先用LLM从文档中提取实体和关系构建图谱查询时先在图谱上做社区发现找到相关子图再结合子图和原始文本生成答案。题目十如何处理RAG中的知识冲突参考答案知识冲突是指检索到的多个文档片段包含相互矛盾的信息。处理冲突有几种策略置信度排序- 根据文档来源的权威性、时效性、相关性给不同片段赋权重优先采信高权重来源。时效性优先- 对于时效敏感的问题优先使用最新文档。多源验证- 要求多个独立来源都支持才采信。不确定性表达- 让模型在答案中说明存在不同说法而不是强行给出唯一答案。冲突检测- 用LLM判断检索结果是否存在矛盾如果存在矛盾可以进一步追问用户澄清或者把矛盾点都列出来让用户判断。实际应用中冲突处理要结合业务场景有些场景要求给出确定答案有些场景可以保留不确定性。延伸追问可能会问如何评估文档的可信度。回答可以提到来源权威性官方文档大于论坛帖子时效性新文档优于旧文档相关性匹配度高的更可信。题目十一RAG系统的性能如何优化参考答案RAG性能优化可以从索引、检索、生成三个环节入手索引优化选择合适的向量索引算法HNSW适合查询多IVF适合更新多索引分片- 大数据量时分片存储提高并发量化压缩- 用PQ等方法压缩向量减少存储和传输开销检索优化缓存热门查询结果预过滤- 先用元数据过滤缩小检索范围并行检索- 同时检索多个查询变种生成优化流式输出提升用户体验模型蒸馏用小模型替代大模型Prompt压缩只保留最相关的上下文实际优化要用profiling工具定位瓶颈避免盲目优化。通常检索是瓶颈优先优化向量索引和检索策略。延伸追问可能会问流式输出的实现方式。回答要点是模型生成过程中逐步返回结果前端边收边展示提升用户感知的响应速度。题目十二RAG在企业落地有哪些挑战参考答案企业落地RAG面临数据、技术、运营三方面挑战数据挑战文档质量参差不齐需要清洗和标准化权限控制- 不同用户能访问的知识范围不同数据更新- 知识库内容频繁变动需要及时同步技术挑战与现有系统集成比如对接企业微信、钉钉、OA等高可用部署- 满足企业级SLA要求安全合规- 数据不出域、敏感信息脱敏等运营挑战效果持续优化建立反馈闭环成本控制- 平衡效果和开销用户培训- 让员工习惯使用解决这些挑战需要产品、技术、运营的紧密配合不能单纯追求技术指标要关注实际业务价值。延伸追问可能会问权限控制怎么实现。回答可以提到文档级别打标签检索时根据用户权限过滤或者在检索后做二次过滤。题目十三详细说下RAG的核心原理参考答案RAG是Retrieval-Augmented Generation的缩写中文叫检索增强生成。它是一种把信息检索和文本生成结合起来的技术框架。核心思想在让大模型生成答案之前先从外部知识库中检索相关信息把检索到的内容作为上下文提供给模型让模型基于这些事实来生成答案。这样做有两个好处扩展知识边界- 模型可以获取训练数据之外的信息特别是企业私有知识和最新信息提高准确性和可溯源性- 模型基于检索到的真实内容生成减少了幻觉而且可以给出信息来源基本流程索引阶段- 把文档切分、向量化、存储到向量数据库查询阶段- 把用户问题向量化、检索相关文档、拼接Prompt、生成答案RAG是目前大模型落地应用的主流方案特别适合企业知识库问答、智能客服、文档分析等场景。延伸追问可能会问RAG和Fine-tuning的区别。回答要点是RAG不需要训练模型成本低、更新快适合知识频繁变动的场景。Fine-tuning需要重新训练模型成本高但模型本身能力会提升适合固定领域的深度优化。题目十四文档分块大小和topK参数是怎么选择的参考答案文档分块大小和topK参数的选择要通过实验确定没有固定标准。分块大小的考虑因素太小会丢失上下文信息比如一个段落被切成多块每块单独看都语义不完整太大会降低检索精度一个块包含太多内容只有一小部分相关会干扰模型注意力通常几百个Token比较合适比如256到512之间还要考虑文档结构按段落或章节边界切分比固定长度切分效果更好topK参数的选择要权衡召回率和成本K太小可能漏掉相关信息K太大会增加噪声和成本通常先设置一个较大的值比如10到20然后通过实验找到最优值评估方法是用测试集测试不同K值的Recall和Precision找到平衡点实际应用中还可以动态调整对于复杂问题增大K值简单问题减小K值延伸追问可能会问有没有自动确定分块大小的方法。回答可以提到可以用语义切分根据句子或段落的语义完整性自动确定切分点而不是固定长度切分。题目十五什么是Agentic RAG参考答案Agentic RAG是把AI Agent和RAG结合起来的进阶方案。与传统RAG的区别传统RAG是一次性检索然后生成答案Agentic RAG则是让Agent自主决定检索策略可以多次检索、动态调整查询、甚至主动验证信息。具体实现方式查询重写- Agent分析用户问题生成多个检索查询从不同角度收集信息多步检索- 第一轮检索后分析结果发现信息不足就生成新的查询继续检索直到收集到足够信息信息验证- Agent对检索到的信息进行交叉验证发现矛盾时进一步检索澄清主动追问- 当问题不清晰时Agent主动向用户提问澄清需求优势与代价优势是能够处理更复杂的查询比如需要多跳推理的问题或者需要综合多个来源信息的问题。代价是延迟增加、成本上升适合对答案质量要求高、可以承受一定延迟的场景。延伸追问可能会问Agentic RAG和普通RAG的性能对比。回答要点是Agentic RAG效果更好但成本更高、延迟更长适合复杂问题普通RAG适合简单直接的问答。题目十六混合RAG有什么好处参考答案混合RAG是指同时结合多种检索方式的RAG方案。常见组合向量检索 关键词检索- 向量检索擅长语义匹配关键词检索擅长精确匹配两者结合可以兼顾模糊查询和精确查询稀疏向量 稠密向量- 稀疏向量基于词频适合关键词匹配稠密向量基于语义适合概念匹配内部知识库 外部搜索引擎- 内部知识库检索企业私有文档外部搜索引擎获取互联网公开信息多模态检索- 同时检索文本、图片、表格等不同模态的内容好处互补各种检索方式的优势提高召回率和准确率。比如用户搜索产品型号向量检索可能找不到精确匹配关键词检索可以精确命中。实现方式可以用RRF倒数排名融合等方法合并不同检索方式的结果。延伸追问可能会问RRF融合的具体算法。回答要点是RRF计算每个文档在不同检索结果中的排名倒数然后求和作为最终分数排名越靠前得分越高。题目十七如何处理文档更新和增量索引参考答案文档更新处理是RAG系统的运维重点。全量重建- 最简单的方式文档更新后重新切分、向量化、构建索引适合更新频率低的场景。增量更新- 更高效的方式只处理变更的文档文档版本管理- 给每个文档打版本标签更新时识别变更的文档增量索引- 新文档直接添加到索引删除的文档从索引中移除修改的文档先删除旧版本再添加新版本索引分区- 按时间或类别分区更新时只重建受影响的分区更新策略实时更新- 文档变更立即触发索引更新适合对实时性要求高的场景定时更新- 比如每小时或每天批量更新一次适合更新频率适中的场景还要考虑更新期间的查询服务不中断通常采用双索引切换或者索引版本管理来实现平滑过渡。延伸追问可能会问如果文档量很大全量重建耗时很长怎么办。回答要点是采用增量更新策略或者使用支持增量更新的向量数据库或者设计索引分区策略减少每次重建的范围。题目十八向量数据库为什么使用Milvus参考答案选择Milvus作为向量数据库主要基于以下考虑1. 专为向量设计- Milvus是专门为向量检索打造的数据库支持多种向量索引类型如HNSW、IVF_FLAT、IVF_SQ8等能根据数据规模和查询特点灵活选择。2. 分布式架构- 支持水平扩展可以处理十亿级别的向量数据适合企业级生产环境的高并发查询需求。3. 混合查询能力- 除了向量相似度搜索还支持标量过滤可以结合元数据条件进行精确过滤比如按时间范围、文档类型等筛选后再做向量检索。4. 生态完善- 提供Python、Java、Go等多种语言的SDK与LangChain、LlamaIndex等主流框架有良好集成开发成本低。5. 云原生支持- 支持Kubernetes部署有完善的监控和运维工具符合现代云原生架构要求。相比Faiss这种单机库Milvus更适合生产环境相比Pinecone这种托管服务Milvus可以私有化部署数据安全可控。延伸追问可能会问Milvus和Elasticsearch的向量功能有什么区别。回答要点是ES的向量搜索是附加功能适合混合场景Milvus是专业向量库性能更好、功能更完善适合大规模纯向量检索场景。题目十九召回与重排的区别是什么参考答案召回和重排是RAG检索流程中两个不同的阶段各自承担不同职责召回阶段Retrieval目标是从海量文档中快速筛选出可能相关的候选集追求高召回率宁可错杀不可放过确保相关文档被包含通常使用向量相似度搜索计算Query和文档向量的余弦相似度速度快但精度相对较低一般召回几十到几百个结果重排阶段Reranking目标是对召回的候选集进行精确排序找出最相关的文档追求高准确率确保排在前面的都是真正相关的通常使用Cross-Encoder等更精确的模型直接计算Query和文档的交互相关性速度较慢但精度高一般只处理Top K个候选为什么分两阶段如果直接用Cross-Encoder对所有文档打分计算量太大无法接受。先用向量检索快速召回候选再用重排模型精确排序是效率和效果的平衡。延伸追问可能会问重排模型有哪些选择。回答可以提到Cross-Encoder、bge-reranker、Cohere Rerank等以及它们各自的优缺点和适用场景。题目二十Embedding是什么意思参考答案Embedding中文叫嵌入或向量表示是将高维离散数据映射到低维连续向量空间的技术。核心概念把文本、图片、音频等非结构化数据转换成固定维度的数值向量向量中的每个维度代表某种语义特征语义相似的内容在向量空间中距离更近在RAG中的作用文档向量化- 把知识库文档转换成向量存储查询向量化- 把用户问题转换成向量相似度计算- 通过向量距离计算语义相似度常用模型中文BGE、M3E、Text2Vec英文OpenAI text-embedding、sentence-transformers相似度度量通常使用余弦相似度或欧氏距离余弦相似度关注向量方向对长度不敏感更适合文本语义匹配。延伸追问可能会问Embedding和One-Hot编码的区别。回答要点是One-Hot维度高且稀疏无法表达语义相似性Embedding维度低且稠密语义相似的内容向量距离近。题目二十一召回的相似度算法是什么参考答案RAG召回阶段常用的相似度算法主要有以下几种1. 余弦相似度Cosine Similarity计算两个向量夹角的余弦值值域[-1, 1]1表示完全相同方向-1表示相反方向优点对向量长度不敏感只关注方向适合文本语义匹配缺点无法区分向量大小差异2. 欧氏距离Euclidean Distance计算向量空间中的直线距离距离越小表示越相似优点直观计算简单缺点受向量长度影响需要归一化处理3. 点积Dot Product直接计算向量对应元素相乘再求和优点计算最快适合大规模检索缺点同时受方向和长度影响实际应用向量数据库通常使用余弦相似度作为默认度量因为它对文本语义匹配效果最好。在使用前需要确保Embedding向量已经归一化这样点积就等价于余弦相似度可以加速计算。延伸追问可能会问为什么向量检索比关键词检索快。回答要点是向量检索使用近似最近邻算法如HNSW时间复杂度O(logN)而暴力搜索是O(N)向量索引大幅降低了计算量。题目二十二如何避免大模型产生幻觉参考答案避免幻觉是RAG系统的核心挑战需要多管齐下1. RAG增强让模型基于检索到的真实内容生成而不是依赖训练记忆这是最根本的防幻觉手段2. Prompt约束明确要求模型基于提供的上下文回答禁止编造不确定就说不确定添加如果你不确定请回答我不知道等约束3. 事实校验对关键事实用外部工具验证比如搜索、数据库查询用规则或模型检测可能的幻觉内容4. 引用溯源要求模型给出信息来源便于核查实现方式是在Prompt中要求标注引用文档编号5. 置信度评估让模型评估答案置信度低置信度时提示用户或者设置阈值低于阈值时转人工6. 多模型验证用多个模型独立回答对比一致性不一致时标记为高风险幻觉无法完全避免但可以通过技术手段大幅降低关键是让模型有自知之明不确定时不强行回答。延伸追问可能会问怎么检测幻觉。回答要点是事实核查、一致性检查、人工抽样、用户反馈等方式结合可以建立自动化检测流水线。说真的这两年看着身边一个个搞Java、C、前端、数据、架构的开始卷大模型挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis稳稳当当过日子。结果GPT、DeepSeek火了之后整条线上的人都开始有点慌了大家都在想“我是不是要学大模型不然这饭碗还能保多久”我先给出最直接的答案一定要把现有的技术和大模型结合起来而不是抛弃你们现有技术掌握AI能力的Java工程师比纯Java岗要吃香的多。即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇这绝非空谈。数据说话2025年的最后一个月脉脉高聘发布了《2025年度人才迁徙报告》披露了2025年前10个月的招聘市场现状。AI领域的人才需求呈现出极为迫切的“井喷”态势2025年前10个月新发AI岗位量同比增长543%9月单月同比增幅超11倍。同时在薪资方面AI领域也显著领先。其中月薪排名前20的高薪岗位平均月薪均超过6万元而这些席位大部分被AI研发岗占据。与此相对应市场为AI人才支付了显著的溢价算法工程师中专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%产品经理岗位中AI方向的产品经理薪资也领先约20%。当你意识到“技术AI”是个人突围的最佳路径时整个就业市场的数据也印证了同一个事实AI大模型正成为高薪机会的最大源头。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】
