今天为大家分享微软 Copilot Studio 团队的一篇论文——AgenticRAG。标准RAG的根本问题传统 RAG 架构的逻辑很直观用户提问 → 搜索系统检索相关文档 → 把文档塞进 prompt → LLM 生成答案。这个架构有一个被广泛忽视的根本假设检索决定在 LLM 开始推理之前就已经做完了。LLM 接收的是一个固定的文档候选集没有机会说这个文档看起来有用让我进去翻一翻也没有机会说这几条结果都不对让我换个角度再搜一次。对于简单的知识查询“什么是机器学习”这个架构没问题。但在企业场景里知识工作者的查询往往是这样的“SAP 系统在多租户模式下怎么配置 OAuth 2.0”“我们上季度 SaaS 收入中有多少来自年付合同”“这个 Jenkins pipeline 的超时问题怎么排查”这些查询有两个特点高度情境化需要结合多个上下文理解意图且答案分散在多份长文档中。标准搜索栈擅长关键词匹配和短语义查询但处理不了这种需要多步推理的信息需求。把检索权交给LLMAgenticRAG 的核心思想极其朴素不要让搜索系统替 LLM 做决定给 LLM 工具让它自己决定搜什么、看什么、翻到哪里。具体来说论文在现有企业搜索栈之上加了一层轻量级的 Agent 工具框架包含四个工具四个工具search— 企业级文档发现。委托给底层企业搜索栈如 Azure AI Search每次调用最多并行发出 5 条查询改写。返回 snippet、标题、文件名、文件类型等元数据。每条结果分配唯一引用 ID供后续工具使用。find— 文档内搜索。给定一个引用 ID 和一组关键词模式在目标文档内做精准搜索。支持词汇匹配大小写不敏感子串匹配和可选的语义匹配模式。每个模式最多返回 2 个匹配段落总 token 限制约 11K。open— 滚动窗口文档阅读。每次返回 1800 行的固定窗口。响应头包含当前位置和总长度如 “Viewing lines [0–1799] of 3000 lines”。模型可以通过指定行号跳转到文档任意位置实现对超长文档的逐段导航。summarize— 上下文压缩。当 token 使用量接近 128K 预算时自动触发。模型记录当前推理结论标注要保留的引用 ID系统清除未引用的工具返回内容释放 token 空间。推理循环整个系统运行在一个有界迭代循环中默认最多 15 轮。每一轮LLM 看到当前对话历史和工具 schema要么选择调用工具并追加结果到对话要么直接输出最终答案。终止条件只有两个模型主动输出文本回答达到最大迭代次数强制生成回答这个设计有一个关键优势完全不需要模型微调、自定义嵌入模型、图构建或语料预处理。只要企业搜索栈已经把文档索引好直接套上这个工具框架就能用。方法细节搜索结果如何被利用search 返回的是 snippet 预览不包含完整文档内容。这意味着模型看到搜索结果后需要做出判断哪些文档值得深入查看用什么方式查看这里有两个精度工具可以选find适合知道要找什么的场景——比如在这份财报里找到净利润这一行open适合知道要看哪里的场景——比如打开这个文档的第 500 行附近看看那个表格论文通过系统提示system prompt引导模型正确使用工具比如先搜索再回答、“片段不够就用 find 或 open 深入”、“不要重复搜索复用之前的结果”。多查询并行搜索search 工具的一个设计亮点模型可以在一次 tool call 中同时发出最多 5 条查询改写。结果去重后合并返回。消融实验表明这个功能对性能几乎没有影响44.84% vs 49.59%但显著提升了效率——平均工具调用次数从 6.79 降到 4.79减少了 29%。多条查询并行执行比多轮串行更节省迭代次数。上下文管理机制四个工具中每次调用可以加载约 11K token 的文档内容。如果推理链很长128K 的上下文窗口很容易被用完。AgenticRAG 的解决方案是两阶段触发对话达到 90% 预算时发出内部警告达到 100% 预算时强制触发 summarizesummarize 的核心机制不是简单截断而是选择性保留模型标注哪些引用 ID 需要保留系统扫描工具消息删除未被引用的内容。这意味着 LLM 可以持续深入调查不用担心上下文爆炸。Claude 和 GPT-5-mini 的策略差异论文在消融中发现了一个有趣的现象两个模型展现了不同的探索-利用策略。Claude Sonnet 4.5 偏利用更少的搜索调用2.51 vs 3.39更多的文档打开1.54 vs 1.22语义 find 使用量是 GPT-5-mini 的 3 倍0.42 vs 0.14总体策略搜少量候选 → 选最相关的深入阅读GPT-5-mini 偏探索更多的搜索调用更少的文档深入总体策略广撒网 → 多条改写查询覆盖在 BRIGHT 长文档场景中每个查询平均只有约 1.9 个相关文档分散在 5650 个长文档中利用策略更有效——Claude 在 8 个领域中 7 个领先 GPT-5-mini总体 recall1 高出 6.1 个百分点。效果5.9 倍提升从哪里来BRIGHT 长文档检索方法平均 recall1BM2511.4%Qwen 嵌入27.8%Voyage 嵌入24.5%ReDI推理增强26.0%AgenticRAG GPT-5-mini43.5%AgenticRAG Claude Sonnet 4.549.6%Claude Sonnet 4.5 比最优嵌入基线高出21.8 个百分点。在经济学、地球科学、机器人学领域提升超过 30 个百分点。关键消融单次搜索 vs Agent 工具配置recall1单次搜索底层企业搜索栈8.41% 完整 Agent 工具49.59%Claude/ 43.49%GPT-5-mini提升倍数5.9× / 5.2×这是论文最重要的发现底层搜索栈的质量差异在 Agent 能力面前几乎消失了。不需要换更好的嵌入模型、不需要训练重排序器——给 LLM 工具让它自己推理就行。WixQA 企业 QA在需要多文档推理的企业支持场景中GPT-5-mini AgenticRAG 达到 0.96 的事实性分数比最佳基线E5 嵌入0.85相对提升 13%。在模拟查询集上提升更大——达到 0.94 vs 0.77相对提升 22%。。FinanceBench 财报问答84 份长篇财报平均 143 页、117K tokenGPT-5-mini AgenticRAG 达到92% 正确率。作为对照直接给模型真实证据oracle的正确率是 94%——AgenticRAG仅差 2 个百分点几乎摸到了理论上限。Token 成本BRIGHT 上平均每次查询消耗 52.3K token相比单次搜索的 20.4K 是2.6 倍开销。但换来的是5.9 倍的召回提升——这个性价比相当不错。平均每次查询只需 4.48-4.79 次工具调用远低于 15 轮上限。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
这次走对了，微软AgenticRAG实测5.9倍提升
发布时间：2026/5/27 5:20:16
今天为大家分享微软 Copilot Studio 团队的一篇论文——AgenticRAG。标准RAG的根本问题传统 RAG 架构的逻辑很直观用户提问 → 搜索系统检索相关文档 → 把文档塞进 prompt → LLM 生成答案。这个架构有一个被广泛忽视的根本假设检索决定在 LLM 开始推理之前就已经做完了。LLM 接收的是一个固定的文档候选集没有机会说这个文档看起来有用让我进去翻一翻也没有机会说这几条结果都不对让我换个角度再搜一次。对于简单的知识查询“什么是机器学习”这个架构没问题。但在企业场景里知识工作者的查询往往是这样的“SAP 系统在多租户模式下怎么配置 OAuth 2.0”“我们上季度 SaaS 收入中有多少来自年付合同”“这个 Jenkins pipeline 的超时问题怎么排查”这些查询有两个特点高度情境化需要结合多个上下文理解意图且答案分散在多份长文档中。标准搜索栈擅长关键词匹配和短语义查询但处理不了这种需要多步推理的信息需求。把检索权交给LLMAgenticRAG 的核心思想极其朴素不要让搜索系统替 LLM 做决定给 LLM 工具让它自己决定搜什么、看什么、翻到哪里。具体来说论文在现有企业搜索栈之上加了一层轻量级的 Agent 工具框架包含四个工具四个工具search— 企业级文档发现。委托给底层企业搜索栈如 Azure AI Search每次调用最多并行发出 5 条查询改写。返回 snippet、标题、文件名、文件类型等元数据。每条结果分配唯一引用 ID供后续工具使用。find— 文档内搜索。给定一个引用 ID 和一组关键词模式在目标文档内做精准搜索。支持词汇匹配大小写不敏感子串匹配和可选的语义匹配模式。每个模式最多返回 2 个匹配段落总 token 限制约 11K。open— 滚动窗口文档阅读。每次返回 1800 行的固定窗口。响应头包含当前位置和总长度如 “Viewing lines [0–1799] of 3000 lines”。模型可以通过指定行号跳转到文档任意位置实现对超长文档的逐段导航。summarize— 上下文压缩。当 token 使用量接近 128K 预算时自动触发。模型记录当前推理结论标注要保留的引用 ID系统清除未引用的工具返回内容释放 token 空间。推理循环整个系统运行在一个有界迭代循环中默认最多 15 轮。每一轮LLM 看到当前对话历史和工具 schema要么选择调用工具并追加结果到对话要么直接输出最终答案。终止条件只有两个模型主动输出文本回答达到最大迭代次数强制生成回答这个设计有一个关键优势完全不需要模型微调、自定义嵌入模型、图构建或语料预处理。只要企业搜索栈已经把文档索引好直接套上这个工具框架就能用。方法细节搜索结果如何被利用search 返回的是 snippet 预览不包含完整文档内容。这意味着模型看到搜索结果后需要做出判断哪些文档值得深入查看用什么方式查看这里有两个精度工具可以选find适合知道要找什么的场景——比如在这份财报里找到净利润这一行open适合知道要看哪里的场景——比如打开这个文档的第 500 行附近看看那个表格论文通过系统提示system prompt引导模型正确使用工具比如先搜索再回答、“片段不够就用 find 或 open 深入”、“不要重复搜索复用之前的结果”。多查询并行搜索search 工具的一个设计亮点模型可以在一次 tool call 中同时发出最多 5 条查询改写。结果去重后合并返回。消融实验表明这个功能对性能几乎没有影响44.84% vs 49.59%但显著提升了效率——平均工具调用次数从 6.79 降到 4.79减少了 29%。多条查询并行执行比多轮串行更节省迭代次数。上下文管理机制四个工具中每次调用可以加载约 11K token 的文档内容。如果推理链很长128K 的上下文窗口很容易被用完。AgenticRAG 的解决方案是两阶段触发对话达到 90% 预算时发出内部警告达到 100% 预算时强制触发 summarizesummarize 的核心机制不是简单截断而是选择性保留模型标注哪些引用 ID 需要保留系统扫描工具消息删除未被引用的内容。这意味着 LLM 可以持续深入调查不用担心上下文爆炸。Claude 和 GPT-5-mini 的策略差异论文在消融中发现了一个有趣的现象两个模型展现了不同的探索-利用策略。Claude Sonnet 4.5 偏利用更少的搜索调用2.51 vs 3.39更多的文档打开1.54 vs 1.22语义 find 使用量是 GPT-5-mini 的 3 倍0.42 vs 0.14总体策略搜少量候选 → 选最相关的深入阅读GPT-5-mini 偏探索更多的搜索调用更少的文档深入总体策略广撒网 → 多条改写查询覆盖在 BRIGHT 长文档场景中每个查询平均只有约 1.9 个相关文档分散在 5650 个长文档中利用策略更有效——Claude 在 8 个领域中 7 个领先 GPT-5-mini总体 recall1 高出 6.1 个百分点。效果5.9 倍提升从哪里来BRIGHT 长文档检索方法平均 recall1BM2511.4%Qwen 嵌入27.8%Voyage 嵌入24.5%ReDI推理增强26.0%AgenticRAG GPT-5-mini43.5%AgenticRAG Claude Sonnet 4.549.6%Claude Sonnet 4.5 比最优嵌入基线高出21.8 个百分点。在经济学、地球科学、机器人学领域提升超过 30 个百分点。关键消融单次搜索 vs Agent 工具配置recall1单次搜索底层企业搜索栈8.41% 完整 Agent 工具49.59%Claude/ 43.49%GPT-5-mini提升倍数5.9× / 5.2×这是论文最重要的发现底层搜索栈的质量差异在 Agent 能力面前几乎消失了。不需要换更好的嵌入模型、不需要训练重排序器——给 LLM 工具让它自己推理就行。WixQA 企业 QA在需要多文档推理的企业支持场景中GPT-5-mini AgenticRAG 达到 0.96 的事实性分数比最佳基线E5 嵌入0.85相对提升 13%。在模拟查询集上提升更大——达到 0.94 vs 0.77相对提升 22%。。FinanceBench 财报问答84 份长篇财报平均 143 页、117K tokenGPT-5-mini AgenticRAG 达到92% 正确率。作为对照直接给模型真实证据oracle的正确率是 94%——AgenticRAG仅差 2 个百分点几乎摸到了理论上限。Token 成本BRIGHT 上平均每次查询消耗 52.3K token相比单次搜索的 20.4K 是2.6 倍开销。但换来的是5.9 倍的召回提升——这个性价比相当不错。平均每次查询只需 4.48-4.79 次工具调用远低于 15 轮上限。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
