![[人工智能]ML、DL、RL、AI、LLM、RAG与Agent：概念与架构概览](http://pic.xiahunao.cn/yaotu/[人工智能]ML、DL、RL、AI、LLM、RAG与Agent：概念与架构概览)
本文从工程实践角度对机器学习ML、深度学习DL、强化学习RL、人工智能AI、大语言模型LLM、检索增强生成RAG以及智能体Agent进行整体性概述。重点关注常见架构模式、典型工作流和评估指标并通过示意图和表格进行说明适合作为多页技术参考材料。图1ML/DL/RL等模型类别在整体应用中的示意性占比。图2训练与推理在CPU/GPU/内存资源使用上的示意性对比。图3检索增强生成管线中各阶段复杂度的示意。领域关注点典型方法示例应用机器学习ML从数据中学习模式与关系。线性模型、决策树、集成方法等。预测、分类、聚类等任务。深度学习DL利用神经网络自动学习特征表示。卷积网络、循环网络、Transformer等。图像、语音、自然语言、推荐系统等。强化学习RL通过奖励信号学习策略和行为。Q学习、策略梯度、Actor-Critic等。机器人控制、博弈、资源调度等。人工智能AI更宽泛的智能系统与应用。搜索、规划、知识图谱、ML/DL等。智能助手、决策支持、自动化系统等。大语言模型LLM针对文本和代码的大规模生成模型。基于Transformer的生成式模型。聊天机器人、摘要、代码生成等。检索增强生成RAG将检索与LLM生成结合的框架。向量检索、重排序、上下文构造等。知识问答、文档助手、企业搜索增强等。智能体Agent能够调用工具、模型和服务完成多步任务的系统。规划-执行循环、多智能体协同等。工作流自动化、复杂任务分解与执行等。表1ML、DL、RL、AI、LLM、RAG与Agent的整体技术版图示意。层次角色示例说明数据层存储文本、文档与结构化知识。对象存储、数据库、数据湖等。数据质量、治理与时效性非常关键。索引/检索层为RAG提供高效的相关内容检索能力。BM25、向量检索、混合检索等。检索效果直接影响回答的准确性与可信度。LLM层在检索到的上下文基础上进行生成和推理。通用LLM与领域定制LLM。需权衡延迟、成本与安全约束。编排/智能体层协调工具、模型和数据源完成多步任务。Agent框架、工作流引擎等。实现策略、记忆、多轮交互和复杂任务分解。表2LLM与RAG应用的典型技术栈层次示意。指标含义典型用途说明准确率/F1有监督任务在标签数据上的表现。度量分类和排序质量。需结合类别不平衡和业务目标选择合适指标。损失/奖励训练过程中优化的目标函数。指导ML、DL和RL的学习过程。若目标与实际部署行为不一致指标意义有限。时延推理端到端响应时间。影响用户体验和并发容量规划。包括模型、检索和编排等各环节开销。成本/能耗每次请求或每次训练的资源消耗。用于容量规划、成本控制和绿色计算。常以每Token或每Epoch成本进行统计。表3训练与评估ML/AI系统时常用的关键指标示意。1. 机器学习与深度学习基础传统机器学习侧重于利用相对小型的模型在人工设计的特征基础上从数据中学习映射关系。常见任务包括分类、回归、排序和聚类等典型方法有线性模型、决策树、随机森林和梯度提升等。深度学习则通过多层可微变换堆叠的神经网络对原始数据进行端到端特征学习。卷积网络擅长处理图像序列网络和Transformer架构广泛用于时间序列和自然语言并逐渐成为大规模模型的主流骨干。2. 强化学习与决策问题强化学习关注在环境中通过试错交互和奖励信号学习策略。与有监督学习不同数据由智能体与环境互动产生反馈可能稀疏或延迟。核心概念包括状态、动作、奖励及环境转移过程算法从表格型Q学习扩展到深度Actor-Critic等多种形式。在实际工程中强化学习常与深度学习结合以处理高维观测例如游戏画面或机器人传感器。用于资源调度、推荐优化和控制场景时需要重点关注安全性、离线评估以及策略约束。3. 人工智能系统从工程角度看人工智能指能够体现目标导向行为、推理和适应性的系统。早期AI包括搜索与规划算法、基于规则的专家系统以及知识表示如图谱与本体。当前许多AI系统将符号方法与统计ML/DL能力结合。在生产环境中AI解决方案通常集成数据管线、训练工作流、推理服务、监控与治理机制。除准确率之外还需要考虑可靠性、公平性、鲁棒性和可解释性等非功能要求并将其纳入整体设计。4. 大语言模型LLM大语言模型通常基于Transformer架构在大规模文本和代码语料上进行训练主要通过下一Token预测实现生成能力但在摘要、翻译、指令理解和代码生成等方面表现出涌现能力。通过微调与对齐技术可以使模型更安全、更符合用户期望。LLM工程实践涉及提示词设计、模型选择、上下文窗口管理以及评估工具。延迟和成本约束可通过批量处理、缓存、模型蒸馏和专用硬件部署进行优化同时需配套内容过滤、策略引导和持续红队测试来保障安全。5. 检索增强生成RAGRAG架构通过引入外部数据源缓解纯参数化LLM在知识时效性和事实可靠性方面的限制。典型流程包括查询理解、索引检索、上下文构造和基于检索内容的条件生成其中向量检索与传统排序方法往往结合使用。设计稳健的RAG系统需要关注分块策略、元数据设计、索引刷新频率和检索质量指标。评估通常结合信息检索指标如精确率、召回率、nDCG以及人工或任务相关的事实性和相关性评估并通过日志与可观测性定位检索失败或模型幻觉等问题模式。6. 智能体Agent与工具编排架构智能体在LLM和ML能力之上通过调用工具、API和服务完成多步任务。智能体可以维护内部状态规划动作序列并在执行过程中根据反馈调整策略多智能体架构则可用于角色分工和协同。从架构视角看智能体系统需要清晰定义能力边界、权限和防护策略。工具接口描述、结果校验以及会话记忆是关键组成部分。与现有基础设施如CI/CD、工单系统、监控平台的集成是将智能体从实验转化为可运行组件的关键步骤。7. 数据、评估与生命周期管理高质量数据是ML、DL、RL和LLM系统的基础包括原始日志、标注数据集以及精心构建的评估集。数据治理实践需要确保来源可追溯、访问控制合理并符合监管要求。对于RAG应用文档生命周期管理和索引刷新策略尤为重要。评估需要结合离线指标、在线实验如A/B测试以及定性审查。对于智能体其行为空间庞大因此基于场景的测试和仿真尤为有用。生命周期管理涉及持续训练、漂移监测、回滚策略以及模型与管线的责任归属。8. 部署与工程实践考虑在生产环境部署ML和AI系统时需要兼顾可扩展性、可靠性和集成性。常见部署模式包括REST推理服务、流式处理和批量评分基础设施可能覆盖CPU、GPU和专用加速器并利用自动扩缩和负载均衡应对流量波动。治理和合规流程应明确模型变更的审批与回滚机制以及出现问题时的响应路径。对于RAG和智能体系统需要严谨地限定工具和数据访问范围以避免意外行为。同时完善的文档和运维手册是保障长期维护的重要条件。
[人工智能]ML、DL、RL、AI、LLM、RAG与Agent：概念与架构概览
发布时间：2026/8/2 4:06:15
本文从工程实践角度对机器学习ML、深度学习DL、强化学习RL、人工智能AI、大语言模型LLM、检索增强生成RAG以及智能体Agent进行整体性概述。重点关注常见架构模式、典型工作流和评估指标并通过示意图和表格进行说明适合作为多页技术参考材料。图1ML/DL/RL等模型类别在整体应用中的示意性占比。图2训练与推理在CPU/GPU/内存资源使用上的示意性对比。图3检索增强生成管线中各阶段复杂度的示意。领域关注点典型方法示例应用机器学习ML从数据中学习模式与关系。线性模型、决策树、集成方法等。预测、分类、聚类等任务。深度学习DL利用神经网络自动学习特征表示。卷积网络、循环网络、Transformer等。图像、语音、自然语言、推荐系统等。强化学习RL通过奖励信号学习策略和行为。Q学习、策略梯度、Actor-Critic等。机器人控制、博弈、资源调度等。人工智能AI更宽泛的智能系统与应用。搜索、规划、知识图谱、ML/DL等。智能助手、决策支持、自动化系统等。大语言模型LLM针对文本和代码的大规模生成模型。基于Transformer的生成式模型。聊天机器人、摘要、代码生成等。检索增强生成RAG将检索与LLM生成结合的框架。向量检索、重排序、上下文构造等。知识问答、文档助手、企业搜索增强等。智能体Agent能够调用工具、模型和服务完成多步任务的系统。规划-执行循环、多智能体协同等。工作流自动化、复杂任务分解与执行等。表1ML、DL、RL、AI、LLM、RAG与Agent的整体技术版图示意。层次角色示例说明数据层存储文本、文档与结构化知识。对象存储、数据库、数据湖等。数据质量、治理与时效性非常关键。索引/检索层为RAG提供高效的相关内容检索能力。BM25、向量检索、混合检索等。检索效果直接影响回答的准确性与可信度。LLM层在检索到的上下文基础上进行生成和推理。通用LLM与领域定制LLM。需权衡延迟、成本与安全约束。编排/智能体层协调工具、模型和数据源完成多步任务。Agent框架、工作流引擎等。实现策略、记忆、多轮交互和复杂任务分解。表2LLM与RAG应用的典型技术栈层次示意。指标含义典型用途说明准确率/F1有监督任务在标签数据上的表现。度量分类和排序质量。需结合类别不平衡和业务目标选择合适指标。损失/奖励训练过程中优化的目标函数。指导ML、DL和RL的学习过程。若目标与实际部署行为不一致指标意义有限。时延推理端到端响应时间。影响用户体验和并发容量规划。包括模型、检索和编排等各环节开销。成本/能耗每次请求或每次训练的资源消耗。用于容量规划、成本控制和绿色计算。常以每Token或每Epoch成本进行统计。表3训练与评估ML/AI系统时常用的关键指标示意。1. 机器学习与深度学习基础传统机器学习侧重于利用相对小型的模型在人工设计的特征基础上从数据中学习映射关系。常见任务包括分类、回归、排序和聚类等典型方法有线性模型、决策树、随机森林和梯度提升等。深度学习则通过多层可微变换堆叠的神经网络对原始数据进行端到端特征学习。卷积网络擅长处理图像序列网络和Transformer架构广泛用于时间序列和自然语言并逐渐成为大规模模型的主流骨干。2. 强化学习与决策问题强化学习关注在环境中通过试错交互和奖励信号学习策略。与有监督学习不同数据由智能体与环境互动产生反馈可能稀疏或延迟。核心概念包括状态、动作、奖励及环境转移过程算法从表格型Q学习扩展到深度Actor-Critic等多种形式。在实际工程中强化学习常与深度学习结合以处理高维观测例如游戏画面或机器人传感器。用于资源调度、推荐优化和控制场景时需要重点关注安全性、离线评估以及策略约束。3. 人工智能系统从工程角度看人工智能指能够体现目标导向行为、推理和适应性的系统。早期AI包括搜索与规划算法、基于规则的专家系统以及知识表示如图谱与本体。当前许多AI系统将符号方法与统计ML/DL能力结合。在生产环境中AI解决方案通常集成数据管线、训练工作流、推理服务、监控与治理机制。除准确率之外还需要考虑可靠性、公平性、鲁棒性和可解释性等非功能要求并将其纳入整体设计。4. 大语言模型LLM大语言模型通常基于Transformer架构在大规模文本和代码语料上进行训练主要通过下一Token预测实现生成能力但在摘要、翻译、指令理解和代码生成等方面表现出涌现能力。通过微调与对齐技术可以使模型更安全、更符合用户期望。LLM工程实践涉及提示词设计、模型选择、上下文窗口管理以及评估工具。延迟和成本约束可通过批量处理、缓存、模型蒸馏和专用硬件部署进行优化同时需配套内容过滤、策略引导和持续红队测试来保障安全。5. 检索增强生成RAGRAG架构通过引入外部数据源缓解纯参数化LLM在知识时效性和事实可靠性方面的限制。典型流程包括查询理解、索引检索、上下文构造和基于检索内容的条件生成其中向量检索与传统排序方法往往结合使用。设计稳健的RAG系统需要关注分块策略、元数据设计、索引刷新频率和检索质量指标。评估通常结合信息检索指标如精确率、召回率、nDCG以及人工或任务相关的事实性和相关性评估并通过日志与可观测性定位检索失败或模型幻觉等问题模式。6. 智能体Agent与工具编排架构智能体在LLM和ML能力之上通过调用工具、API和服务完成多步任务。智能体可以维护内部状态规划动作序列并在执行过程中根据反馈调整策略多智能体架构则可用于角色分工和协同。从架构视角看智能体系统需要清晰定义能力边界、权限和防护策略。工具接口描述、结果校验以及会话记忆是关键组成部分。与现有基础设施如CI/CD、工单系统、监控平台的集成是将智能体从实验转化为可运行组件的关键步骤。7. 数据、评估与生命周期管理高质量数据是ML、DL、RL和LLM系统的基础包括原始日志、标注数据集以及精心构建的评估集。数据治理实践需要确保来源可追溯、访问控制合理并符合监管要求。对于RAG应用文档生命周期管理和索引刷新策略尤为重要。评估需要结合离线指标、在线实验如A/B测试以及定性审查。对于智能体其行为空间庞大因此基于场景的测试和仿真尤为有用。生命周期管理涉及持续训练、漂移监测、回滚策略以及模型与管线的责任归属。8. 部署与工程实践考虑在生产环境部署ML和AI系统时需要兼顾可扩展性、可靠性和集成性。常见部署模式包括REST推理服务、流式处理和批量评分基础设施可能覆盖CPU、GPU和专用加速器并利用自动扩缩和负载均衡应对流量波动。治理和合规流程应明确模型变更的审批与回滚机制以及出现问题时的响应路径。对于RAG和智能体系统需要严谨地限定工具和数据访问范围以避免意外行为。同时完善的文档和运维手册是保障长期维护的重要条件。
)
