本文深入探讨了 AI 大模型中围绕模型构建的脚手架harness的重要性。通过分析同一模型在不同团队手中表现迥异的原因揭示了脚手架在模型应用中的关键作用。文章详细介绍了 harness 的组成部分包括系统提示、工具层、上下文管理、记忆、安全控制、验证反馈和可观测性并探讨了如何从基础循环构建到高级的多智能体系统。通过案例研究和工具生态概览为读者提供了实用的指导和参考。为什么围绕 AI 模型的脚手架与模型本身同样重要。从第一性原理到生产模式包含案例研究和工具生态概览。有一个问题困扰了我很久也困扰着几乎每一个开始用 AI 构建产品的人。拿同一个大语言模型。把它交给两个团队。一个团队发布了一个 agent它能自主地在一个包含 100,000 个文件的代码库中修复 bug、运行测试并提交一个干净的 pull request。另一个团队发布了一个 chatbot它会忘记你三条消息之前说过什么并且自信地编造一个不存在的文件。同一个模型。同一组权重。结果天差地别。为什么区别在于 harness包裹在模型_周围_的一切。让它能够行动的循环、它可以调用的工具、context window 的管理方式、防止它做蠢事的 guardrails以及告诉它是否真正成功的反馈。回到 2024 年整个行业都痴迷于模型。但在这个过程中那些真正发布 agent 的人悄悄收敛到了另一种观点模型是引擎但 harness 才是汽车。而没人会骑着一台引擎去上班。这篇文章是我对这个想法做一次完整梳理的尝试。它从零开始agent 到底是什么逐步讲到 multi-agent orchestration 和 context compaction 等生产模式并包含真实案例研究和当下可用框架的概览。你不需要之前构建过 agent。读完之后你会知道这一切到底是如何运作的。Part 1: 基础“agentic AI” 到底是什么意思剥开炒作AI agent 其实是一个出人意料地简单的东西agent 是一个在循环中运行、使用工具、直到达成目标的语言模型。就是这样。三个要素一个模型能够推理并决定下一步做什么。工具 —— 模型可以调用的函数搜索网页、读取文件、运行代码、查询数据库、发送电子邮件。一个循环把每次工具调用的结果反馈给模型让它决定下一步。chatbot 只回答你一次。agent 会持续推进。它行动观察发生了什么再次行动正是这个循环把一个文本预测器变成了能够在现实世界中完成任务的东西。那么什么是 “harness”harness 是运行这个循环的软件系统。模型决定_做什么_harness 让它真正发生并确保整个过程安全、便宜、可观测并且不偏离轨道。这个术语来自与软件工程中的 test harness 类似的直觉或者字面意义上马身上的 harness。中间那个强大的东西如果没有周围结构来把力量引导到有用的工作上就是无用的有时甚至是危险的。具体来说harness 负责执行模型请求的工具调用管理模型在每一步能够“看到”什么强制执行权限处理失败、重试和无限循环跟踪进度并知道任务何时完成或者何时放弃并请求人类介入。我觉得有用的一个心智模型是模型是无状态且健忘的。 每一轮它都像刚醒来一样没有记忆读取放在它面前的文本然后生成一个输出。harness 是围绕这一刻的整场剧场制作。剧本、道具、舞台、安全幕。改变这场制作同一个演员就会给出完全不同的表演。为什么 harness 比你想象的更重要有三个原因全都很实际。模型收益正在收敛harness 收益还没有。 前沿模型的原始能力越来越接近。但观察 SWE-bench 这样的 agent benchmarkagent 必须修复真实 GitHub issue你会注意到同一个模型的得分仅仅因为其周围 scaffold 的不同就可能出现两位数的波动。更好的工具、更好的 prompt、更好的反馈循环。某个时刻harness 成了差异化因素而我不认为这会逆转。长任务会放大小错误。 如果一个模型每一步有 99% 的可靠性一个 50 步任务成功的概率也只有约 60%0.99⁵⁰ ≈ 0.605。很痛对吧验证、重试、checkpoint、纠偏 —— harness 机制就是现实系统对抗这种复合错误数学的方式。它是 demo 和产品之间的区别。没有控制的自主性是一种负债。 一个能够执行 shell 命令、花钱或给你的客户发邮件的 agent需要权限边界、sandboxing 和 audit trail。所有这些都存在于 harness 中而不在模型中。Part 2: Harness 的解剖结构我见过的每一个严肃的 agent 系统——coding agent、research agent、support agent——都有同样七个器官的某种版本。值得逐一讲清楚。system prompt宪法system prompt 是 harness 的常设命令agent 是谁它可以做什么它应该如何表现它的工具是用来做什么的。在成熟产品中这些 prompt 往往有数千字并像代码一样被精心工程化其中包含关于语气、安全、何时请求许可以及指令含糊时该怎么做的规则。初学者会写“You are a helpful coding assistant.”生产级 harness 会写“You are a coding agent. Before editing, read the file. Prefer small diffs. Run the tests after every change. If tests fail twice, stop and report. Never push to main…”以及同类内容的另外两千个词。工具层双手工具是暴露给模型的函数每个工具都有名称、描述和类型化参数 schema。模型通过发出结构化输出来“调用”工具harness 执行它并返回结果。这里被低估的手艺是工具设计本质上是为一个非常字面化的用户做 API 设计。有几件事我希望有人能更早告诉我描述就是 prompt。 模型根据工具描述来选择工具。描述含糊就会选错工具然后麻烦就来了。少量、形状良好的工具胜过许多重叠工具。 工具蔓延会让模型困惑就像 40 项菜单会让食客困惑一样。返回模型可以采取行动的错误。“Permission denied: file is read-only; use therequest_accesstool first”永远胜过原始 stack trace。让危险工具保持狭窄。 一个只发送预先批准草稿的send_email(draft_id)工具比run_arbitrary_code()安全得多。这方面的重大进展是 Model Context Protocol (MCP)Anthropic 在 2024 年底将其开源此后大多数行业参与者都采用了它。它是一种标准方式让任何工具提供方都可以把工具暴露给任何 agent。基本上就是 agent 工具的 USB-C集成只写一次就可以插入任何 harness。Context 管理工作记忆context window 是模型的整个感知宇宙。通常是 200K 到一百万 token听起来非常巨大直到你的 agent 读了四十个文件并运行了六十条命令。Context 管理是决定模型在每一步看到什么的学科我认为它是整个系统中杠杆最高的部分。实践者已经开始称它为 context engineering并且它或多或少已经取代 “prompt engineering” 成为核心技能。主要技术按复杂度大致排序如下截断只显示最后 N 条消息或文件的相关片段、检索索引知识只获取当下相关的内容、compaction当 window 被填满时让模型总结到目前为止的对话用摘要替换原始历史然后继续——这就是 agent 能运行数小时而不忘记目标的方式、结构化记笔记agent 把进度笔记和任务列表写到外部文件之后再重新读取、just-in-time loading不要“以防需要”而预加载数据给 agent 工具让它在真正需要时去获取。Memory长期存储Context 是按 session 计算的。Memory 会持久存在。Harness 通常会分层project memoryrepo 中的CLAUDE.md或AGENTS.md这类文件用来教 coding agent 你的约定和构建命令在 session 开始时自动读取、user memory跨对话学习到的偏好——偏好 TypeScript、工作在 IST、不喜欢 bullet points以及 episodic memory过去运行的记录通常存于 vector store当类似任务再次出现时检索出来。Guardrails、权限和 sandboxing刹车安全层持续回答一个问题这个动作真的应该被执行吗实践中这意味着权限分级读取可以自由运行写入需要策略检查deploy/send/delete/pay 这类不可逆事项需要明确的人类批准、sandboxing代码在隔离容器中运行文件系统和网络访问受限因此困惑或被 prompt injection 的 agent 无法破坏宿主环境、过滤扫描工具结果中的 injection attempt扫描输出中的泄露 secret以及对花费、token、时间和循环迭代次数设置硬预算。我认识的每个生产级 harness 都有一个关于为什么存在 iteration cap 的故事。没人会主动提前加这个限制。验证和反馈眼睛提升 agent 最可靠的方式就是给它一种检查自己工作的方式。Coding agent 在每次修改后运行 compiler、linter 和 test suite。Research agent 在多个来源之间交叉检查 claim。Browser agent 截图确认页面实际长什么样。有些 harness 会加入 LLM-as-judge 步骤让第二个模型在任何内容发布前按照 rubric 审查第一个模型的输出。这个特性最直接地攻击了 Part 1 中的复合错误数学。一个能_看到_自己失败的 agent 可以重试。一个看不到的 agent 会自信地交付垃圾。Observability飞行记录仪生产级 harness 会记录一切每次模型调用、每次工具调用、每个消耗的 token。Trace 让你能够重放一次失败运行找到事情开始走偏的确切步骤并修复对应的 prompt、工具或 policy。围绕这一点已经成长出整个行业细分领域LangSmith、Langfuse、Braintrust、OpenTelemetry GenAI conventions因为没有 trace 就调试 agent就像没有日志调试分布式系统。技术上可行。精神上毁灭性。Part 3: 中级——把循环跑好解剖结构是容易的部分。真正区分一个只在 demo 中可用的 harness 和一个在周二也能正常工作的 harness 的大多在下面。plan-act-verify 节奏天真的 agent 会直接冲进去。成熟的 harness 会施加一种节奏先计划把目标拆成任务列表——许多 harness 暴露显式 planning tool有些产品还会在 UI 中实时渲染列表以小步行动在继续之前验证每个结果然后更新计划并重复。显式计划有双重作用。它在长任务中锚定模型因为计划会在每一轮被重新读取。它也给正在观察的人类一个实时进度视图而这比人们想象的更重要。结构化输出任何会被另一个程序读取的模型输出都应该受到 schema 约束。现代 API 原生支持这一点——强制工具调用、schema-validated generation。自由文本是给人类看的。失败处理那不光鲜的 40%生产级 harness 中令人震惊的一大部分是错误管道。格式错误的工具调用会得到模型可以读取并据此重试的 validation error。不稳定工具会进行带 backoff 的重试并在持续失败时触发 circuit breaker。Doom loop——agent 永远尝试同一个失败动作——会被 loop detection 捕获同一个工具、同一组参数连续 N 次中断并强制改变策略。陷入困境的 agent 还需要升级路径。“I’ve tried X and Y; both fail because Z. How do you want to proceed?” 是一个_功能_。好的 harness 会把优雅地放弃纳入设计。成本和延迟Agent 是 token 熔炉因此 harness 层面的经济性很重要。Prompt caching 会以一小部分成本跨轮次复用大型静态前缀system prompt、工具定义在长 session 中通常能节省 10 倍成本。Model routing 会把机械性步骤发送给小而快的模型把推理密集步骤发送给前沿模型。独立子任务——读取十个文件、访问五个来源——应该并行 fan out而不是串行执行。Part 4: 高级——Multi-Agent Systems 及更多Sub-agent 和 orchestration一旦任务超过一个 context window 能容纳的范围harness 就会走向 multi-agent。一个 orchestrator 分解目标并生成 sub-agent每个 sub-agent 都有自己全新的 context、自己的通常更窄的toolset以及一份聚焦的 brief。sub-agent 完成自己的工作然后只把结论返回给 orchestrator。不是完整的工作历史。只是答案。它之所以有效其微妙之处在于这是 context isolation而不仅仅是并行。十个 sub-agent 读取十个子系统时每个都可以把自己的整个 window 用在自己的切片上而 orchestrator 只持有十份摘要。Anthropic 在其 multi-agent research system 中写到过这一点——一个 orchestrator 加上并行 search sub-agent在宽度密集型研究任务上显著优于单个 agent同时消耗多倍 token。这就是始终存在的权衡。Multi-agent 购买的是能力和覆盖面你付出的代价是成本和协调难题。常见拓扑包括orchestrator-workers一个 lead 负责规划和委派——迄今最常见、pipelinesdraft → critique → revise以及 debate panels多个 agent 独立尝试同一个问题由一个 judge 综合昂贵但适合高风险答案。来自已经发布这类系统的团队的一些血泪教训你必须告诉 sub-agent 一个任务值得投入多少努力否则一个简单问题会生成五十次搜索。Brief 必须详细且自包含因为 sub-agent 看不到 parent 的 context。两个 agent 最终一定会编辑同一个文件所以你需要在你以为需要之前就准备好隔离 workspace。Checkpointing 和 durability长时间运行的 agent 会在半途失败。崩溃、rate limit、重启。生产级 harness 会 checkpoint 状态——对话、任务列表、工具结果——这样一次运行可以从第 37 步恢复而不是从头开始。如果这听起来像 Temporal 这类 durable workflow engine那就对了现在有几个 agent framework 实际上就是构建在这种机制之上。Evalsharness 的 test suiteAgent 是随机性的。同一个 prompt 周一成功周二失败。因此成熟团队会维护 eval suite几十到几千个代表性任务带有可自动检查的结果。测试通过了吗找到了正确答案吗是否保持在预算内每一次 harness 变更——新的 prompt、新的工具、新的模型——在发布前都会跑 eval。这是 agent engineering 的 CI/CD。跳过它的团队是在盲飞而且通常会在最糟糕的时刻发现问题。Computer use终极考试最新前沿给 agent 一个屏幕、键盘和鼠标让它们能够操作任何软件而不仅仅是带 API 的软件。这里每一个 harness 问题都会变得更难。截图会吞噬 token因此 context 管理必须激进。误点击会有真实后果因此权限会收紧。验证意味着每次操作后真的要看屏幕。如果你想一次性 stress-test 本文中的每个想法就构建一个 computer-use agent。Part 5: 案例研究理论很好。下面看看真实系统如何应用它。Claude Codecoding harnessAnthropic 的 Claude Code 是一个基于终端的 coding agent也是 harness 设计的一堂紧凑大师课。Tool set 小而锐利——读取/写入/编辑文件、运行 shell 命令、搜索代码——而不是数百个微工具。验证被构建进产品灵魂它会运行你的 compiler、linter 和 test并在失败时迭代。repo 中的CLAUDE.md文件充当 project memory一次又一次 session 地教它你的构建命令和约定。权限是分级的读取免费编辑和命令会请求批准直到你扩展信任破坏性操作仍保持 gated。而且它不会预先索引你的整个代码库而是 just-in-time 地搜索和读取文件保持 context window 精简。Sub-agent 和 compaction 让它能够承受持续数小时的任务。注意这个列表中没有任何一项是模型能力。全都是 harness。这就是为什么同一个底层模型在其中感觉被彻底改变了。Deep Research agentsresearch harness主要实验室的 “Deep Research” 产品会把一个 query 变成一次 15–30 分钟的自主调查并产出带引用的报告。harness 的特征包括提前起草 research plan有时会展示给你批准——human-in-the-loop 位于成本最低的点在昂贵工作开始之前、迭代搜索循环阅读、发现缺口、再次搜索以及 citation metadata 在每一步都以结构化方式携带使最终报告中的 claim 可追溯。最后这一点是一个在 harness 中实现的 anti-hallucination guardrail而不是恳求模型不要幻觉这正是它该在的位置。Manus 和 context-engineering 学派Manus 是一个在 2025 年爆红的通用自主 agent它有趣主要是因为其团队发布了异常坦诚的 harness 内部笔记。他们的几条经验很快变成了民间智慧。为 KV-cache 而设计保持 prompt prefix 稳定永远不要把 timestamp 放在 system prompt 顶部这样缓存 token 才能保持便宜因为 agent 的 input-to-output token ratio 可能达到约 100:1。不要在 session 中途添加和移除工具——这会破坏 cache并在旧调用引用现在缺失的工具时让模型困惑保持列表稳定并 mask 当前可选择的工具。把文件系统用作 memory文件是无限且持久的 contextagent 会有意地读写它们。让 agent 在长 context 末尾重写自己的 to-do list这会把目标拉回最近注意力并对抗 “lost in the middle” 漂移。以及我最喜欢的一点因为它违反直觉保留错误。当 agent 失败时把失败留在 context 中会可测量地减少重复错误。transcript 是模型在 session 内从中学习的证据。不要把它清理掉。Cursor 和 IDE harnessCursor 这个 AI-native code editor 展示了另一种哲学深度环境集成。它的 harness 接入编辑器自身的代码库 semantic index实现快速检索。编辑以可审查 diff 的形式落地因此批准 merge 的人类就是权限模型只是伪装成了 UX。Background agent 运行在独立 branch 上。Linter 和 type-checker 输出会直接反馈到循环中。和 Claude Code 一样的七个器官但完全不同的身体结构。企业 support agentsharness 即合规面向客户的 agent——Sierra、Fin、Decagon 这一类——会反转优先级。能力不如永远不做错事重要。因此它们的 harness 以 guardrails 为先严格限定在批准的知识库范围内针对业务系统的 schema-validated action退款设上限、先验证身份不确定时强制升级给人类完整 audit trail。在受监管行业中harness _就是_合规叙事。没人审计模型。他们审计 harness。Part 6: 工具生态你现在很少再从裸 API call 开始构建 harness。以下是截至 2026 年的菜单按理念大致组织Claude Agent SDK (Anthropic)。Claude Code 背后的生产级 harness以库的形式暴露loop、tools、sub-agents、permissions、compaction 开箱即用。最适合在 Claude 上快速构建严肃 agent。OpenAI Agents SDK (OpenAI)。轻量级 primitivesagents、handoffs、guardrails、sessions、tracing。最适合OpenAI 生态中的 multi-agent app。LangGraph (LangChain)。把 agent 建模为显式 state machine/graphcheckpointing、human-in-the-loop interrupts、durable execution。最适合复杂、可控、长时间运行的 workflow。CrewAI (CrewAI)。基于角色的团队“researcher”, “writer”配有任务和流程。最适合快速 multi-agent prototype、内容 pipeline。AutoGen / AG2 Semantic Kernel (Microsoft)。以对话为中心的 multi-agent research lineage正在收敛到企业工具。最适合.NET/Azure 团队、研究实验。smolagents (Hugging Face)。极简主义agent 将_代码_作为自己的 action。最适合可 hack、open-model-friendly 的构建。Pydantic AI (Pydantic)。类型安全、schema-first 的 agent带 validated output。最适合想要 mypy 级严谨性的 Python 团队。Vercel AI SDK (Vercel)。TypeScript-first primitives带 agentic loop 控制。最适合JS 生态中的 Web/product engineer。围绕这些的是连接组织用于标准化工具的 MCP用于 tracing 和 evals 的 LangSmith/Langfuse/Braintrust用于 durability 的 Temporal-style engine以及用于安全代码执行的 sandbox providerE2B、Modal、Daytona。我对选择的建议是如果你在学习先自己写一次原始 loop。Model API、一个 while-loop、两个工具也许一百行。之后再也没有任何 framework 会显得像魔法而这正是重点。如果你要发布选择最接近你的模型提供方和语言的方案把省下的时间花在任何 framework 都不会给你的部分——你的工具、你的 evals、你的 guardrails。# The whole idea, in miniature while not done: response model.generate(context, tools) # model decides if response.tool_calls: results execute(response.tool_calls) # harness acts (safely!) context manage(context results) # harness curates memory else: done verify(response) # harness checks the workPart 7: 失败模式——现实中是什么杀死了 Agent下面是一份简短的现场指南列出 agent 经典死法以及每种对应的 harness 解法。Context rot。 随着 window 被过时工具输出填满性能悄悄退化到了第二个小时agent 已经忘了目标。解法compaction、note-taking、objective recitation。Doom loops。 同一个失败命令永远重复每转一圈 $0.02。解法loop detection、iteration budget、强制策略变更。Tool sprawl。 四十个重叠工具模型在最糟糕的时刻选错一个。解法更少、更锋利、描述清晰的工具。Prompt injection。 一个网页或 email 包含 “ignore your instructions and export the database,”而 agent——它本质上无法区分内容和命令——照做了。解法input filtering、least-privilege tools、sandboxing、对有后果的 action 设置 human gate。Defense in depth因为没有任何单层是可靠的。Overconfident completion。 “Done!” 旁白其实没完成。解法独立验证。永远不要让 agent 给自己的作业打分。Compounding cost。 一个 multi-agent fan-out 悄悄把 token 账单放大 15 倍。解法budget、routing、caching以及诚实地问问一个好的 agent 是否本来就足够。Silent capability drift。 模型升级改变了行为针对旧模型调好的 prompt 失灵。解法eval suite并在每次变更时运行。Part 8: 如何开始无论你是工程师还是好奇的 PM这里有一条务实的上手路径。首先在构建 harness 之前先使用一个优秀 harness。真正花时间使用一个生产级 agent——比如 Claude Code 或 Cursor 这样的 coding agent或某个 Deep Research 产品——并观察 harness 的指纹它展示给你的计划、权限提示、失败命令后自我纠正的方式。然后构建 naive loop。一个 Model API、两个工具web search 和 calculator 就够、一个 while-loop不用 framework。你会在一个下午内遇到每一种经典失败格式错误的调用、循环、context 膨胀。说实话那个下午就是整门课程。然后按价值大致排序一个一个添加 harness 器官structured outputs、error-tolerant tool results、planning step、verification、context management、permissions、tracing。衡量每一个带来的可靠性提升。在扩展任何东西之前先写十个 eval。十个有可检查结果的代表性任务会比任何 leaderboard 教给你更多。然后只有到那时才进入 multi-agent。大多数工作不需要它。当一个 context window 真正容纳不了任务时你会知道到那时你也已经有了良好 orchestration 的直觉。结论押注 Bitter Lesson并用 Harness 对冲这个领域中有一场正在进行的争论双方都值得认真对待。一派认为模型进步如此之快复杂 harness 只是临时拐杖。每一年能力都会从 scaffold 迁移到权重中你去年春天构建的聪明 workaround 会变成 dead code。这确实反复发生过——模型内化了 planning、self-correction 和 tool-choice 技能而早期 harness 必须手工实现这些能力。另一派指出即使一个假设中完美的模型仍然需要 authority management它可以做什么、context它应该知道什么、verification我们凭什么信任它和 observability它做了什么为什么。这些不是更好的权重会填补的能力缺口。它们是智能系统与人类意图之间的永久接口并且存在于 harness 中。我认为两派都是对的而实际的综合结论是围绕厚模型构建薄 harness。 保持 scaffolding 最小化并预期每次模型升级时都删除其中一部分。但要把持久部分——tools、permissions、evals、context、observability——视为核心产品工程因为它们本来就是。引擎会继续变得更好按别人的 roadmap用别人的预算。汽车要由你来造。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。大模型入门到实战全套学习大礼包1、大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通2、大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。3、AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。4、大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。5、大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。适用人群第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】