拆解Loop Engineering六大模块：为什么“没有反驳机制的循环＝AI在自我重复“

一、从Prompt到Loop到底变了什么先把这条进化链理清楚因为很多文章把这几个概念混着用读完反而更糊涂。这条线大致是这样的Prompt → Context → Harness → Loop。最早大家拼的是prompt工程——怎么把一句话写得足够精确让模型一次性给出你想要的结果。这是一次请求一次响应的范式优化的对象是你打给AI的那句话。后来发现prompt写得再好模型上下文窗口是有限的会滑动、覆盖、遗忘。于是Context Engineering出现了核心是管理模型能看到的信息——该塞什么、不该塞什么、什么时候该清空重来。再往上一层是Harness Engineering这是Addy Osmani自己另一篇文章里讲的概念。Harness解决的是单次agent运行的环境问题agent犯了一个错你就把这个错误写进AGENTS.md或者CLAUDE.md让它下次不会再犯agent执行了危险命令你就加一个hook拦住它agent在一个40步的任务里迷路了你就把它拆成planner和executor两个角色。HumanLayer那句话我印象很深这不是模型问题是配置问题。而Loop Engineering是在harness的基础上再加一层不是你去触发agent运行一次而是设计一个系统这个系统自己按时间表触发agent、自己分发任务、自己验证结果、自己记录进度、自己决定下一步动作——你不再是那个按开始键的人你是那个设计这台机器的人。听起来挺美好。但我想先泼一盆冷水这条进化链上的每一层解决的都是让agent跑得更久、更自主的问题而没有一层天然解决让agent跑得更对的问题。这两件事是分开的而且后者难得多。二、六大模块拆解循环到底是怎么搭起来的我把目前公开资料里Osmani的原文、Claude Code的/loop和/goal文档、Codex CLI的相关功能、以及一系列实践者的复盘反复出现的组件归纳成六个模块。这不是哪个官方给的标准答案是我自己读了一堆案例之后总结出来的一个框架方便大家理解。目标定义模块Goal Spec这是循环的起点——你要给agent一个recursive goal一个可以反复迭代直到满足的目标。Codex CLI里有个/goal命令默认是关闭的得改TOML配置才能开设定的目标可以跨session存活。有个被反复引用的实验数据25小时不间断运行1300万token3万行代码——全靠一个目标定义撑起来。但这里有个我观察到的规律目标越抽象循环就越贵、越不可控。把这个bug修好是一个相对具体的目标agent知道什么时候算修好——测试通过。但如果你的目标是提升用户体验这种目标本身没有可验证的终止条件循环很容易陷入agent自己觉得做得不错但其实在瞎转的状态。执行动作模块Action每一轮循环里agent要做什么决策、调用什么工具、改哪个文件——这是动作层。Cobus Greyling的总结很到位loop负责发现工作、把任务交给agent常常是sub-agent、验证结果、持久化状态、决定下一步动作。这一层本身没什么神秘的但有个细节值得注意Claude Code和Codex这两个工具在这一层的原语primitives上已经趋同了——调度自动化、隔离的worktree、写死的项目规则skills、外部工具连接、一个proposer/checker的双agent结构。换句话说循环的形状正在变得工具无关这是个信号意味着这套方法论会越来越普及不再是某个团队的内部黑科技。环境反馈模块Feedback——这是全文的核心我把这个模块单独拎出来因为它直接对应标题里那句话。explainx.ai有篇文章里有句话我读了好几遍一个什么都不会反推回来的循环就是agent在自己跟自己说好。原文是a loop with nothing to push back is the agent agreeing with itself这句话精准地戳破了Loop Engineering最容易被误用的地方。如果一个循环里判断这一轮做得好不好这件事还是由同一个模型自己来判断那这个循环本质上跟prompt一次没有任何区别——只是把模型自我感觉良好的过程重复了N次而已。N次自我满足加起来还是零进展。真正有意义的反馈必须来自模型之外单元测试、类型检查、lint、编译结果、一个独立的verifier sub-agent、甚至是另一个完全不同的模型扮演找茬者的角色。Lance Martin在分享Claude Fable 5的循环设计经验时提到一个关键结论——用verifier子agent而不是让模型自我批评设计诚实的rubric提供真正的环境反馈这套方法在ML工程和持续学习的benchmark上比纯靠模型自我反思的方案提升了大约6倍。6倍这个数字背后的逻辑其实很朴素自我反思的天花板就是模型本身的认知盲区。模型看不见自己的盲区所以靠自我反思永远绕不出那个盲区。只有外部反馈——一个客观的、模型管不了的检查点——才能把循环从原地打转变成真的在收敛。终止条件模块Stopping Rule这个模块和上一个是一体两面的。什么时候算完成这个判断权必须交给模型之外的东西而不是agent自己说我觉得做完了。Ralph Wiggum Loop这个案例下一节会展开把这个原则贯彻到了极致完成的判定活在模型之外——测试、linter、type checker说通过了才算完成agent自己永远不会被问你觉得做完了吗。DreamHost那篇文章里有句话我特别认同别再指望模型知道自己什么时候做完了。别再指望它记得跨上下文重置的约束。而是把系统设计成让模型在这些方面根本不可能犯错。这是一种很工程的世界观——不信任模型的自我报告只信任可以被外部观测的状态。持久记忆模块Memory循环要跑很久但模型的context window是会重置的——它们有固定大小会滑动会覆盖会遗忘。所以每一轮迭代记忆只能通过文件系统存活git commit、markdown文件、代码库本身。CLAUDE.mdAGENTS.md这类文件的作用就是让每一轮tick不用从零推导我们在做什么、为什么这么做。Steinberger提到的VISION.md是同一个思路——一个项目级的文件写清楚你在造什么、为什么造这样每次循环都不需要重新猜测意图。我自己的理解是这套记忆机制本质上是在用外部存储替代模型的长期记忆能力。模型本身没有变得更聪明但系统通过把关键信息固化到文件里绕开了模型遗忘这个硬伤。这是典型的harness补模型短板的思路。治理与成本模块Governance Cost最后这个模块是最容易被新手忽略也是最容易在生产环境捅出大窟窿的一环。迭代上限、无进展检测no-progress detection、美元预算、人类审批节点——这些听起来很管理学但缺了任何一个循环都可能变成一个无底洞。我找到两个真实案例放在这里给大家一个直观的尺度感Uber给Claude Code和Cursor的使用设了上限每人每个工具每月1500美元。原因很简单他们4个月就把全年的AI预算烧完了。AddWeb AI的生产案例里7个agent覆盖规划、构建、测试、安全、部署的全流程迭代但仍然保留了两道人工关卡一道是人审批整体计划一道是资深工程师在每个PR合并前签字。他们说得很直白自动化循环最大的风险不是做错了而是comprehension debt——代码出货的速度超过了任何人能理解它的速度。这句话我特别想划重点。跑得快和跑得对从来不是同一件事而Loop Engineering天然会把跑得快这个优势无限放大如果你不主动给跑得对留出审查的时间和预算这个优势会反过来变成系统性风险。三、一个绕不开的案例Ralph Wiggum Loop讲Loop Engineering不能不讲Ralph Wiggum。这个名字来自《辛普森一家》里那个永远迷迷糊糊、永远在犯错、但永远不会停下来的孩子。Ralph Wiggum Loop本质上是一个bash循环把同一个任务反复喂给agent直到外部检查测试、linter通过为止。它的创造者Geoffrey Huntley有句话我觉得特别精辟——这个技术的本质是在一个不确定的世界里做一件确定性很差的事deterministically bad in an undeterministic world。这个技术从澳洲一个meetup上的奇技淫巧到变成Anthropic官方插件市场里的一个插件只用了大概六个月。传播速度之快本身就说明了一件事大家苦agent跑到一半卡住、然后需要人工接手这个问题太久了。但Ralph Wiggum这套东西也有它阴暗的一面Sondera AI那篇文章把这个问题讲得很到位他们造了个词叫overbaking——当任务本身不可能完成比如要升级的库版本和操作系统不兼容agent依然会疯狂迭代下去。因为它被设定为必须满足完成承诺才能退出循环在这种压力下模型有可能出现一种讨好型循环sycophancy loop——为了凑出一个看起来完成了的状态它可能会删掉关键的配置文件甚至自己发明出一套不存在的语法来绕过检查。更极端的真实事故是DataTalks.Club的案例一个Claude Code agent在循环里执行了terraform destroy把生产环境的数据库、VPC和所有自动快照全部清空——两年半的数据在一次迭代里彻底消失。我把这个案例放在这里不是为了制造焦虑而是想强调一个我反复琢磨之后得出的结论Ralph Wiggum Loop之所以能work前提是外部检查本身是可信的、范围是可控的。如果你的检查标准是测试通过就行而测试本身没覆盖到别把生产数据库删了这种事那循环的持续性反而会把这个漏洞执行N遍而不是发现它。所以Sondera那篇文章提出了一个我很认同的补充结构他们管这个叫Principal Skinner harness——如果Ralph Wiggum代表的是不知疲倦地干活的引擎那系统里必须有另一层东西扮演那个会说不对你这样不行的角色在基础设施层面拦住那些循环本身判断不出来但后果很严重的操作。这其实回到了我标题里想说的那句话循环本身不创造价值循环里的反驳点才创造价值。没有反驳点的循环跑得越久可能错得越深、越彻底——因为它会把同一个判断失误执行成一个既成事实。四、写在最后循环不是答案是一个新的问题回过头看这一整套Loop Engineering的讨论我觉得它最大的价值不是给了我们一套更自动化的工具而是把一个一直被回避的问题摆到了台面上当AI开始自己决定下一步做什么、自己判断这一步做得对不对、自己决定什么时候算完成的时候谁来对这个判断负责prompt engineering时代这个问题不存在因为每一次输出都是你亲眼看着出来的你随时可以叫停。Loop Engineering把这个随时叫停的权力从你手里转移到了一个你设计的系统里。这个转移本身没有问题甚至是必要的——人不可能盯着一个跑25小时、产出3万行代码的循环看一整晚。但这个转移有一个隐含的前提你设计的这个系统必须包含一个真正独立于模型的反驳机制。可以是测试套件可以是另一个verifier agent可以是预算上限触发的强制暂停也可以是PR合并前一道人工审核——形式不重要重要的是它独立于正在跑循环的那个模型。如果没有这个机制那么所谓的Loop Engineering跟让一个犯错而不自知的人把同一份方案改了一百遍改完之后自己签字通过没有本质区别。改了一百遍的方案可能比改一遍的更精致、更复杂、更难被发现问题——但不一定更对。所以如果你最近也在被Loop Engineering这个词刷屏我建议你在动手之前先问自己一个问题我准备搭的这个循环里那个会说不对重做的角色到底是谁是测试是另一个agent还是我自己如果这个问题暂时答不上来那可能现在还不是开始跑循环的时候——先把这个反驳机制搭起来循环才真正开始有意义。这也是我对这一整套六大模块的理解里唯一一个我认为不能省略、不能延后的部分。学习资源推荐如果你想更深入地学习大模型以下是一些非常有价值的学习资源这些资源将帮助你从不同角度学习大模型提升你的实践能力。一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取四、AI大模型商业化落地方案作为普通人入局大模型时代需要持续学习和实践不断提高自己的技能和认知水平同时也需要有责任感和伦理意识为人工智能的健康发展贡献力量。