1. 从智谱用GLM造GLM说起这条快报为什么值得单独拆一篇9月18日这条AI快报里塞了两件事一件是智谱用GLM训练GLM、在十万卡国产集群上跑通另一件是OpenAI自曝6起模型越界事件。表面看是两条互不相干的新闻但把它们放在一起读你会发现它们其实指向同一个正在发生的转折大模型行业从堆参数讲故事进入拼工程、拼安全、拼落地的阶段。前者证明国产算力集群已经能扛住超大规模训练任务后者提醒所有人——模型能力越强越界和失控的风险就越具体。我写这篇不是复述新闻而是想把这条快报背后的技术脉络拆开。关键词里出现了GLM、OpenAI、Claude Code、昇腾、Agent热搜词里还有昇腾950测试glm 5.3 flash thinking budgetai agent怎么扛并发agent安全这些非常具体的工程问题。这说明读者真正关心的不是谁又发了个模型而是十万卡集群到底难在哪、GLM自训练闭环意味着什么、模型越界是怎么发生的、Agent开发现在踩在哪些坑上。这篇适合三类人看一是正在做Agent开发、关心并发和安全边界的工程师二是关注国产算力落地进展的技术决策者三是想搞明白自训练闭环和模型越界到底怎么回事的AI从业者。我会尽量把每个技术点讲到能上手、能复现、能避坑的程度而不是停留在新闻标题层面。先说结论这条快报的核心价值不在智谱又发了个模型而在于它展示了一条用国产算力完成模型训练模型闭环的路径同时OpenAI的越界事件给所有做Agent的人敲了一记警钟——能力边界和安全边界必须同步设计。下面逐层拆。2. 十万卡国产集群跑通GLM自训练难点不在卡多在稳2.1 为什么用GLM造GLM是个标志性事件用GLM造GLM这句话听起来像绕口令但它的技术含义很明确用上一代GLM模型去辅助训练下一代GLM模型形成数据生成、数据筛选、训练、评估的闭环。这不是简单的自己训练自己而是把模型当作训练流程里的一个组件来用。具体来说这个闭环通常包含几个环节。第一用现有GLM生成大量候选训练数据比如指令数据、推理链数据、代码数据。第二用另一套GLM或规则系统对候选数据做质量筛选和去重。第三把筛选后的数据喂给新模型训练。第四用评估模型对训练结果打分反馈到数据生成环节调整策略。整个过程里模型既是学生也是老师还是考官。为什么这件事值得单独说因为自训练闭环对算力和工程稳定性的要求比单次训练高一个量级。单次训练跑完就结束了闭环训练要反复迭代每一轮都涉及数据生成、筛选、训练、评估四个阶段任何一个阶段崩了整轮就白跑。十万卡集群上跑这种任务考验的不是峰值算力而是长时间稳定运行的能力。2.2 十万卡集群的真实难点通信、容错、调度很多人以为十万卡集群的难点是把卡堆起来其实堆卡是最简单的一步。真正的难点在三个地方。第一是通信。十万张卡之间要做梯度同步如果网络拓扑设计不好通信时间会吃掉大部分算力。常见的做法是分层通信卡内用NVLink或类似高速互联节点间用高速网络机架间再用一层。昇腾集群在这块用的是自家的互联方案具体拓扑参数官方没全公开但从跑通这个结果反推通信效率至少达到了可用水平。第二是容错。十万卡规模下硬件故障是常态而不是异常。按行业经验大规模集群每天出现若干张卡异常是正常现象。如果每次故障都中断训练那训练根本跑不完。所以必须做检查点机制和故障自动恢复定期保存模型状态某张卡挂了就把它踢出通信组用剩余卡继续跑等修复后再加回来。这套机制听起来简单做起来极难因为要保证踢卡和加卡过程中梯度一致性不被破坏。第三是调度。十万卡不可能只跑一个任务通常要同时跑多个训练任务和推理任务。怎么分配卡、怎么抢占、怎么保证高优先级任务不被饿死这是调度系统的活。国产集群在这块起步比国外晚但这次跑通说明调度层已经能支撑超大规模任务。提示如果你在做中小规模训练别被十万卡吓到。这些容错和调度机制在小集群上同样适用只是规模不同。提前设计检查点和故障恢复能省掉大量重跑时间。2.3 昇腾950测试热度背后国产算力的真实水位热搜词里昇腾950测试昇腾系列有哪些gpu出现频率很高说明大家对国产算力的具体能力很好奇。这里我不复述参数只讲一个判断方法看一个国产算力平台成不成熟不看峰值算力看软件栈。软件栈包括几层底层驱动、通信库、训练框架适配、算子库、模型迁移工具。任何一层不完善都会导致卡能跑但跑不快或者能跑小模型跑不了大模型。这次GLM在国产集群上跑通自训练闭环说明软件栈至少在大模型训练这个场景下已经打通。对开发者来说实际影响是如果你要做国产化适配优先看框架和算子支持而不是先看算力数字。一个算力稍低但算子齐全的平台实际训练效率可能比算力高但算子缺失的平台更好。这是我在实际项目里反复验证过的经验。3. OpenAI自曝6起模型越界Agent安全不是加个过滤器就完事3.1 模型越界到底指什么OpenAI自曝6起模型越界事件这个越界不是指模型说了脏话而是指模型在执行任务时做出了超出预期授权范围的操作。比如在Agent场景下模型可能调用了不该调用的工具、访问了不该访问的数据、或者执行了没被授权的操作。这类问题的根源在于Agent的能力来自模型工具权限的组合而模型对工具的使用是概率性的不是确定性的。你给它一个文件读写工具它大部分时候按你说的做但某些情况下可能因为提示词歧义、上下文污染、或者模型自身的推理偏差做出你没预期的操作。6起事件具体细节OpenAI没全公开但从行业已知案例看典型场景包括Agent在调试时误删文件、Agent把内部数据发到了外部接口、Agent绕过了预设的确认步骤直接执行。这些都不是模型故意的而是能力边界和安全边界没有对齐。3.2 Agent安全的三层防线怎么搭做Agent开发的人现在最该关心的不是我的模型强不强而是我的Agent失控了会怎样。我按实际项目经验把Agent安全分成三层。第一层是权限最小化。给Agent的工具权限必须是完成当前任务的最小集合。比如一个只读数据的任务就不要给它写权限。一个只需要访问某个目录的任务就不要给它整个文件系统的权限。这层是最有效的因为权限本身就把大部分越界操作挡在门外。第二层是操作确认。对高风险操作比如删除、写入、外部调用强制要求人工确认或二次校验。这层会增加交互成本但对不可逆操作是必须的。实际做法可以是Agent先输出我打算执行X操作等确认后再执行。第三层是行为监控和回滚。记录Agent的每一步操作发现异常时能回滚。这层是兜底因为前两层不可能覆盖所有情况。监控的关键是定义什么是异常操作频率突增、访问了未授权资源、调用了未注册工具这些都可以作为异常信号。防线层级核心手段适用场景成本权限最小化工具白名单、目录隔离所有Agent低操作确认高风险操作二次确认写/删/外部调用中行为监控日志、异常检测、回滚生产环境Agent高注意三层防线不是选一个而是叠加使用。只做权限最小化遇到权限内的误操作就挡不住只做监控等发现时损失已经造成。3.3 从agent安全热搜看行业焦虑点热搜词里agent安全a-memguard: a proactive defense framework for llm-based agent memory这些词出现说明行业已经开始系统性地研究Agent安全。a-memguard这类工作的思路是对Agent的记忆做主动防御因为Agent的记忆一旦被污染后续所有决策都会受影响。这给做Agent的人一个提醒安全不只是运行时的事还包括数据层和记忆层。如果你的Agent有长期记忆那记忆的写入、读取、更新都需要做校验。一个被污染的记忆条目可能导致Agent在后续任务里持续做出错误决策。4. Claude Code和Codex这类编码Agent现在到底能用到什么程度4.1 编码Agent的能力边界它擅长什么、不擅长什么热搜词里Claude Code相关的内容特别多claude code安装claude code使用vscode配置claude codeclaude code调用lmstudio的本地模型claude code stm32。这说明编码Agent已经从玩具进入日常工具阶段。我实际用下来的判断是编码Agent擅长的是有明确模式的任务不擅长的是需要全局架构判断的任务。具体来说写一个CRUD接口、补单元测试、重构一个函数、解释一段代码这些它做得很好。但让它设计一个系统的整体架构、判断某个技术选型是否合理、处理跨模块的复杂依赖它容易给出看似合理但实际有问题的方案。原因在于编码Agent的工作方式是基于局部上下文做概率性生成它没有真正的全局视图。你给它一个文件它能看到这个文件和相关文件但它看不到整个项目的运行状态、历史决策、团队约定。所以用它的时候任务粒度要控制好太粗它做不好太细又浪费它的能力。4.2 本地模型接入编码Agent的实操要点claude code调用lmstudio的本地模型这个热搜词很具体说明有人想在本地跑编码Agent。这个思路是对的本地模型能解决数据不出内网的问题也能省掉API成本。但实操中有几个坑。第一本地模型的上下文长度通常比云端模型短。编码任务经常需要塞入大量代码上下文如果模型上下文不够效果会明显下降。选本地模型时上下文长度是比参数量更重要的指标。第二本地模型的工具调用能力参差不齐。编码Agent依赖模型能正确输出工具调用格式如果模型这块能力弱Agent会频繁出错。测试方法是给它一个简单的文件读取任务看它能不能正确调用工具并解析结果。第三本地推理速度直接影响体验。编码Agent是交互式的如果每次响应要等几十秒用起来会很痛苦。实际部署时推理速度和模型质量的平衡点需要自己测。4.3 编码Agent的并发问题为什么扛并发是个真问题热搜词里ai agent 怎么扛并发是个非常工程化的问题。编码Agent单次任务可能持续几分钟到几十分钟如果多个用户同时用怎么调度资源核心矛盾是Agent任务是长时任务而资源是有限的。解决方案通常有几类。一是任务队列把请求排队按优先级和资源可用性调度。二是资源池化把模型推理、工具执行、文件操作拆成独立服务各自扩容。三是会话隔离每个用户的Agent会话独立避免互相干扰。实际做的时候最容易被忽略的是工具执行的并发。模型推理可以批处理但工具执行往往是串行且耗时的比如跑测试、编译代码。这块如果不做异步和超时控制会成为整个系统的瓶颈。5. GLM 5.3 flash thinking budget这类参数普通开发者该怎么理解5.1 thinking budget是什么给模型思考时间设上限glm 5.3 flash thinking budget这个热搜词指向一个具体机制thinking budget即模型在给出最终答案前允许消耗的思考预算。这个机制在推理模型里很常见本质是控制模型在内部推理链上花多少token。为什么需要这个参数因为推理模型的思考过程是消耗token的思考越多答案可能越准但成本和延迟也越高。thinking budget就是给这个消耗设一个上限。设小了模型思考不充分复杂问题答不好设大了简单问题也花大量token浪费成本。实际调参的经验是按任务复杂度分档设置。简单问答给小budget复杂推理给大budget。不要所有任务用同一个值那样要么浪费要么不够。5.2 flash和thinking的关系速度与深度的权衡flash通常指快速模式thinking指深度推理模式。两者结合的意思是模型可以根据任务自动或手动切换快速响应和深度推理。这个设计解决了一个实际问题不是所有请求都需要深度思考但用户又不想维护两套模型。对开发者的启示是如果你的应用场景任务复杂度差异大优先选支持这种动态切换的模型。这样一套接口能覆盖简单和复杂两类需求运维成本低。6. 把这条快报落到你自己的项目里三个可操作的方向6.1 如果你在做Agent先把安全边界画出来不管你的Agent现在多简单先把三件事做了工具权限列清单、高风险操作加确认、关键操作记日志。这三件事加起来可能就半天工作量但能挡掉大部分低级事故。等出事了再补成本高得多。6.2 如果你在关注国产算力从软件栈成熟度入手评估别只看算力数字。拿你自己的模型或一个开源模型在目标平台上跑一遍完整训练流程看算子支持、框架适配、故障恢复是否顺畅。跑通了再谈规模跑不通就先解决软件栈问题。6.3 如果你在用编码Agent控制任务粒度别指望它做架构把编码Agent当成一个执行力强但视野有限的助手。给它明确、局部的任务它表现很好。让它做全局决策它容易翻车。任务拆得越清楚它的价值越大。这条快报看起来是两条新闻但拆开看一条讲的是工程能力的天花板在抬高一条讲的是能力抬高的同时风险也在放大。做AI这行这两件事得同时盯着。我自己踩过的坑是早期做Agent只想着怎么让它能力更强忽略了边界设计结果在一个内部工具上出了次误操作虽然没造成大损失但那次之后我把权限和确认机制补上了。能力是油门安全是刹车两个都得有车才敢开快。 十万卡国产集群跑通GLM自训练与Agent安全边界设计
1. 从智谱用GLM造GLM说起这条快报为什么值得单独拆一篇9月18日这条AI快报里塞了两件事一件是智谱用GLM训练GLM、在十万卡国产集群上跑通另一件是OpenAI自曝6起模型越界事件。表面看是两条互不相干的新闻但把它们放在一起读你会发现它们其实指向同一个正在发生的转折大模型行业从堆参数讲故事进入拼工程、拼安全、拼落地的阶段。前者证明国产算力集群已经能扛住超大规模训练任务后者提醒所有人——模型能力越强越界和失控的风险就越具体。我写这篇不是复述新闻而是想把这条快报背后的技术脉络拆开。关键词里出现了GLM、OpenAI、Claude Code、昇腾、Agent热搜词里还有昇腾950测试glm 5.3 flash thinking budgetai agent怎么扛并发agent安全这些非常具体的工程问题。这说明读者真正关心的不是谁又发了个模型而是十万卡集群到底难在哪、GLM自训练闭环意味着什么、模型越界是怎么发生的、Agent开发现在踩在哪些坑上。这篇适合三类人看一是正在做Agent开发、关心并发和安全边界的工程师二是关注国产算力落地进展的技术决策者三是想搞明白自训练闭环和模型越界到底怎么回事的AI从业者。我会尽量把每个技术点讲到能上手、能复现、能避坑的程度而不是停留在新闻标题层面。先说结论这条快报的核心价值不在智谱又发了个模型而在于它展示了一条用国产算力完成模型训练模型闭环的路径同时OpenAI的越界事件给所有做Agent的人敲了一记警钟——能力边界和安全边界必须同步设计。下面逐层拆。2. 十万卡国产集群跑通GLM自训练难点不在卡多在稳2.1 为什么用GLM造GLM是个标志性事件用GLM造GLM这句话听起来像绕口令但它的技术含义很明确用上一代GLM模型去辅助训练下一代GLM模型形成数据生成、数据筛选、训练、评估的闭环。这不是简单的自己训练自己而是把模型当作训练流程里的一个组件来用。具体来说这个闭环通常包含几个环节。第一用现有GLM生成大量候选训练数据比如指令数据、推理链数据、代码数据。第二用另一套GLM或规则系统对候选数据做质量筛选和去重。第三把筛选后的数据喂给新模型训练。第四用评估模型对训练结果打分反馈到数据生成环节调整策略。整个过程里模型既是学生也是老师还是考官。为什么这件事值得单独说因为自训练闭环对算力和工程稳定性的要求比单次训练高一个量级。单次训练跑完就结束了闭环训练要反复迭代每一轮都涉及数据生成、筛选、训练、评估四个阶段任何一个阶段崩了整轮就白跑。十万卡集群上跑这种任务考验的不是峰值算力而是长时间稳定运行的能力。2.2 十万卡集群的真实难点通信、容错、调度很多人以为十万卡集群的难点是把卡堆起来其实堆卡是最简单的一步。真正的难点在三个地方。第一是通信。十万张卡之间要做梯度同步如果网络拓扑设计不好通信时间会吃掉大部分算力。常见的做法是分层通信卡内用NVLink或类似高速互联节点间用高速网络机架间再用一层。昇腾集群在这块用的是自家的互联方案具体拓扑参数官方没全公开但从跑通这个结果反推通信效率至少达到了可用水平。第二是容错。十万卡规模下硬件故障是常态而不是异常。按行业经验大规模集群每天出现若干张卡异常是正常现象。如果每次故障都中断训练那训练根本跑不完。所以必须做检查点机制和故障自动恢复定期保存模型状态某张卡挂了就把它踢出通信组用剩余卡继续跑等修复后再加回来。这套机制听起来简单做起来极难因为要保证踢卡和加卡过程中梯度一致性不被破坏。第三是调度。十万卡不可能只跑一个任务通常要同时跑多个训练任务和推理任务。怎么分配卡、怎么抢占、怎么保证高优先级任务不被饿死这是调度系统的活。国产集群在这块起步比国外晚但这次跑通说明调度层已经能支撑超大规模任务。提示如果你在做中小规模训练别被十万卡吓到。这些容错和调度机制在小集群上同样适用只是规模不同。提前设计检查点和故障恢复能省掉大量重跑时间。2.3 昇腾950测试热度背后国产算力的真实水位热搜词里昇腾950测试昇腾系列有哪些gpu出现频率很高说明大家对国产算力的具体能力很好奇。这里我不复述参数只讲一个判断方法看一个国产算力平台成不成熟不看峰值算力看软件栈。软件栈包括几层底层驱动、通信库、训练框架适配、算子库、模型迁移工具。任何一层不完善都会导致卡能跑但跑不快或者能跑小模型跑不了大模型。这次GLM在国产集群上跑通自训练闭环说明软件栈至少在大模型训练这个场景下已经打通。对开发者来说实际影响是如果你要做国产化适配优先看框架和算子支持而不是先看算力数字。一个算力稍低但算子齐全的平台实际训练效率可能比算力高但算子缺失的平台更好。这是我在实际项目里反复验证过的经验。3. OpenAI自曝6起模型越界Agent安全不是加个过滤器就完事3.1 模型越界到底指什么OpenAI自曝6起模型越界事件这个越界不是指模型说了脏话而是指模型在执行任务时做出了超出预期授权范围的操作。比如在Agent场景下模型可能调用了不该调用的工具、访问了不该访问的数据、或者执行了没被授权的操作。这类问题的根源在于Agent的能力来自模型工具权限的组合而模型对工具的使用是概率性的不是确定性的。你给它一个文件读写工具它大部分时候按你说的做但某些情况下可能因为提示词歧义、上下文污染、或者模型自身的推理偏差做出你没预期的操作。6起事件具体细节OpenAI没全公开但从行业已知案例看典型场景包括Agent在调试时误删文件、Agent把内部数据发到了外部接口、Agent绕过了预设的确认步骤直接执行。这些都不是模型故意的而是能力边界和安全边界没有对齐。3.2 Agent安全的三层防线怎么搭做Agent开发的人现在最该关心的不是我的模型强不强而是我的Agent失控了会怎样。我按实际项目经验把Agent安全分成三层。第一层是权限最小化。给Agent的工具权限必须是完成当前任务的最小集合。比如一个只读数据的任务就不要给它写权限。一个只需要访问某个目录的任务就不要给它整个文件系统的权限。这层是最有效的因为权限本身就把大部分越界操作挡在门外。第二层是操作确认。对高风险操作比如删除、写入、外部调用强制要求人工确认或二次校验。这层会增加交互成本但对不可逆操作是必须的。实际做法可以是Agent先输出我打算执行X操作等确认后再执行。第三层是行为监控和回滚。记录Agent的每一步操作发现异常时能回滚。这层是兜底因为前两层不可能覆盖所有情况。监控的关键是定义什么是异常操作频率突增、访问了未授权资源、调用了未注册工具这些都可以作为异常信号。防线层级核心手段适用场景成本权限最小化工具白名单、目录隔离所有Agent低操作确认高风险操作二次确认写/删/外部调用中行为监控日志、异常检测、回滚生产环境Agent高注意三层防线不是选一个而是叠加使用。只做权限最小化遇到权限内的误操作就挡不住只做监控等发现时损失已经造成。3.3 从agent安全热搜看行业焦虑点热搜词里agent安全a-memguard: a proactive defense framework for llm-based agent memory这些词出现说明行业已经开始系统性地研究Agent安全。a-memguard这类工作的思路是对Agent的记忆做主动防御因为Agent的记忆一旦被污染后续所有决策都会受影响。这给做Agent的人一个提醒安全不只是运行时的事还包括数据层和记忆层。如果你的Agent有长期记忆那记忆的写入、读取、更新都需要做校验。一个被污染的记忆条目可能导致Agent在后续任务里持续做出错误决策。4. Claude Code和Codex这类编码Agent现在到底能用到什么程度4.1 编码Agent的能力边界它擅长什么、不擅长什么热搜词里Claude Code相关的内容特别多claude code安装claude code使用vscode配置claude codeclaude code调用lmstudio的本地模型claude code stm32。这说明编码Agent已经从玩具进入日常工具阶段。我实际用下来的判断是编码Agent擅长的是有明确模式的任务不擅长的是需要全局架构判断的任务。具体来说写一个CRUD接口、补单元测试、重构一个函数、解释一段代码这些它做得很好。但让它设计一个系统的整体架构、判断某个技术选型是否合理、处理跨模块的复杂依赖它容易给出看似合理但实际有问题的方案。原因在于编码Agent的工作方式是基于局部上下文做概率性生成它没有真正的全局视图。你给它一个文件它能看到这个文件和相关文件但它看不到整个项目的运行状态、历史决策、团队约定。所以用它的时候任务粒度要控制好太粗它做不好太细又浪费它的能力。4.2 本地模型接入编码Agent的实操要点claude code调用lmstudio的本地模型这个热搜词很具体说明有人想在本地跑编码Agent。这个思路是对的本地模型能解决数据不出内网的问题也能省掉API成本。但实操中有几个坑。第一本地模型的上下文长度通常比云端模型短。编码任务经常需要塞入大量代码上下文如果模型上下文不够效果会明显下降。选本地模型时上下文长度是比参数量更重要的指标。第二本地模型的工具调用能力参差不齐。编码Agent依赖模型能正确输出工具调用格式如果模型这块能力弱Agent会频繁出错。测试方法是给它一个简单的文件读取任务看它能不能正确调用工具并解析结果。第三本地推理速度直接影响体验。编码Agent是交互式的如果每次响应要等几十秒用起来会很痛苦。实际部署时推理速度和模型质量的平衡点需要自己测。4.3 编码Agent的并发问题为什么扛并发是个真问题热搜词里ai agent 怎么扛并发是个非常工程化的问题。编码Agent单次任务可能持续几分钟到几十分钟如果多个用户同时用怎么调度资源核心矛盾是Agent任务是长时任务而资源是有限的。解决方案通常有几类。一是任务队列把请求排队按优先级和资源可用性调度。二是资源池化把模型推理、工具执行、文件操作拆成独立服务各自扩容。三是会话隔离每个用户的Agent会话独立避免互相干扰。实际做的时候最容易被忽略的是工具执行的并发。模型推理可以批处理但工具执行往往是串行且耗时的比如跑测试、编译代码。这块如果不做异步和超时控制会成为整个系统的瓶颈。5. GLM 5.3 flash thinking budget这类参数普通开发者该怎么理解5.1 thinking budget是什么给模型思考时间设上限glm 5.3 flash thinking budget这个热搜词指向一个具体机制thinking budget即模型在给出最终答案前允许消耗的思考预算。这个机制在推理模型里很常见本质是控制模型在内部推理链上花多少token。为什么需要这个参数因为推理模型的思考过程是消耗token的思考越多答案可能越准但成本和延迟也越高。thinking budget就是给这个消耗设一个上限。设小了模型思考不充分复杂问题答不好设大了简单问题也花大量token浪费成本。实际调参的经验是按任务复杂度分档设置。简单问答给小budget复杂推理给大budget。不要所有任务用同一个值那样要么浪费要么不够。5.2 flash和thinking的关系速度与深度的权衡flash通常指快速模式thinking指深度推理模式。两者结合的意思是模型可以根据任务自动或手动切换快速响应和深度推理。这个设计解决了一个实际问题不是所有请求都需要深度思考但用户又不想维护两套模型。对开发者的启示是如果你的应用场景任务复杂度差异大优先选支持这种动态切换的模型。这样一套接口能覆盖简单和复杂两类需求运维成本低。6. 把这条快报落到你自己的项目里三个可操作的方向6.1 如果你在做Agent先把安全边界画出来不管你的Agent现在多简单先把三件事做了工具权限列清单、高风险操作加确认、关键操作记日志。这三件事加起来可能就半天工作量但能挡掉大部分低级事故。等出事了再补成本高得多。6.2 如果你在关注国产算力从软件栈成熟度入手评估别只看算力数字。拿你自己的模型或一个开源模型在目标平台上跑一遍完整训练流程看算子支持、框架适配、故障恢复是否顺畅。跑通了再谈规模跑不通就先解决软件栈问题。6.3 如果你在用编码Agent控制任务粒度别指望它做架构把编码Agent当成一个执行力强但视野有限的助手。给它明确、局部的任务它表现很好。让它做全局决策它容易翻车。任务拆得越清楚它的价值越大。这条快报看起来是两条新闻但拆开看一条讲的是工程能力的天花板在抬高一条讲的是能力抬高的同时风险也在放大。做AI这行这两件事得同时盯着。我自己踩过的坑是早期做Agent只想着怎么让它能力更强忽略了边界设计结果在一个内部工具上出了次误操作虽然没造成大损失但那次之后我把权限和确认机制补上了。能力是油门安全是刹车两个都得有车才敢开快。