尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

腾讯云ADP实战:把智能体从“会回答”推向“会办事”

腾讯云ADP实战:把智能体从“会回答”推向“会办事” 前阵子有个客户问我你们那个“智能体”能不能直接帮我处理售后工单我说能啊结果他补了一句——“不是那种答非所问的聊天机器人是能自己查订单、改状态、发通知的那种。”这句话其实戳中了当前企业级Agent落地最大的痛点绝大多数Agent还停留在“会回答”的阶段离“懂场景”差着十万八千里。我这两年用腾讯云ADP智能体开发引擎做了几个企业级项目从最初的客服问答机器人到后来能联动内部系统完成完整业务闭环的“数字员工”中间踩了不少坑也摸清了这个引擎到底适合干什么、不适合干什么。今天不写产品文档就从一个实际干活的人的角度聊聊ADP是怎么把Agent从“会说话”推向“会办事”的。1. 先讲清楚为什么多数企业Agent停在“会回答”阶段1.1 大模型自带的能力边界很多人对大模型有误解觉得GPT、文心、混元这些底座模型“什么都会”。实际上底座模型最擅长的是文本生成与理解也就是把你问的问题映射到一个概率最大的回答序列上。它内部没有你的订单数据库不知道你的库存实时状态也不能帮你修改CRM里的客户等级。换句话说模型是一颗很强的大脑但它没有手、没有脚、没有眼睛。你问它“我们公司上个月退单率是多少”它要么编一个数要么告诉你“很抱歉我无法获取实时数据”。这种体验放在个人闲聊场景没什么放在企业流程里就是不可用的。1.2 RAG解决了“知”的问题没解决“行”的问题RAG检索增强生成是目前企业做知识库问答的主流方案把文档切片、向量化用户提问时检索相关片段拼进上下文让模型基于检索结果回答。这个方案确实让Agent从“只会胡说”进步到“能引用资料回答”解决的是知的问题。但企业业务的完整链路是知道之后还要决策决策之后还要执行执行之后还要反馈。比如客户说“我要改收获地址”客服Agent需要先查到订单判断订单状态是否允许修改调用发货系统的接口改地址再通知客户“已改好预计影响送达时间”。这中间涉及身份鉴权、状态判断、多系统调用、结果确认RAG管不了这些这是工作流和工具调用的范畴。1.3 “懂场景”的本质是三个能力的叠加做了几个项目之后我总结“懂场景”的Agent和“会回答”的Agent核心差距就三个感知场景能力能理解用户当前处于什么业务环节是咨询、投诉、还是办理业务而不是机械地匹配问题模板。编排行动能力能把一个复杂任务拆解成多步操作按业务规则调用不同工具遇到分支条件能走对路径。记忆与自适应能力能记住本次会话甚至长期对话中的关键信息在多次交互中保持一致的服务状态。这三个能力单靠提示词工程做不出来必须有一个平台层的引擎帮你把模型、工具、流程、记忆、权限串起来。这就是ADP这类智能体开发引擎存在的根本原因。2. ADP引擎的核心设计把“模型能力”变成“业务执行力”2.1 工作流编排是引擎的灵魂我最早接触ADP时最直观的感受是它把Agent开发从“写代码调API”变成了“搭流程配节点”。你可以在画布上把一次业务交互拆成若干个节点触发节点、意图识别节点、条件判断节点、工具调用节点、知识检索节点、回复生成节点。以售后工单场景为例一个完整的处理流程可以是用户发起会话输入自然语言问题。意图识别节点判断是“查物流”“改地址”还是“退货申请”。如果是“查物流”走订单查询工具节点传入用户ID和订单号。拿到物流信息后知识库补充常见物流异常的解释话术。回复生成节点组织语言返回给用户。这个流程里每一步都是可配置、可观测、可干预的。相比让模型自由发挥工作流的核心价值是确定性——业务规则不允许模型“自由发挥”必须走预设路径。2.2 工具层是Agent的“手和脚”ADP里有一个“工具”的概念你可以把内部系统的API封装成一个“工具”然后给这个工具写清楚描述这个工具是干什么的、需要什么参数、返回什么结构。这里有个容易被忽视的点工具的描述质量直接决定模型能不能正确调用它。我见过很多项目工具调不准最后排查发现是工具描述写得含糊。比如一个函数叫updateOrderStatus你写“更新订单状态”模型根本不知道该在什么场景下调用它。你写成“当用户申请取消订单且订单尚未发货时调用此接口将订单状态更新为已取消并返回取消结果编码”模型就能非常准确地触发。ADP的工具调用机制底层是Function Calling的增强实现但它多了一层参数校验和结构映射。也就是说模型生成调用参数后平台会先做一次schema校验参数不合法直接拦截不会把脏数据打进你的业务系统。这对企业级应用来说是生死攸关的。2.3 记忆系统决定Agent是不是“有脑子”企业场景的对话不是一问一答就结束的客户可能在一次会话里连续办好几件事也可能隔几天回来接着上次没办完的事继续。ADP提供了会话级记忆和长期记忆两层机制会话级记忆同一个会话内模型能记住前文说过的订单号、地址、诉求不需要用户重复。长期记忆把关键业务信息比如用户偏好、会员等级、历史工单结构化存储下次会话可以主动带出。我项目的实际体验是有了长期记忆之后Agent的服务体验完全不一样。老客户进来Agent能直接说“张先生您好您上次咨询的退换货问题处理好了吗”这种体验是纯问答机器人给不了的。2.4 知识库接入不是简单的“丢文档进去”ADP本身带知识库能力支持上传文档、网页、结构化数据做向量化。但我提醒一句不要指望把一堆PDF丢进去就能得到好用的问答质量。知识库的质量取决于三个环节文档清洗扫描版PDF必须OCR表格要转成Markdown或CSV否则检索效果很差。切片策略按章节切还是按语义切窗口大小设多少直接影响检索命中率。召回与重排召回的TopK设置多少、是否做重排Rerank决定模型看到的是不是最相关的片段。ADP提供了这些配置项但默认值不一定适合你的业务必须根据实际语料调。后面我会专门讲一套我自己调知识库的流程。3. 从Demo到生产企业级Agent必须迈过的四道门槛3.1 身份与权限Agent做“事”之前先过“权”个人开发者做Agent调用个天气API、查个翻译无所谓权限。企业级Agent执行的是有副作用的操作——改订单、发通知、更库存这些操作一旦权限失控就是生产事故。ADP提供了一套身份映射机制可以把Agent会话绑定到具体的业务用户身份然后按角色控制工具的可访问范围。比如普通客服Agent只能查订单不能退款主管Agent才能执行退款审批操作。我在设计工单Agent时把所有工具按“只读/可写/高风险”三个等级做了梳理高风险操作一律加上二次确认节点。节点会让模型生成一段“将要执行的操作摘要”由用户点头确认后再真正调用API。这个设计多了一层交互但换来的是安全底线值得。3.2 可观测性Agent的“黑盒”必须打开模型调用天然有不确定性同样的输入今天明天可能输出就不一样。如果你不做全链路追踪出了问题根本不知道是意图识别错了、工具参数传错了还是知识库检索结果不对。ADP的运行日志和链路追踪功能是我认为它比自建方案更值得用的原因之一。它把每一次节点执行的输入输出、token消耗、耗时、调用参数全部记录下来还能按会话ID串联成完整轨迹。我排查问题时的常规操作是先打开一个出错的会话轨迹看意图识别节点输出的置信度再看工具节点实际传参最后看模型生成是哪里偏离了预期。三分钟就能定位问题环节这在自建方案里通常要花半天。3.3 效果评估没有评测体系的Agent上线就是裸奔很多人把Agent上线当成终点其实上线只是起点。你至少需要一套回归评测集每次调整提示词、知识库、工作流之后跑一遍评测集看整体效果有没有回退。我维护了一个大概200条问题的评测集覆盖常见咨询、复杂多轮、边界case、恶意输入四类。每次改动用ADP的批量测试或者自己的脚本跑一遍算出准确率、工具调用正确率、无效回复率这几个指标。上线后每周看一次线上对话的抽样人工评估双周做一次全量回归。这套体系投入不大但能防止“修一个bug引入三个新问题”的恶性循环。3.4 多版本与灰度发布改动线上Agent不用心惊肉跳Agent和传统软件不一样改一段提示词就可能影响所有线上对话。ADP支持版本管理和灰度发布可以同时存在多个版本按比例把流量导到新版本上观察效果。我习惯的做法是新版本先在测试环境用评测集过一遍然后生产环境灰度10%流量跑一到两天看平均会话轮次、工具调用成功率、用户转人工率有没有明显波动。确认稳定后再切50%、100%。整个过程不用代码发布窗口运营同学也能操作非常实用。4. 实战用ADP搭建一个能处理完整工单流程的Agent4.1 需求拆解与流程设计我拿最近做的一个“智能工单处理Agent”举例行业是零售电商客户的需求是用户进线咨询订单问题时Agent能独立处理大概70%的常见问题剩下的一律转人工并且把上下文完整带过去。需求拆解之后业务流程图大概是第一步识别用户诉求类型包括查物流、改地址、申请退款、开票、人工客服。第二步查订单数据判断订单状态与用户诉求是否匹配。第三步按业务规则分支处理。比如改地址要求订单未发货退款要求订单已签收且在售后期内。第四步执行操作并生成回复高风险操作加确认节点。第五步整个会话结束前做满意度确认不满意则自动转人工。这个流程在ADP里就是一个工作流每个环节对应一个节点。设计时我特别留意了一个点把“能确定做”和“不能确定做”严格分开。凡是涉及规则判断的分支全部交给条件节点用明确的规则表达式判断而不是依赖模型自己“悟”。4.2 插件与工具的封装实践这个工单Agent需要对接三个内部系统订单中心、售后中心、通知中心。我把它们封装成了四个工具query_order_by_id查询订单详情返回订单状态、商品列表、物流单号。update_delivery_address修改收货地址要求订单状态为“待发货”。create_after_sale创建售后单要求订单状态为“已签收且未超售后期”。send_notification发送短信或站内信通知。每个工具的描述我都反复打磨过拿create_after_sale举例描述是这个风格“当用户明确表示要退货/退款/换货且订单已签收、售后申请期限未超时的情况下调用此工具创建售后单。参数需要订单号、售后类型、申请原因、用户备注。如果订单不满足条件不要调用此工具直接向用户说明原因。”实际测试下来模型对这类描述清晰的工具调用准确率能达到95%以上。我还建了一套工具调用失败的兜底逻辑如果模型连续两次工具调用因参数校验失败就不再让它重试而是直接转人工。4.3 人机协作节点哪些地方必须人工审批企业场景不可能全自动有些节点必须留人工。比如退款金额超过500元的售后单业务上要求主管审批。ADP里我搭了一个“人工审批节点”Agent创建售后单后暂停流程把审批任务推给指定角色审批通过后流程继续走通知节点拒绝则回到Agent处生成拒绝话术。这个设计在技术实现上不复杂但它体现了企业级Agent的一个核心原则Agent是提高效率的工具不是替代决策的主体。哪些环节可以自动化哪些环节必须保留人工这个度是业务方和开发方一起定的不是技术单方面说了算。4.4 测试与调优的完整过程测试阶段我分了五轮单节点测试每个工具单独调用确认参数正确、返回解析正常。工作流联调把整个流程跑通用Mock数据覆盖正常路径和异常分支。模型回归用评测集测30轮关注意图识别准确率和工具调用正确率。真机对话测试我和团队模拟不同身份的客户用真实业务数据做端到端验证。灰度观察上线后10%流量跑两天看在线指标。调优阶段发现最多的问题是“多轮对话中意图漂移”。比如用户先问“我订单到哪了”Agent回答后用户又补一句“那能改地址吗”这里的“改地址”应该承接上一个订单上下文。解决办法是在工作流里显式维护一个“当前订单号”的上下文变量意图识别节点优先从上下文取订单号作为工具参数而不是让模型从零理解整段对话。5. 避坑实录我在ADP项目里摔过的几个跟头5.1 知识库检索不到问题出在文档没清洗刚开始做知识库问答时我直接把运营的PDF丢进去结果发现很多问题检索不到正确内容。排查链路是这样的先看日志里的召回结果发现召回段落完全不对再查切片内容发现PDF是扫描件OCR识别出来的文字乱码严重。后来换了处理方式PDF统一用专业的OCR服务转成结构化文本带表格的转成CSV长文档按语义段落切分切片大小控制在500字左右并保留20%重叠。处理完后再重新向量化问题直接消失。知识库的问题90%不在模型在数据准备。5.2 工具调用参数老是错透视OpenAPI描述有段时间我的Agent调用订单查询工具时经常把订单号传成纯数字不带前缀而真实订单号是“SO数字”的格式。模型生成参数时从用户话术里提取了“12345”但用户说的是“我的SO12345订单”模型错误地去掉了前缀。问题根源在于工具描述里没有强调订单号的格式要求。我在描述里加了“订单号格式为SO开头数字如果用户只提供数字需要自动补充SO前缀无法确认时向用户询问完整订单号”之后这个错误基本绝迹。这个经验总结成一句话你给模型的上下文越明确模型的输出越可控。不要指望大模型“懂得”你的业务格式你要在描述里把所有业务规则写清楚。5.3 人机权限边界模糊一个差点发生的生产事故测试阶段遇到过一个问题一位测试同事用普通客户身份触发售后单工具居然创建成功了。排查发现工具鉴权用的是测试环境配置默认所有请求都放行没有真正校验会话中的用户身份等级。这个坎让我们意识到工具的鉴权不能依赖Agent逻辑本身必须依赖后端接口的强校验。也就是说即使模型错误地调用了某个工具后端接口也要有能力拒绝非法请求。ADP的权限控制只是第一道防线真正的安全边界还是要落在业务系统侧。5.4 过度设计一上来就想做全自动还有一个心路历程值得分享项目初期我们想让Agent尽可能多地自动化处理恨不得全部环节都自动执行。后来发现自动化比例越高边界case越多测试和维护成本急剧上升。调整策略后我们把自动化目标定在70%常见问题上剩下的30%一律转人工。这个“人工兜底”的设计反而让整个系统更可靠因为用户知道搞不定时有人接住体验不会崩。企业级Agent的成熟度体现在知道哪些事不该做而不是能做多少事。6. 关于演进从单点Agent到多智能体协同最后聊一个趋势。我最近在ADP上做的一个新项目已经不是一个Agent单打独斗而是把业务拆成多个专职Agent协作前台接待Agent负责理解用户意图、工单处理Agent负责执行操作、质检Agent负责在后台监控每轮对话质量。它们之间通过消息机制传递任务和数据有点像公司里不同岗位的协作关系。多智能体架构的优势是每个Agent的职责单一、提示词简单、容易维护某个Agent升级不影响其他Agent。代价是整体调试复杂度上升需要特别关注Agent之间的数据传递格式和异常传递。如果项目预算和周期允许我建议先从单Agent做起把业务跑顺了再逐步拆分成多Agent。一上来就上多Agent架构大概率会因为调试成本过高把自己劝退。说回ADP本身它给我的感觉是该有的企业级能力基本都有从工作流到工具接入从知识库到可观测性从版本管理到权限控制覆盖了Agent从开发到上线的完整生命周期。如果你所在的企业正在评估Agent开发平台可以先拿一个中等复杂度的业务场景去试跑通一个完整闭环之后再判断这个平台是不是适合你。我个人的体会是Agent这波技术浪潮里真正拉开差距的不是模型选哪个、提示词写得有多花哨而是你有没有一套工程化体系把模型的不确定性关进笼子里让它在业务规则内释放能力。ADP这类引擎提供的正是这个笼子。
返回列表