南北阁Nanbeige 4.1-3B开发实战微信小程序集成AI对话功能最近在做一个宠物社区的小程序用户总爱问“我家猫为什么掉毛”、“狗狗吃什么狗粮好”这类问题。人工回复吧精力有限不回复吧用户体验又不好。正好我们团队在星图GPU平台上部署了南北阁Nanbeige 4.1-3B模型就琢磨着能不能把它接到小程序里做个智能小助手。试了试效果还真不错。用户的问题能得到即时、专业的回复后台压力也小了很多。整个过程从后端API的封装到小程序前端的对接踩了一些坑也总结了不少经验。今天我就把这套从零到一的集成方案用最直白的方式分享给你。不管你是想给电商小程序加个智能客服还是给内容社区做个摘要生成器这套思路都能直接拿来用。1. 为什么选择南北阁Nanbeige 4.1-3B在动手之前你可能想问大模型那么多为什么选这个我们当时主要考虑了三点。第一是部署成本。Nanbeige 4.1-3B是一个30亿参数的中等规模模型在星图GPU平台上部署起来相对轻量资源消耗和响应速度对于小程序这种即时交互场景比较友好。成本可控是我们能快速试错的前提。第二是中文能力。这个模型对中文的理解和生成效果在我们测试的几个同规模模型里算是挺突出的。它回答问题时语气自然逻辑也通顺不会出现那种生硬的机翻感这对于提升小程序里对话的“人情味”很重要。第三是场景适配性。我们测试了客服问答、内容总结、创意文案生成等几个小程序里常见的场景它的表现都挺稳定。虽然不是万能的但在垂直领域内经过简单引导就能产出可用、好用的结果。当然它也有局限比如知识截止日期、对超长复杂指令的理解可能不够精准。但对于大多数小程序需要实现的“智能对话”功能来说它已经是个非常趁手的工具了。2. 核心架构小程序如何与模型对话把大象装进冰箱分三步把大模型装进小程序也差不多。核心思路就是小程序前端收集用户输入通过一个安全可靠的中间层我们自己的后端服务器把问题“扔给”在星图GPU上跑着的Nanbeige模型再把模型的回答“拿回来”展示给用户。听起来简单但这里面有几个关键环节需要设计好。2.1 整体流程设计整个交互的流程我画了个简单的示意图在脑子里你可以这么理解用户在小程序里提问比如输入“推荐一款适合小型犬的狗粮”。小程序调用云函数小程序端不能直接访问我们的模型服务器所以它先调用我们配置好的云函数或自己的后端API。后端服务处理请求这个云函数或后端服务扮演了“调度员”和“安检员”的角色。它先对用户输入做基本检查比如有没有敏感词、是不是空消息然后整理好格式发给星图平台上的模型API。模型推理并返回Nanbeige模型在GPU上计算生成回答。后端返回结果给小程序后端拿到模型生成的文本再传回给小程序。小程序界面展示最后答案就显示在用户的聊天界面里了。这个流程里最关键的就是我们自己的那个“后端服务”。它隔离了前端和模型让我们能灵活地做权限控制、请求排队、内容过滤和日志记录。2.2 技术栈选择为了快速跑通我们用了比较通用的技术组合模型服务端星图GPU服务器上面用类似FastAPI的框架部署了Nanbeige模型的推理接口。业务后端中间层我们用了腾讯云的云开发TCB的云函数。你也可以用自己熟悉的任何后端框架比如Node.js Express, Python Flask部署在云服务器上。选云函数主要是因为它和小程序集成度深省事。小程序前端就是标准的微信小程序开发用WXML、WXSS和JavaScript。通信协议HTTPS JSON。安全也方便。3. 后端API封装搭建安全的桥梁模型本身提供了基础的生成接口但我们不能直接把接口暴露给小程序。需要包装一层处理安全和业务逻辑。3.1 模型API的简单封装假设你在星图平台部署后拿到了一个类似https://your-model-service/predict的接口。我们的后端这里以云函数为例需要去调用它。// cloudfunctions/callModel/index.js - 云函数入口文件 const cloud require(wx-server-sdk); cloud.init({ env: cloud.DYNAMIC_CURRENT_ENV }); const axios require(axios); // 需要作为依赖上传 exports.main async (event, context) { const { question, sessionId } event; // 从小程序端传来 // 1. 基础校验 if (!question || question.trim().length 0) { return { code: 400, msg: 问题不能为空 }; } // 这里可以加入敏感词过滤逻辑 // if (containsSensitiveWords(question)) { ... } try { // 2. 构造请求体调用星图上的模型API const modelResponse await axios.post(https://your-model-service/predict, { prompt: 请以专业、友好的客服身份回答以下问题${question}, max_new_tokens: 150, // 控制生成长度 temperature: 0.7, // 控制创造性 // ... 其他模型参数 }, { headers: { Content-Type: application/json, Authorization: Bearer YOUR_API_KEY // 务必保管好密钥 }, timeout: 10000 // 设置超时避免小程序长时间等待 }); // 3. 处理模型返回 const answer modelResponse.data?.choices?.[0]?.text || modelResponse.data?.response; if (!answer) { throw new Error(模型返回格式异常); } // 4. (可选) 对答案进行后处理比如过滤、格式化 const processedAnswer answer.trim(); // 5. 返回给小程序 return { code: 200, data: { answer: processedAnswer, sessionId: sessionId // 返回会话ID用于多轮对话 } }; } catch (error) { console.error(调用模型失败:, error); // 返回用户友好的错误信息而非具体技术细节 return { code: 500, msg: AI助手暂时开小差了请稍后再试 }; } };这个云函数做了几件事检查输入、添加系统提示词让模型扮演客服、调用模型、处理响应和错误。特别注意你的API密钥等敏感信息绝不能写在小程序前端必须放在后端云函数环境变量或服务器配置中。3.2 实现多轮对话上下文单次问答很简单但智能对话需要记忆。比如用户先问“什么是猫传腹”接着问“怎么预防”模型需要知道“它”指的是猫传腹。一个简单的方法是在后端维护一个会话上下文缓存可以用内存数据库如Redis或者利用云开发的数据库。每次请求带上一个sessionId后端根据这个ID取出之前几轮的对话历史一起发给模型。// 伪代码在调用模型前组织带上下文的prompt async function buildPromptWithContext(sessionId, newQuestion) { let history await getHistoryFromCache(sessionId); // 从缓存获取历史 // 历史格式可能是: [{role: user, content: xxx}, {role: assistant, content: yyy}] // 保持最近的N轮对话避免上下文过长 if (history.length 10) { // 示例阈值 history history.slice(-10); } const contextPrompt history.map(item ${item.role}: ${item.content}).join(\n); const fullPrompt ${contextPrompt}\nuser: ${newQuestion}\nassistant:; // 调用模型... // 生成回答后将本轮问答存入历史缓存 await saveHistoryToCache(sessionId, {role: user, content: newQuestion}); await saveHistoryToCache(sessionId, {role: assistant, content: newAnswer}); return newAnswer; }4. 小程序前端集成打造流畅的对话体验后端通了前端就是把它用流畅的交互呈现出来。核心是两点调用接口和界面渲染。4.1 网络请求与状态管理小程序里我们使用wx.request或wx.cloud.callFunction如果用了云开发来调用上面写好的云函数。// pages/chat/chat.js - 小程序页面JS Page({ data: { messages: [], // 对话消息列表 inputValue: , // 输入框内容 loading: false, // 是否正在加载 sessionId: null, // 会话ID首次进入时生成 }, onLoad() { // 生成一个唯一的会话ID用于标识本次对话 this.setData({ sessionId: session_ Date.now() Math.random().toString(36).substr(2) }); }, // 发送消息 async sendMessage() { const question this.data.inputValue.trim(); if (!question || this.data.loading) return; // 1. 将用户消息加入界面 const userMsg { role: user, content: question }; this.setData({ messages: [...this.data.messages, userMsg], inputValue: , loading: true }); // 2. 滚动到底部 this.scrollToBottom(); try { // 3. 调用云函数 const result await wx.cloud.callFunction({ name: callModel, // 你的云函数名 data: { question: question, sessionId: this.data.sessionId } }); // 4. 处理成功响应 if (result.result.code 200) { const aiMsg { role: assistant, content: result.result.data.answer }; this.setData({ messages: [...this.data.messages, aiMsg], loading: false }); } else { // 处理业务错误 this.showError(result.result.msg || 请求失败); this.setData({ loading: false }); } } catch (err) { // 处理网络或系统错误 console.error(err); this.showError(网络连接异常); this.setData({ loading: false }); } finally { this.scrollToBottom(); } }, // 显示错误提示 showError(msg) { wx.showToast({ title: msg, icon: none, duration: 2000 }); }, // 滚动到底部 scrollToBottom() { setTimeout(() { wx.createSelectorQuery().select(#chat-scroll-view).node((res) { res.node.scrollTo({ bottom: 0 }); }).exec(); }, 100); }, // 输入框绑定 onInputChange(e) { this.setData({ inputValue: e.detail.value }); } })4.2 对话界面与用户体验优化光能请求还不够界面得让人愿意用。一些细节优化能极大提升体验实时反馈发送消息后输入框可以禁用并显示一个“正在思考...”的加载状态气泡。流式输出如果模型支持如果模型API支持流式响应SSE可以逐字显示回答像真人打字一样体验更棒。这需要后端和前端配合稍微复杂些。错误处理网络错误、模型服务超时等要给用户明确且友好的提示而不是一个空白或卡死。历史记录可以考虑把对话记录保存在小程序的本地存储wx.setStorageSync里用户下次进来还能看到。!-- pages/chat/chat.wxml 界面结构示例 -- view classchat-container scroll-view idchat-scroll-view scroll-y scroll-with-animation scroll-top{{scrollTop}} classmessage-list block wx:for{{messages}} wx:keyindex view classmessage {{item.role}} view classavatar{{item.role user ? 我 : AI}}/view view classbubble{{item.content}}/view /view /block !-- 加载状态 -- view wx:if{{loading}} classmessage assistant view classavatarAI/view view classbubble loading正在思考.../view /view /scroll-view view classinput-area input value{{inputValue}} bindinputonInputChange bindconfirmsendMessage placeholder输入您的问题... confirm-typesend / button bindtapsendMessage disabled{{!inputValue.trim() || loading}}发送/button /view /view5. 关键问题与实战建议集成过程中我们遇到了几个典型问题这里给你提个醒。第一网络与性能。模型推理需要时间尤其是首次加载或复杂问题。一定要在后端设置合理的超时比如10-15秒并在小程序前端做好加载状态提示。如果响应时间经常很长可以考虑在UI上加入“取消”按钮。第二内容安全与过滤。这是红线。用户输入和模型输出都可能存在不可控内容。我们除了在后端调用模型前对用户输入做基础过滤在收到模型回复后也增加了一层内容安全校验可以使用平台提供的内容安全API确保返回给小程序的文本是合规的。第三成本控制。按Token计费是常态。我们可以在后端对用户输入的长度做限制比如截断过长的提问。同时控制模型生成的max_new_tokens参数避免生成无关紧要的冗长内容。为每个用户或会话设置每日调用次数上限也是防止滥用的好办法。第四提升回答质量。直接让模型回答效果可能不稳定。我们通过“系统提示词”来引导它。比如在提问前加上“你是一个专业的宠物健康顾问请用亲切、易懂的语言回答以下问题如果不知道就明确说不知道不要编造信息。” 这样模型的回答风格和可靠性会好很多。这就是所谓的“提示工程”在小成本下非常有效。6. 总结回过头看把南北阁Nanbeige这样的模型集成到微信小程序里并没有想象中那么复杂。核心就是做好前后端分离后端充当一个可靠、安全的中间层处理好与模型服务的通信、上下文管理和安全过滤前端则聚焦于打造一个流畅、友好的对话界面。我们这套方案跑下来最直接的感受是开发效率很高。利用星图平台预置的镜像模型部署环节省了不少心小程序云开发与微信生态的深度集成也让服务搭建和运维变得简单。现在我们那个宠物社区小程序的用户活跃度和满意度都有所提升毕竟谁不喜欢一个随时在线、有问必答的智能小助手呢如果你正准备尝试我的建议是先从一个小而具体的功能点开始。比如先做一个只能回答特定领域如产品FAQ的问答模块验证效果和流程。跑通之后再根据实际反馈逐步扩展上下文记忆、流式输出、多模态等更复杂的能力。过程中遇到问题多看看模型和小程序的官方文档社区里也有很多现成的解决方案可以参考。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
南北阁Nanbeige 4.1-3B开发实战：微信小程序集成AI对话功能
发布时间：2026/5/19 15:09:38
南北阁Nanbeige 4.1-3B开发实战微信小程序集成AI对话功能最近在做一个宠物社区的小程序用户总爱问“我家猫为什么掉毛”、“狗狗吃什么狗粮好”这类问题。人工回复吧精力有限不回复吧用户体验又不好。正好我们团队在星图GPU平台上部署了南北阁Nanbeige 4.1-3B模型就琢磨着能不能把它接到小程序里做个智能小助手。试了试效果还真不错。用户的问题能得到即时、专业的回复后台压力也小了很多。整个过程从后端API的封装到小程序前端的对接踩了一些坑也总结了不少经验。今天我就把这套从零到一的集成方案用最直白的方式分享给你。不管你是想给电商小程序加个智能客服还是给内容社区做个摘要生成器这套思路都能直接拿来用。1. 为什么选择南北阁Nanbeige 4.1-3B在动手之前你可能想问大模型那么多为什么选这个我们当时主要考虑了三点。第一是部署成本。Nanbeige 4.1-3B是一个30亿参数的中等规模模型在星图GPU平台上部署起来相对轻量资源消耗和响应速度对于小程序这种即时交互场景比较友好。成本可控是我们能快速试错的前提。第二是中文能力。这个模型对中文的理解和生成效果在我们测试的几个同规模模型里算是挺突出的。它回答问题时语气自然逻辑也通顺不会出现那种生硬的机翻感这对于提升小程序里对话的“人情味”很重要。第三是场景适配性。我们测试了客服问答、内容总结、创意文案生成等几个小程序里常见的场景它的表现都挺稳定。虽然不是万能的但在垂直领域内经过简单引导就能产出可用、好用的结果。当然它也有局限比如知识截止日期、对超长复杂指令的理解可能不够精准。但对于大多数小程序需要实现的“智能对话”功能来说它已经是个非常趁手的工具了。2. 核心架构小程序如何与模型对话把大象装进冰箱分三步把大模型装进小程序也差不多。核心思路就是小程序前端收集用户输入通过一个安全可靠的中间层我们自己的后端服务器把问题“扔给”在星图GPU上跑着的Nanbeige模型再把模型的回答“拿回来”展示给用户。听起来简单但这里面有几个关键环节需要设计好。2.1 整体流程设计整个交互的流程我画了个简单的示意图在脑子里你可以这么理解用户在小程序里提问比如输入“推荐一款适合小型犬的狗粮”。小程序调用云函数小程序端不能直接访问我们的模型服务器所以它先调用我们配置好的云函数或自己的后端API。后端服务处理请求这个云函数或后端服务扮演了“调度员”和“安检员”的角色。它先对用户输入做基本检查比如有没有敏感词、是不是空消息然后整理好格式发给星图平台上的模型API。模型推理并返回Nanbeige模型在GPU上计算生成回答。后端返回结果给小程序后端拿到模型生成的文本再传回给小程序。小程序界面展示最后答案就显示在用户的聊天界面里了。这个流程里最关键的就是我们自己的那个“后端服务”。它隔离了前端和模型让我们能灵活地做权限控制、请求排队、内容过滤和日志记录。2.2 技术栈选择为了快速跑通我们用了比较通用的技术组合模型服务端星图GPU服务器上面用类似FastAPI的框架部署了Nanbeige模型的推理接口。业务后端中间层我们用了腾讯云的云开发TCB的云函数。你也可以用自己熟悉的任何后端框架比如Node.js Express, Python Flask部署在云服务器上。选云函数主要是因为它和小程序集成度深省事。小程序前端就是标准的微信小程序开发用WXML、WXSS和JavaScript。通信协议HTTPS JSON。安全也方便。3. 后端API封装搭建安全的桥梁模型本身提供了基础的生成接口但我们不能直接把接口暴露给小程序。需要包装一层处理安全和业务逻辑。3.1 模型API的简单封装假设你在星图平台部署后拿到了一个类似https://your-model-service/predict的接口。我们的后端这里以云函数为例需要去调用它。// cloudfunctions/callModel/index.js - 云函数入口文件 const cloud require(wx-server-sdk); cloud.init({ env: cloud.DYNAMIC_CURRENT_ENV }); const axios require(axios); // 需要作为依赖上传 exports.main async (event, context) { const { question, sessionId } event; // 从小程序端传来 // 1. 基础校验 if (!question || question.trim().length 0) { return { code: 400, msg: 问题不能为空 }; } // 这里可以加入敏感词过滤逻辑 // if (containsSensitiveWords(question)) { ... } try { // 2. 构造请求体调用星图上的模型API const modelResponse await axios.post(https://your-model-service/predict, { prompt: 请以专业、友好的客服身份回答以下问题${question}, max_new_tokens: 150, // 控制生成长度 temperature: 0.7, // 控制创造性 // ... 其他模型参数 }, { headers: { Content-Type: application/json, Authorization: Bearer YOUR_API_KEY // 务必保管好密钥 }, timeout: 10000 // 设置超时避免小程序长时间等待 }); // 3. 处理模型返回 const answer modelResponse.data?.choices?.[0]?.text || modelResponse.data?.response; if (!answer) { throw new Error(模型返回格式异常); } // 4. (可选) 对答案进行后处理比如过滤、格式化 const processedAnswer answer.trim(); // 5. 返回给小程序 return { code: 200, data: { answer: processedAnswer, sessionId: sessionId // 返回会话ID用于多轮对话 } }; } catch (error) { console.error(调用模型失败:, error); // 返回用户友好的错误信息而非具体技术细节 return { code: 500, msg: AI助手暂时开小差了请稍后再试 }; } };这个云函数做了几件事检查输入、添加系统提示词让模型扮演客服、调用模型、处理响应和错误。特别注意你的API密钥等敏感信息绝不能写在小程序前端必须放在后端云函数环境变量或服务器配置中。3.2 实现多轮对话上下文单次问答很简单但智能对话需要记忆。比如用户先问“什么是猫传腹”接着问“怎么预防”模型需要知道“它”指的是猫传腹。一个简单的方法是在后端维护一个会话上下文缓存可以用内存数据库如Redis或者利用云开发的数据库。每次请求带上一个sessionId后端根据这个ID取出之前几轮的对话历史一起发给模型。// 伪代码在调用模型前组织带上下文的prompt async function buildPromptWithContext(sessionId, newQuestion) { let history await getHistoryFromCache(sessionId); // 从缓存获取历史 // 历史格式可能是: [{role: user, content: xxx}, {role: assistant, content: yyy}] // 保持最近的N轮对话避免上下文过长 if (history.length 10) { // 示例阈值 history history.slice(-10); } const contextPrompt history.map(item ${item.role}: ${item.content}).join(\n); const fullPrompt ${contextPrompt}\nuser: ${newQuestion}\nassistant:; // 调用模型... // 生成回答后将本轮问答存入历史缓存 await saveHistoryToCache(sessionId, {role: user, content: newQuestion}); await saveHistoryToCache(sessionId, {role: assistant, content: newAnswer}); return newAnswer; }4. 小程序前端集成打造流畅的对话体验后端通了前端就是把它用流畅的交互呈现出来。核心是两点调用接口和界面渲染。4.1 网络请求与状态管理小程序里我们使用wx.request或wx.cloud.callFunction如果用了云开发来调用上面写好的云函数。// pages/chat/chat.js - 小程序页面JS Page({ data: { messages: [], // 对话消息列表 inputValue: , // 输入框内容 loading: false, // 是否正在加载 sessionId: null, // 会话ID首次进入时生成 }, onLoad() { // 生成一个唯一的会话ID用于标识本次对话 this.setData({ sessionId: session_ Date.now() Math.random().toString(36).substr(2) }); }, // 发送消息 async sendMessage() { const question this.data.inputValue.trim(); if (!question || this.data.loading) return; // 1. 将用户消息加入界面 const userMsg { role: user, content: question }; this.setData({ messages: [...this.data.messages, userMsg], inputValue: , loading: true }); // 2. 滚动到底部 this.scrollToBottom(); try { // 3. 调用云函数 const result await wx.cloud.callFunction({ name: callModel, // 你的云函数名 data: { question: question, sessionId: this.data.sessionId } }); // 4. 处理成功响应 if (result.result.code 200) { const aiMsg { role: assistant, content: result.result.data.answer }; this.setData({ messages: [...this.data.messages, aiMsg], loading: false }); } else { // 处理业务错误 this.showError(result.result.msg || 请求失败); this.setData({ loading: false }); } } catch (err) { // 处理网络或系统错误 console.error(err); this.showError(网络连接异常); this.setData({ loading: false }); } finally { this.scrollToBottom(); } }, // 显示错误提示 showError(msg) { wx.showToast({ title: msg, icon: none, duration: 2000 }); }, // 滚动到底部 scrollToBottom() { setTimeout(() { wx.createSelectorQuery().select(#chat-scroll-view).node((res) { res.node.scrollTo({ bottom: 0 }); }).exec(); }, 100); }, // 输入框绑定 onInputChange(e) { this.setData({ inputValue: e.detail.value }); } })4.2 对话界面与用户体验优化光能请求还不够界面得让人愿意用。一些细节优化能极大提升体验实时反馈发送消息后输入框可以禁用并显示一个“正在思考...”的加载状态气泡。流式输出如果模型支持如果模型API支持流式响应SSE可以逐字显示回答像真人打字一样体验更棒。这需要后端和前端配合稍微复杂些。错误处理网络错误、模型服务超时等要给用户明确且友好的提示而不是一个空白或卡死。历史记录可以考虑把对话记录保存在小程序的本地存储wx.setStorageSync里用户下次进来还能看到。!-- pages/chat/chat.wxml 界面结构示例 -- view classchat-container scroll-view idchat-scroll-view scroll-y scroll-with-animation scroll-top{{scrollTop}} classmessage-list block wx:for{{messages}} wx:keyindex view classmessage {{item.role}} view classavatar{{item.role user ? 我 : AI}}/view view classbubble{{item.content}}/view /view /block !-- 加载状态 -- view wx:if{{loading}} classmessage assistant view classavatarAI/view view classbubble loading正在思考.../view /view /scroll-view view classinput-area input value{{inputValue}} bindinputonInputChange bindconfirmsendMessage placeholder输入您的问题... confirm-typesend / button bindtapsendMessage disabled{{!inputValue.trim() || loading}}发送/button /view /view5. 关键问题与实战建议集成过程中我们遇到了几个典型问题这里给你提个醒。第一网络与性能。模型推理需要时间尤其是首次加载或复杂问题。一定要在后端设置合理的超时比如10-15秒并在小程序前端做好加载状态提示。如果响应时间经常很长可以考虑在UI上加入“取消”按钮。第二内容安全与过滤。这是红线。用户输入和模型输出都可能存在不可控内容。我们除了在后端调用模型前对用户输入做基础过滤在收到模型回复后也增加了一层内容安全校验可以使用平台提供的内容安全API确保返回给小程序的文本是合规的。第三成本控制。按Token计费是常态。我们可以在后端对用户输入的长度做限制比如截断过长的提问。同时控制模型生成的max_new_tokens参数避免生成无关紧要的冗长内容。为每个用户或会话设置每日调用次数上限也是防止滥用的好办法。第四提升回答质量。直接让模型回答效果可能不稳定。我们通过“系统提示词”来引导它。比如在提问前加上“你是一个专业的宠物健康顾问请用亲切、易懂的语言回答以下问题如果不知道就明确说不知道不要编造信息。” 这样模型的回答风格和可靠性会好很多。这就是所谓的“提示工程”在小成本下非常有效。6. 总结回过头看把南北阁Nanbeige这样的模型集成到微信小程序里并没有想象中那么复杂。核心就是做好前后端分离后端充当一个可靠、安全的中间层处理好与模型服务的通信、上下文管理和安全过滤前端则聚焦于打造一个流畅、友好的对话界面。我们这套方案跑下来最直接的感受是开发效率很高。利用星图平台预置的镜像模型部署环节省了不少心小程序云开发与微信生态的深度集成也让服务搭建和运维变得简单。现在我们那个宠物社区小程序的用户活跃度和满意度都有所提升毕竟谁不喜欢一个随时在线、有问必答的智能小助手呢如果你正准备尝试我的建议是先从一个小而具体的功能点开始。比如先做一个只能回答特定领域如产品FAQ的问答模块验证效果和流程。跑通之后再根据实际反馈逐步扩展上下文记忆、流式输出、多模态等更复杂的能力。过程中遇到问题多看看模型和小程序的官方文档社区里也有很多现成的解决方案可以参考。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
