水墨江南模型Node.js环境配置与API服务部署教程最近有不少朋友在尝试部署水墨江南模型时发现官方文档多是Python环境的配置对于习惯Node.js生态的开发者来说上手有点门槛。其实用Node.js来搭建一个稳定、高效的模型推理API服务不仅完全可行而且能很好地融入现有的Web技术栈。今天我就来分享一下如何从零开始在Node.js环境中配置水墨江南模型并部署成一个高可用的API服务。整个过程我会尽量讲得详细即使你之前没怎么接触过Node.js服务端开发跟着步骤走也能搞定。1. 环境准备搭建你的Node.js工作台在开始写代码之前我们需要先把“厨房”收拾好也就是准备好Node.js运行环境。这一步是基础但很关键。1.1 安装Node.js与npm首先确保你的系统已经安装了Node.js和它的包管理器npm。我推荐使用长期支持版本比如Node.js 18.x或20.x它们在稳定性和兼容性上表现更好。打开你的终端输入以下命令来检查是否已经安装以及版本号node --version npm --version如果看到了版本号比如v20.11.0和10.2.4那就说明已经安装好了。如果没有或者版本太旧就需要去安装了。对于macOS用户我推荐使用Homebrew来安装非常方便brew install node对于Windows用户可以直接去Node.js官网下载安装程序选择“LTS”版本进行安装安装过程中记得勾选“Add to PATH”选项这样就能在命令行里直接使用了。对于Linux用户如Ubuntu可以使用包管理器比如# 使用NodeSource的安装脚本以Ubuntu 20.04为例 curl -fsSL https://deb.nodesource.com/setup_20.x | sudo -E bash - sudo apt-get install -y nodejs安装完成后再次运行node --version和npm --version确认一下。1.2 初始化项目与安装核心依赖环境准备好后我们创建一个新的项目目录并初始化它。mkdir ink-jiangnan-api cd ink-jiangnan-api npm init -y这个命令会生成一个package.json文件它就像我们项目的“身份证”和“说明书”。接下来安装我们构建API服务最核心的几个依赖包npm install express axiosexpress一个非常流行、极简的Node.js Web框架用来快速搭建我们的HTTP API服务器。axios一个基于Promise的HTTP客户端我们主要用它来向Python模型服务或其他后端服务发送请求。因为我们处理的是AI模型推理任务可能比较耗时所以还需要一个任务队列来管理异步任务避免HTTP请求超时。这里我们选用bull和ioredisnpm install bull ioredisbull一个基于Redis的快速、可靠的Node.js队列库非常适合处理后台作业。ioredis一个健壮的Redis客户端bull依赖它来连接Redis。最后为了在生产环境稳定运行我们需要一个进程守护管理器。PM2是这方面的佼佼者它能让我们的应用在后台运行并在崩溃时自动重启。我们全局安装它npm install pm2 -g好了到现在为止我们的“工具箱”就基本齐全了。package.json里的dependencies应该看起来类似这样{ dependencies: { express: ^4.18.2, axios: ^1.6.2, bull: ^4.11.5, ioredis: ^5.3.2 } }2. 构建核心API服务环境搭好了现在开始“盖房子”。我们来编写API服务的主要代码。2.1 创建Express服务器与应用入口首先在项目根目录下创建一个app.js文件作为我们应用的入口。// app.js const express require(express); const { createBullBoard } require(bull-board/api); const { ExpressAdapter } require(bull-board/express); const { BullAdapter } require(bull-board/api/bullAdapter); // 导入我们即将编写的路由和队列 const inferenceRouter require(./routes/inference); const inferenceQueue require(./queues/inferenceQueue); const app express(); const PORT process.env.PORT || 3000; // 中间件解析JSON格式的请求体 app.use(express.json()); // 中间件解析URL编码的请求体来自表单提交 app.use(express.urlencoded({ extended: true })); // 集成Bull Board可视化界面可选但非常推荐用于监控任务 const serverAdapter new ExpressAdapter(); serverAdapter.setBasePath(/admin/queues); createBullBoard({ queues: [new BullAdapter(inferenceQueue)], serverAdapter: serverAdapter, }); app.use(/admin/queues, serverAdapter.getRouter()); // 挂载我们的模型推理路由 app.use(/api/v1, inferenceRouter); // 一个简单的根路径响应用于健康检查 app.get(/, (req, res) { res.json({ message: 水墨江南模型API服务运行中, status: ok }); }); // 启动服务器 app.listen(PORT, () { console.log( 服务器已启动监听端口: ${PORT}); console.log( 任务队列监控面板: http://localhost:${PORT}/admin/queues); });这段代码做了几件事引入了Express并创建了应用实例。设置了两个重要的中间件用于处理客户端发送过来的JSON或表单数据。集成了Bull Board这是一个Web界面可以让我们直观地看到任务队列的状态比如有多少任务在排队、在处理、完成了还是失败了。将我们稍后要写的推理路由挂载到了/api/v1路径下。定义了一个根路由用于健康检查。最后让服务器在指定端口默认3000上监听请求。2.2 设计模型推理API路由接下来创建routes文件夹并在里面新建一个inference.js文件。这里定义了客户端如何与我们的模型服务交互。// routes/inference.js const express require(express); const router express.Router(); const inferenceQueue require(../queues/inferenceQueue); // 引入任务队列 /** * POST /api/v1/generate * 接收生成请求将任务推入队列并返回任务ID */ router.post(/generate, async (req, res) { try { const { prompt, negative_prompt, width, height, num_inference_steps } req.body; // 简单的请求体验证 if (!prompt) { return res.status(400).json({ error: 缺少必要参数: prompt }); } // 构建任务数据 const jobData { prompt, negative_prompt: negative_prompt || , width: width || 512, height: height || 512, num_inference_steps: num_inference_steps || 20, userId: req.ip, // 简单用IP标识用户实际可根据业务替换为user ID timestamp: new Date().toISOString(), }; // 将任务添加到队列 const job await inferenceQueue.add(generate-image, jobData, { attempts: 3, // 任务失败后重试次数 backoff: { type: exponential, delay: 1000 }, // 重试延迟策略 removeOnComplete: 50, // 保留最近50个成功任务记录 removeOnFail: 100, // 保留最近100个失败任务记录 }); // 立即返回任务ID让客户端可以查询状态 res.status(202).json({ // 202 Accepted 表示请求已接受正在处理 message: 图像生成任务已提交, jobId: job.id, statusUrl: /api/v1/status/${job.id}, }); } catch (error) { console.error(提交任务时出错:, error); res.status(500).json({ error: 服务器内部错误提交任务失败 }); } }); /** * GET /api/v1/status/:jobId * 根据任务ID查询任务状态和结果 */ router.get(/status/:jobId, async (req, res) { try { const jobId req.params.jobId; const job await inferenceQueue.getJob(jobId); if (!job) { return res.status(404).json({ error: 未找到指定的任务 }); } const state await job.getState(); const result { jobId: job.id, status: state, progress: job.progress(), // 进度需要我们在worker中更新 data: job.data, // 任务提交时的数据 }; // 如果任务已完成返回结果 if (state completed) { result.output job.returnvalue; } // 如果任务失败返回错误信息 if (state failed) { result.error job.failedReason; } res.json(result); } catch (error) { console.error(查询任务状态时出错:, error); res.status(500).json({ error: 查询任务状态失败 }); } }); module.exports router;这个路由文件定义了两个核心接口POST /api/v1/generate接收前端发来的生成请求比如描述文本“江南水乡细雨蒙蒙”。它不直接调用模型而是将任务详情jobData放入inferenceQueue队列并立即返回一个jobId给客户端。这种异步处理方式避免了HTTP连接长时间等待非常适合耗时的AI任务。GET /api/v1/status/:jobId客户端可以用上一步拿到的jobId来轮询查询这个任务的执行状态等待中、处理中、完成、失败和最终结果。2.3 实现异步任务队列与Worker任务被放进队列了谁来处理呢这就是Worker工作者的角色。我们创建queues文件夹和inferenceQueue.js文件。// queues/inferenceQueue.js const Queue require(bull); const Redis require(ioredis); const { performInference } require(../workers/inferenceWorker); // 引入实际执行推理的函数 // 创建Redis连接默认连接本机6379端口 const redisClient new Redis({ maxRetriesPerRequest: null, // Bull库的兼容性设置 }); // 创建名为 ink-jiangnan-inference 的队列 const inferenceQueue new Queue(ink-jiangnan-inference, { createClient: (type) redisClient, // 重用同一个Redis连接 defaultJobOptions: { removeOnComplete: true, // 任务完成后自动移除节省空间 }, }); // 定义队列的处理逻辑 inferenceQueue.process(generate-image, async (job) { console.log(开始处理任务: ${job.id}); job.progress(10); // 更新进度 try { // 调用真正的模型推理函数 const result await performInference(job.data); job.progress(100); console.log(任务完成: ${job.id}); return result; // 返回的结果会被存储在job.returnvalue中 } catch (error) { console.error(任务失败 ${job.id}:, error); // 抛出错误Bull会根据配置进行重试 throw new Error(推理过程失败: ${error.message}); } }); // 监听队列事件可选用于日志和监控 inferenceQueue.on(completed, (job, result) { console.log(任务 #${job.id} 已完成结果大小: ${result?.imageData?.length || 0} bytes); }); inferenceQueue.on(failed, (job, err) { console.error(任务 #${job.id} 失败原因:, err.message); }); module.exports inferenceQueue;这个文件创建了一个连接到Redis的Bull队列并定义了当有名为generate-image类型的任务到达时应该执行performInference(job.data)这个函数。Worker会从队列中取出任务一个一个地执行。那么最关键的performInference函数在哪里它负责与水墨江南模型交互。由于模型很可能是用Python运行的例如通过FastAPI提供本地HTTP接口我们的Worker需要调用它。创建workers文件夹和inferenceWorker.js// workers/inferenceWorker.js const axios require(axios); // 假设你的水墨江南Python模型服务运行在 http://localhost:8000 const MODEL_API_BASE_URL process.env.MODEL_API_URL || http://localhost:8000; /** * 调用后端Python模型服务执行推理 * param {Object} jobData - 从队列任务中传来的数据 * returns {PromiseObject} - 推理结果如图片Base64数据 */ async function performInference(jobData) { const { prompt, negative_prompt, width, height, num_inference_steps } jobData; const payload { prompt, negative_prompt, width, height, num_inference_steps, }; try { console.log(调用模型API: ${MODEL_API_BASE_URL}/generate); const response await axios.post(${MODEL_API_BASE_URL}/generate, payload, { timeout: 300000, // 设置5分钟超时因为生成可能较慢 }); if (response.status 200 response.data.success) { // 假设Python服务返回 { success: true, image: base64_string, ... } return { success: true, imageData: response.data.image, // Base64编码的图片字符串 info: response.data.info, // 可能包含生成参数等信息 jobId: jobData.timestamp, }; } else { throw new Error(模型服务返回错误: ${JSON.stringify(response.data)}); } } catch (error) { console.error(调用模型API失败:, error.message); // 根据错误类型细化处理比如网络错误、模型错误等 if (error.code ECONNREFUSED) { throw new Error(无法连接到模型服务请确保Python服务已启动); } else if (error.response) { // 模型服务返回了错误状态码 throw new Error(模型服务错误 (${error.response.status}): ${error.response.data.detail || Unknown}); } else if (error.request) { // 请求已发出但无响应 throw new Error(模型服务请求超时或无响应); } else { throw error; // 其他错误 } } } module.exports { performInference };这个Worker是连接Node.js服务与底层Python模型或其他任何服务的桥梁。它使用axios向模型服务的HTTP接口发送POST请求并处理返回的结果或错误。你需要将MODEL_API_BASE_URL替换为你实际运行的模型服务地址。3. 服务部署与进程守护代码写完了怎么让它稳定地跑起来呢尤其是在服务器上。3.1 使用PM2进行进程管理我们之前全局安装了PM2。现在在项目根目录下我们可以创建一个简单的PM2配置文件ecosystem.config.js// ecosystem.config.js module.exports { apps: [{ name: ink-jiangnan-api, // 应用名称 script: app.js, // 入口文件 instances: max, // 根据CPU核心数启动最大实例数集群模式 exec_mode: cluster, // 集群模式充分利用多核CPU autorestart: true, // 应用崩溃时自动重启 watch: false, // 生产环境不建议开启watch以免频繁重启 max_memory_restart: 1G, // 如果内存使用超过1G自动重启 env: { NODE_ENV: production, PORT: 3000, MODEL_API_URL: http://你的模型服务IP:端口, // 这里替换成你的模型服务地址 }, error_file: ./logs/err.log, // 错误日志路径 out_file: ./logs/out.log, // 普通输出日志路径 log_date_format: YYYY-MM-DD HH:mm:ss Z, // 日志日期格式 }] };这个配置文件告诉PM2如何运行我们的应用包括应用名称、启动文件、运行模式、环境变量以及日志管理。现在启动服务就变得非常简单# 在项目根目录下执行 pm2 start ecosystem.config.jsPM2会以后台守护进程的方式运行你的应用。你可以通过以下命令管理它pm2 status # 查看所有应用状态 pm2 logs ink-jiangnan-api # 查看该应用的实时日志 pm2 stop ink-jiangnan-api # 停止应用 pm2 restart ink-jiangnan-api # 重启应用 pm2 delete ink-jiangnan-api # 删除应用记录 pm2 save # 保存当前进程列表以便开机自启 pm2 startup # 生成开机自启动脚本需要sudo3.2 测试你的API服务服务启动后我们来测试一下。你可以使用curl命令或者更直观的工具如 Postman。首先提交一个生成任务curl -X POST http://localhost:3000/api/v1/generate \ -H Content-Type: application/json \ -d { prompt: 江南水乡白墙黛瓦小桥流水细雨朦胧水墨风格, width: 768, height: 512 }如果成功你会收到类似这样的响应{ message: 图像生成任务已提交, jobId: 1, statusUrl: /api/v1/status/1 }然后使用返回的jobId去查询状态curl http://localhost:3000/api/v1/status/1在任务处理的不同阶段你会看到不同的statuswaiting,active,completed,failed。当状态变为completed时output字段里就会包含生成的图像数据比如Base64字符串。同时你可以访问http://localhost:3000/admin/queues来打开Bull Board界面直观地看到队列中有多少任务它们的状态如何。4. 总结与后续建议跟着上面的步骤走一遍一个基于Node.js的水墨江南模型API服务就搭建起来了。这个架构的核心思想是“异步解耦”用Express快速响应Web请求用Bull队列管理耗时的模型推理任务用PM2来保证服务的稳定运行。实际用下来这种架构对于AI模型服务来说挺合适的。前端用户不需要长时间等待提交任务后就可以去做别的事情过会儿再来取结果。后台的Worker会稳稳当当地处理队列里的任务即使某个任务失败了也有重试机制。PM2则像是一个贴心的管家确保服务7x24小时在线。当然这只是一个起点。在实际生产环境中你可能还需要考虑更多安全性给API接口加上认证如JWT防止被滥用。限流使用express-rate-limit等中间件限制单个用户的请求频率。结果存储生成的图片Base64数据很大不适合长期放在Redis或直接返回。可以考虑存到对象存储如AWS S3、MinIO或文件服务器然后只返回一个URL。更复杂的队列根据业务需要可以设置不同优先级的队列或者实现更精细的任务进度反馈。监控与告警结合PM2和Bull的日志搭建监控系统在服务异常时及时通知。希望这篇教程能帮你顺利在Node.js环境中把水墨江南模型跑起来。先从简单的例子开始把这个流程跑通然后再根据你的具体需求慢慢添加和完善其他功能。如果在实践中遇到问题多看看日志那里面通常藏着答案。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。 水墨江南模型Node.js环境配置与API服务部署教程
水墨江南模型Node.js环境配置与API服务部署教程最近有不少朋友在尝试部署水墨江南模型时发现官方文档多是Python环境的配置对于习惯Node.js生态的开发者来说上手有点门槛。其实用Node.js来搭建一个稳定、高效的模型推理API服务不仅完全可行而且能很好地融入现有的Web技术栈。今天我就来分享一下如何从零开始在Node.js环境中配置水墨江南模型并部署成一个高可用的API服务。整个过程我会尽量讲得详细即使你之前没怎么接触过Node.js服务端开发跟着步骤走也能搞定。1. 环境准备搭建你的Node.js工作台在开始写代码之前我们需要先把“厨房”收拾好也就是准备好Node.js运行环境。这一步是基础但很关键。1.1 安装Node.js与npm首先确保你的系统已经安装了Node.js和它的包管理器npm。我推荐使用长期支持版本比如Node.js 18.x或20.x它们在稳定性和兼容性上表现更好。打开你的终端输入以下命令来检查是否已经安装以及版本号node --version npm --version如果看到了版本号比如v20.11.0和10.2.4那就说明已经安装好了。如果没有或者版本太旧就需要去安装了。对于macOS用户我推荐使用Homebrew来安装非常方便brew install node对于Windows用户可以直接去Node.js官网下载安装程序选择“LTS”版本进行安装安装过程中记得勾选“Add to PATH”选项这样就能在命令行里直接使用了。对于Linux用户如Ubuntu可以使用包管理器比如# 使用NodeSource的安装脚本以Ubuntu 20.04为例 curl -fsSL https://deb.nodesource.com/setup_20.x | sudo -E bash - sudo apt-get install -y nodejs安装完成后再次运行node --version和npm --version确认一下。1.2 初始化项目与安装核心依赖环境准备好后我们创建一个新的项目目录并初始化它。mkdir ink-jiangnan-api cd ink-jiangnan-api npm init -y这个命令会生成一个package.json文件它就像我们项目的“身份证”和“说明书”。接下来安装我们构建API服务最核心的几个依赖包npm install express axiosexpress一个非常流行、极简的Node.js Web框架用来快速搭建我们的HTTP API服务器。axios一个基于Promise的HTTP客户端我们主要用它来向Python模型服务或其他后端服务发送请求。因为我们处理的是AI模型推理任务可能比较耗时所以还需要一个任务队列来管理异步任务避免HTTP请求超时。这里我们选用bull和ioredisnpm install bull ioredisbull一个基于Redis的快速、可靠的Node.js队列库非常适合处理后台作业。ioredis一个健壮的Redis客户端bull依赖它来连接Redis。最后为了在生产环境稳定运行我们需要一个进程守护管理器。PM2是这方面的佼佼者它能让我们的应用在后台运行并在崩溃时自动重启。我们全局安装它npm install pm2 -g好了到现在为止我们的“工具箱”就基本齐全了。package.json里的dependencies应该看起来类似这样{ dependencies: { express: ^4.18.2, axios: ^1.6.2, bull: ^4.11.5, ioredis: ^5.3.2 } }2. 构建核心API服务环境搭好了现在开始“盖房子”。我们来编写API服务的主要代码。2.1 创建Express服务器与应用入口首先在项目根目录下创建一个app.js文件作为我们应用的入口。// app.js const express require(express); const { createBullBoard } require(bull-board/api); const { ExpressAdapter } require(bull-board/express); const { BullAdapter } require(bull-board/api/bullAdapter); // 导入我们即将编写的路由和队列 const inferenceRouter require(./routes/inference); const inferenceQueue require(./queues/inferenceQueue); const app express(); const PORT process.env.PORT || 3000; // 中间件解析JSON格式的请求体 app.use(express.json()); // 中间件解析URL编码的请求体来自表单提交 app.use(express.urlencoded({ extended: true })); // 集成Bull Board可视化界面可选但非常推荐用于监控任务 const serverAdapter new ExpressAdapter(); serverAdapter.setBasePath(/admin/queues); createBullBoard({ queues: [new BullAdapter(inferenceQueue)], serverAdapter: serverAdapter, }); app.use(/admin/queues, serverAdapter.getRouter()); // 挂载我们的模型推理路由 app.use(/api/v1, inferenceRouter); // 一个简单的根路径响应用于健康检查 app.get(/, (req, res) { res.json({ message: 水墨江南模型API服务运行中, status: ok }); }); // 启动服务器 app.listen(PORT, () { console.log( 服务器已启动监听端口: ${PORT}); console.log( 任务队列监控面板: http://localhost:${PORT}/admin/queues); });这段代码做了几件事引入了Express并创建了应用实例。设置了两个重要的中间件用于处理客户端发送过来的JSON或表单数据。集成了Bull Board这是一个Web界面可以让我们直观地看到任务队列的状态比如有多少任务在排队、在处理、完成了还是失败了。将我们稍后要写的推理路由挂载到了/api/v1路径下。定义了一个根路由用于健康检查。最后让服务器在指定端口默认3000上监听请求。2.2 设计模型推理API路由接下来创建routes文件夹并在里面新建一个inference.js文件。这里定义了客户端如何与我们的模型服务交互。// routes/inference.js const express require(express); const router express.Router(); const inferenceQueue require(../queues/inferenceQueue); // 引入任务队列 /** * POST /api/v1/generate * 接收生成请求将任务推入队列并返回任务ID */ router.post(/generate, async (req, res) { try { const { prompt, negative_prompt, width, height, num_inference_steps } req.body; // 简单的请求体验证 if (!prompt) { return res.status(400).json({ error: 缺少必要参数: prompt }); } // 构建任务数据 const jobData { prompt, negative_prompt: negative_prompt || , width: width || 512, height: height || 512, num_inference_steps: num_inference_steps || 20, userId: req.ip, // 简单用IP标识用户实际可根据业务替换为user ID timestamp: new Date().toISOString(), }; // 将任务添加到队列 const job await inferenceQueue.add(generate-image, jobData, { attempts: 3, // 任务失败后重试次数 backoff: { type: exponential, delay: 1000 }, // 重试延迟策略 removeOnComplete: 50, // 保留最近50个成功任务记录 removeOnFail: 100, // 保留最近100个失败任务记录 }); // 立即返回任务ID让客户端可以查询状态 res.status(202).json({ // 202 Accepted 表示请求已接受正在处理 message: 图像生成任务已提交, jobId: job.id, statusUrl: /api/v1/status/${job.id}, }); } catch (error) { console.error(提交任务时出错:, error); res.status(500).json({ error: 服务器内部错误提交任务失败 }); } }); /** * GET /api/v1/status/:jobId * 根据任务ID查询任务状态和结果 */ router.get(/status/:jobId, async (req, res) { try { const jobId req.params.jobId; const job await inferenceQueue.getJob(jobId); if (!job) { return res.status(404).json({ error: 未找到指定的任务 }); } const state await job.getState(); const result { jobId: job.id, status: state, progress: job.progress(), // 进度需要我们在worker中更新 data: job.data, // 任务提交时的数据 }; // 如果任务已完成返回结果 if (state completed) { result.output job.returnvalue; } // 如果任务失败返回错误信息 if (state failed) { result.error job.failedReason; } res.json(result); } catch (error) { console.error(查询任务状态时出错:, error); res.status(500).json({ error: 查询任务状态失败 }); } }); module.exports router;这个路由文件定义了两个核心接口POST /api/v1/generate接收前端发来的生成请求比如描述文本“江南水乡细雨蒙蒙”。它不直接调用模型而是将任务详情jobData放入inferenceQueue队列并立即返回一个jobId给客户端。这种异步处理方式避免了HTTP连接长时间等待非常适合耗时的AI任务。GET /api/v1/status/:jobId客户端可以用上一步拿到的jobId来轮询查询这个任务的执行状态等待中、处理中、完成、失败和最终结果。2.3 实现异步任务队列与Worker任务被放进队列了谁来处理呢这就是Worker工作者的角色。我们创建queues文件夹和inferenceQueue.js文件。// queues/inferenceQueue.js const Queue require(bull); const Redis require(ioredis); const { performInference } require(../workers/inferenceWorker); // 引入实际执行推理的函数 // 创建Redis连接默认连接本机6379端口 const redisClient new Redis({ maxRetriesPerRequest: null, // Bull库的兼容性设置 }); // 创建名为 ink-jiangnan-inference 的队列 const inferenceQueue new Queue(ink-jiangnan-inference, { createClient: (type) redisClient, // 重用同一个Redis连接 defaultJobOptions: { removeOnComplete: true, // 任务完成后自动移除节省空间 }, }); // 定义队列的处理逻辑 inferenceQueue.process(generate-image, async (job) { console.log(开始处理任务: ${job.id}); job.progress(10); // 更新进度 try { // 调用真正的模型推理函数 const result await performInference(job.data); job.progress(100); console.log(任务完成: ${job.id}); return result; // 返回的结果会被存储在job.returnvalue中 } catch (error) { console.error(任务失败 ${job.id}:, error); // 抛出错误Bull会根据配置进行重试 throw new Error(推理过程失败: ${error.message}); } }); // 监听队列事件可选用于日志和监控 inferenceQueue.on(completed, (job, result) { console.log(任务 #${job.id} 已完成结果大小: ${result?.imageData?.length || 0} bytes); }); inferenceQueue.on(failed, (job, err) { console.error(任务 #${job.id} 失败原因:, err.message); }); module.exports inferenceQueue;这个文件创建了一个连接到Redis的Bull队列并定义了当有名为generate-image类型的任务到达时应该执行performInference(job.data)这个函数。Worker会从队列中取出任务一个一个地执行。那么最关键的performInference函数在哪里它负责与水墨江南模型交互。由于模型很可能是用Python运行的例如通过FastAPI提供本地HTTP接口我们的Worker需要调用它。创建workers文件夹和inferenceWorker.js// workers/inferenceWorker.js const axios require(axios); // 假设你的水墨江南Python模型服务运行在 http://localhost:8000 const MODEL_API_BASE_URL process.env.MODEL_API_URL || http://localhost:8000; /** * 调用后端Python模型服务执行推理 * param {Object} jobData - 从队列任务中传来的数据 * returns {PromiseObject} - 推理结果如图片Base64数据 */ async function performInference(jobData) { const { prompt, negative_prompt, width, height, num_inference_steps } jobData; const payload { prompt, negative_prompt, width, height, num_inference_steps, }; try { console.log(调用模型API: ${MODEL_API_BASE_URL}/generate); const response await axios.post(${MODEL_API_BASE_URL}/generate, payload, { timeout: 300000, // 设置5分钟超时因为生成可能较慢 }); if (response.status 200 response.data.success) { // 假设Python服务返回 { success: true, image: base64_string, ... } return { success: true, imageData: response.data.image, // Base64编码的图片字符串 info: response.data.info, // 可能包含生成参数等信息 jobId: jobData.timestamp, }; } else { throw new Error(模型服务返回错误: ${JSON.stringify(response.data)}); } } catch (error) { console.error(调用模型API失败:, error.message); // 根据错误类型细化处理比如网络错误、模型错误等 if (error.code ECONNREFUSED) { throw new Error(无法连接到模型服务请确保Python服务已启动); } else if (error.response) { // 模型服务返回了错误状态码 throw new Error(模型服务错误 (${error.response.status}): ${error.response.data.detail || Unknown}); } else if (error.request) { // 请求已发出但无响应 throw new Error(模型服务请求超时或无响应); } else { throw error; // 其他错误 } } } module.exports { performInference };这个Worker是连接Node.js服务与底层Python模型或其他任何服务的桥梁。它使用axios向模型服务的HTTP接口发送POST请求并处理返回的结果或错误。你需要将MODEL_API_BASE_URL替换为你实际运行的模型服务地址。3. 服务部署与进程守护代码写完了怎么让它稳定地跑起来呢尤其是在服务器上。3.1 使用PM2进行进程管理我们之前全局安装了PM2。现在在项目根目录下我们可以创建一个简单的PM2配置文件ecosystem.config.js// ecosystem.config.js module.exports { apps: [{ name: ink-jiangnan-api, // 应用名称 script: app.js, // 入口文件 instances: max, // 根据CPU核心数启动最大实例数集群模式 exec_mode: cluster, // 集群模式充分利用多核CPU autorestart: true, // 应用崩溃时自动重启 watch: false, // 生产环境不建议开启watch以免频繁重启 max_memory_restart: 1G, // 如果内存使用超过1G自动重启 env: { NODE_ENV: production, PORT: 3000, MODEL_API_URL: http://你的模型服务IP:端口, // 这里替换成你的模型服务地址 }, error_file: ./logs/err.log, // 错误日志路径 out_file: ./logs/out.log, // 普通输出日志路径 log_date_format: YYYY-MM-DD HH:mm:ss Z, // 日志日期格式 }] };这个配置文件告诉PM2如何运行我们的应用包括应用名称、启动文件、运行模式、环境变量以及日志管理。现在启动服务就变得非常简单# 在项目根目录下执行 pm2 start ecosystem.config.jsPM2会以后台守护进程的方式运行你的应用。你可以通过以下命令管理它pm2 status # 查看所有应用状态 pm2 logs ink-jiangnan-api # 查看该应用的实时日志 pm2 stop ink-jiangnan-api # 停止应用 pm2 restart ink-jiangnan-api # 重启应用 pm2 delete ink-jiangnan-api # 删除应用记录 pm2 save # 保存当前进程列表以便开机自启 pm2 startup # 生成开机自启动脚本需要sudo3.2 测试你的API服务服务启动后我们来测试一下。你可以使用curl命令或者更直观的工具如 Postman。首先提交一个生成任务curl -X POST http://localhost:3000/api/v1/generate \ -H Content-Type: application/json \ -d { prompt: 江南水乡白墙黛瓦小桥流水细雨朦胧水墨风格, width: 768, height: 512 }如果成功你会收到类似这样的响应{ message: 图像生成任务已提交, jobId: 1, statusUrl: /api/v1/status/1 }然后使用返回的jobId去查询状态curl http://localhost:3000/api/v1/status/1在任务处理的不同阶段你会看到不同的statuswaiting,active,completed,failed。当状态变为completed时output字段里就会包含生成的图像数据比如Base64字符串。同时你可以访问http://localhost:3000/admin/queues来打开Bull Board界面直观地看到队列中有多少任务它们的状态如何。4. 总结与后续建议跟着上面的步骤走一遍一个基于Node.js的水墨江南模型API服务就搭建起来了。这个架构的核心思想是“异步解耦”用Express快速响应Web请求用Bull队列管理耗时的模型推理任务用PM2来保证服务的稳定运行。实际用下来这种架构对于AI模型服务来说挺合适的。前端用户不需要长时间等待提交任务后就可以去做别的事情过会儿再来取结果。后台的Worker会稳稳当当地处理队列里的任务即使某个任务失败了也有重试机制。PM2则像是一个贴心的管家确保服务7x24小时在线。当然这只是一个起点。在实际生产环境中你可能还需要考虑更多安全性给API接口加上认证如JWT防止被滥用。限流使用express-rate-limit等中间件限制单个用户的请求频率。结果存储生成的图片Base64数据很大不适合长期放在Redis或直接返回。可以考虑存到对象存储如AWS S3、MinIO或文件服务器然后只返回一个URL。更复杂的队列根据业务需要可以设置不同优先级的队列或者实现更精细的任务进度反馈。监控与告警结合PM2和Bull的日志搭建监控系统在服务异常时及时通知。希望这篇教程能帮你顺利在Node.js环境中把水墨江南模型跑起来。先从简单的例子开始把这个流程跑通然后再根据你的具体需求慢慢添加和完善其他功能。如果在实践中遇到问题多看看日志那里面通常藏着答案。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。