vLLM-v0.11.0保姆级教程从零到一部署你的第一个AI服务你是不是对AI大模型充满好奇想亲手搭建一个属于自己的智能对话服务却总被复杂的部署步骤和晦涩的配置劝退看着别人轻松调用模型自己却卡在环境搭建的第一步别担心今天这篇教程就是为你准备的。我们将使用vLLM-v0.11.0这个业界顶尖的推理框架带你从零开始一步步部署一个高性能的AI服务。整个过程就像搭积木一样简单你不需要是深度学习专家只要会复制粘贴命令就能在半小时内拥有一个堪比专业水准的模型服务。vLLM 是伯克利大学团队开源的高性能推理引擎它最大的特点就是“快”和“省”。它能让你的模型推理速度提升好几倍同时大幅减少显存占用。这意味着用同样的显卡你能服务更多的用户或者运行更大的模型。本教程将完全基于 CSDN 星图平台提供的预置镜像省去你安装依赖、配置环境的烦恼。我们会从最基础的镜像启动开始到模型加载、服务测试最后还会教你如何通过简单的API调用来使用这个服务。准备好了吗让我们开始吧1. 环境准备选择与启动你的第一个AI实例1.1 为什么选择 vLLM 和这个预置镜像在开始动手之前我们先花一分钟了解一下为什么这个方案如此适合新手。首先vLLM 解决了什么痛点传统的大模型部署方式比如直接用 Hugging Face 的 Transformers 库往往效率不高尤其是在多人同时使用高并发时响应会变慢显卡内存也容易不够用。vLLM 引入了一个叫PagedAttention的黑科技它像电脑操作系统管理内存一样来高效管理模型运行时的关键数据从而实现了更高的吞吐量单位时间内能处理更多的用户请求。更低的延迟每个请求的响应速度更快。更少的内存占用同样的显卡能运行参数更大的模型。其次预置镜像帮你做了什么想象一下你要做一顿大餐预置镜像就像是一个已经配好所有调料和半成品食材的“料理包”。CSDN 星图平台的这个Vllm-v0.11.0镜像已经内置了配置好的 Python 环境CUDA, PyTorch, vLLM 等。一个开箱即用的模型服务后端。方便的访问方式JupyterLab 和 SSH。 你不需要从零开始安装任何东西只需要“加热”一下启动实例就能直接“享用”。1.2 第一步在星图平台找到并启动镜像现在我们进入实战操作环节。整个过程非常简单只有三个步骤。步骤一登录并搜索镜像访问 CSDN 星图平台。在搜索框中输入 “Vllm-v0.11.0” 或直接在 AI 推理分类下浏览。找到名为Vllm-v0.11.0的镜像查看其描述确认它符合我们的需求。步骤二配置并创建实例点击“一键部署”或“创建实例”按钮你会进入配置页面。这里有几个关键选项需要留意GPU 类型这是最重要的选择决定了你能运行多大规模的模型。入门体验如果你只是想试试水可以选择显存较小的卡如 16G 的 V100 或 3090运行 7B 参数的模型。推荐选择为了有更好的体验和兼容性建议选择24G 或以上显存的显卡如 A100, 4090, A40这样可以流畅运行 7B/13B 模型并为后续尝试更大模型留有余地。CPU 和内存保持默认或选择中等配置如 8核 CPU32GB 内存即可模型推理主要消耗的是 GPU 资源。存储空间建议分配100GB 以上的存储空间用于存放模型文件和日志。确认配置后点击“创建”或“立即购买”。平台会自动为你初始化这个环境这个过程通常需要3到5分钟。步骤三获取访问方式实例创建成功后在控制台你可以看到实例的运行状态和两个重要的访问入口JupyterLab一个网页版的集成开发环境非常适合不熟悉命令行的新手。点击即可打开一个包含文件浏览器、终端和记事本的网页。SSH 连接信息包含公网 IP 地址和端口号你可以使用 Xshell、Termius 等工具或者系统自带的终端进行连接。至此你的“AI服务器”就已经在云端准备就绪了2. 快速上手两种方式访问你的AI服务实例启动后我们有两种非常方便的方式来使用它图形化的 JupyterLab和灵活的 SSH 终端。你可以根据喜好任选其一。2.1 方式一通过 JupyterLab 轻松访问推荐新手JupyterLab 就像是一个在浏览器里运行的“电脑桌面”对新手极其友好。在实例控制台找到并点击“打开 JupyterLab”按钮。浏览器会弹出一个新标签页这就是你的工作环境。左侧是文件列表中间可以打开多个“标签页”进行编程或操作。要使用终端只需点击菜单栏的File-New-Terminal。这会打开一个命令行窗口你可以在里面执行后续的所有命令。上图展示了JupyterLab的主界面你可以在这里创建笔记本、文本文件或终端上图展示了如何在JupyterLab中新建一个终端后续命令都在这里输入优点无需安装任何软件操作直观可以边写代码边看文档非常适合学习和调试。2.2 方式二通过 SSH 直接连接终端如果你更喜欢传统的命令行操作或者需要从本地电脑进行连接SSH 是最直接的方式。在实例控制台找到SSH 连接命令它通常长这样ssh root你的公网IP -p 端口号。打开你电脑上的终端Windows 可用 PowerShell 或 WSLMac/Linux 直接用系统终端。将上面的命令复制粘贴进去按回车执行。如果是第一次连接会询问是否信任主机输入yes即可。上图展示了实例详情页中的SSH访问地址和端口信息连接成功后你的终端提示符会变成类似rootinstance-name:~#的样子这表示你已经成功登录到远程服务器了。上图展示了通过SSH成功登录到实例后的命令行界面优点连接稳定功能完整适合进行长期的运维和管理操作。无论选择哪种方式接下来我们都要在终端里进行同样的操作。3. 核心操作启动你的第一个模型服务登录到终端后我们首先要确认环境然后启动 vLLM 服务。3.1 检查环境与依赖在终端中输入以下命令检查关键组件是否就位# 1. 检查Python和vLLM版本 python --version pip list | grep vllm # 2. 检查GPU是否可用这是最重要的 nvidia-smi执行nvidia-smi后你应该能看到一个表格显示你的GPU型号、驱动版本以及当前的显存使用情况。如果能看到这些信息说明GPU环境是正常的。3.2 启动 vLLM 服务这个预置镜像已经为我们准备好了一切。启动服务非常简单只需要一行命令。这里我们以启动一个流行的中文模型Qwen-7B-Chat为例# 使用 vLLM 启动一个模型服务 python -m vllm.entrypoints.openai.api_server \ --model Qwen/Qwen-7B-Chat \ --served-model-name Qwen-7B-Chat \ --host 0.0.0.0 \ --port 8000命令参数解释--model Qwen/Qwen-7B-Chat指定要加载的模型。这里是从 Hugging Face 模型库在线下载。你也可以指定已下载到本地的模型路径。--served-model-name Qwen-7B-Chat给服务起的名字调用API时会用到。--host 0.0.0.0让服务监听所有网络接口这样你才能从外部访问。--port 8000指定服务运行的端口号。第一次运行会发生什么当你第一次运行这行命令时vLLM 会从 Hugging Face 下载Qwen-7B-Chat模型文件。根据网络情况这可能需要较长时间几十分钟到一小时。终端会显示下载进度条请耐心等待直到下载完成。下载完成后模型会自动加载到 GPU 显存中。当你在终端看到类似“Uvicorn running on http://0.0.0.0:8000”的日志时恭喜你你的 AI 服务已经成功启动并在 8000 端口等待请求。让服务在后台运行上面那种方式关闭终端服务就停止了。我们可以用nohup命令让它在后台持续运行nohup python -m vllm.entrypoints.openai.api_server \ --model Qwen/Qwen-7B-Chat \ --served-model-name Qwen-7B-Chat \ --host 0.0.0.0 \ --port 8000 server.log 21 这样服务就会在后台运行并且所有输出日志都会保存到server.log文件中。你可以用tail -f server.log来实时查看日志。4. 测试与调用和你的AI模型对话服务启动后我们如何验证它是否工作正常并开始使用呢有两种主要方式简单的网页测试和编程调用。4.1 方法一使用网页快速测试最简单vLLM 服务启动后自带了一个简单的交互式网页界面。打开你的浏览器。在地址栏输入http://你的公网IP:8000/docs请将你的公网IP替换为你从星图平台实例控制台获取的真实IP地址。你应该会看到一个Swagger UI页面里面列出了服务提供的所有API接口。在这个页面你可以找到/v1/completions或/v1/chat/completions接口这模仿了 OpenAI 的 API 格式。点击 “Try it out” 按钮在prompt框里输入你想问的问题比如“请用中文介绍一下你自己”然后点击 “Execute”。稍等片刻你就能在下方 “Responses” 区域看到模型返回的回答了这证明你的服务一切正常。4.2 方法二使用 Python 代码调用最常用在实际项目中我们通常用代码来调用服务。下面是一个最简单的 Python 示例# test_api.py import openai # 注意这里使用的是 openai 库但指向我们自己的服务 # 配置客户端指向我们刚刚启动的 vLLM 服务 client openai.OpenAI( api_keytoken-abc123, # vLLM 服务默认不需要密钥但需要提供一个非空值 base_urlhttp://你的公网IP:8000/v1 # 替换为你的 IP 和端口 ) # 调用聊天补全接口 response client.chat.completions.create( modelQwen-7B-Chat, # 必须和启动服务时 --served-model-name 指定的名字一致 messages[ {role: user, content: 你好请用中文写一首关于春天的短诗。} ], max_tokens150, # 限制生成文本的最大长度 temperature0.7, # 控制创造性值越高回答越随机 ) # 打印模型的回复 print(response.choices[0].message.content)运行这段代码在你的 JupyterLab 中新建一个 Python 笔记本.ipynb文件或者用 SSH 在服务器上创建一个.py文件。将上面的代码粘贴进去记得替换base_url中的 IP 地址。确保已安装openai库通常预置镜像已安装如果没有运行pip install openai。执行代码。如果一切顺利你将看到模型生成的一首关于春天的小诗。4.3 方法三使用 cURL 命令测试通用如果你没有 Python 环境或者想快速在终端测试cURL命令是万能工具。curl http://你的公网IP:8000/v1/chat/completions \ -H Content-Type: application/json \ -d { model: Qwen-7B-Chat, messages: [ {role: user, content: 谁是世界上最好的编程语言} ], max_tokens: 100 }执行后终端会返回一串 JSON 格式的数据其中choices[0].message.content字段就是模型的回答。5. 进阶与总结5.1 还能做什么更多实用技巧成功运行基础服务后你可以尝试以下操作来让它更强大、更贴合你的需求更换其他模型只需修改启动命令中的--model参数。例如想尝试 ChatGLM3可以换成--model THUDM/chatglm3-6b。vLLM 支持众多 Hugging Face 上的热门模型。调整性能参数--max-model-len 4096设置模型能处理的最大文本长度。--gpu-memory-utilization 0.9设定 GPU 显存使用率避免爆显存。--tensor-parallel-size 2如果你有多张GPU可以用这个参数进行并行计算来加速。启用 API 密钥认证在启动命令中加入--api-key your-secret-key这样只有提供正确密钥的请求才能访问你的服务更安全。查看服务状态服务运行后访问http://你的公网IP:8000/metrics可以查看一些实时性能指标。5.2 总结回顾让我们回顾一下今天完成的壮举选择与启动我们在 CSDN 星图平台找到了Vllm-v0.11.0预置镜像并成功启动了一个带 GPU 的云服务器实例。访问环境我们学会了通过JupyterLab图形化新手友好和SSH命令行灵活强大两种方式连接到服务器。启动服务我们用一行命令启动了 vLLM 服务并加载了Qwen-7B-Chat模型。第一次运行时需要耐心等待模型下载。测试调用我们通过三种方式验证了服务网页测试访问IP:8000/docs使用交互界面直接对话。Python调用写几行简单的代码像调用 OpenAI 官方 API 一样调用我们自己的服务。cURL命令在终端里用一行命令快速测试。整个过程你没有手动安装任何复杂的深度学习框架或 CUDA 驱动所有环境问题都被预置镜像解决了。你现在拥有的是一个部署在云端、性能优异、随时可以通过标准 API 调用的 AI 大模型服务。这仅仅是开始。基于这个服务你可以开发智能客服、创作助手、代码生成工具等等。希望这篇保姆级教程能帮你成功跨出第一步打开大模型应用开发的大门。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
vLLM-v0.11.0保姆级教程：从零到一部署你的第一个AI服务
发布时间：2026/7/11 15:19:49
vLLM-v0.11.0保姆级教程从零到一部署你的第一个AI服务你是不是对AI大模型充满好奇想亲手搭建一个属于自己的智能对话服务却总被复杂的部署步骤和晦涩的配置劝退看着别人轻松调用模型自己却卡在环境搭建的第一步别担心今天这篇教程就是为你准备的。我们将使用vLLM-v0.11.0这个业界顶尖的推理框架带你从零开始一步步部署一个高性能的AI服务。整个过程就像搭积木一样简单你不需要是深度学习专家只要会复制粘贴命令就能在半小时内拥有一个堪比专业水准的模型服务。vLLM 是伯克利大学团队开源的高性能推理引擎它最大的特点就是“快”和“省”。它能让你的模型推理速度提升好几倍同时大幅减少显存占用。这意味着用同样的显卡你能服务更多的用户或者运行更大的模型。本教程将完全基于 CSDN 星图平台提供的预置镜像省去你安装依赖、配置环境的烦恼。我们会从最基础的镜像启动开始到模型加载、服务测试最后还会教你如何通过简单的API调用来使用这个服务。准备好了吗让我们开始吧1. 环境准备选择与启动你的第一个AI实例1.1 为什么选择 vLLM 和这个预置镜像在开始动手之前我们先花一分钟了解一下为什么这个方案如此适合新手。首先vLLM 解决了什么痛点传统的大模型部署方式比如直接用 Hugging Face 的 Transformers 库往往效率不高尤其是在多人同时使用高并发时响应会变慢显卡内存也容易不够用。vLLM 引入了一个叫PagedAttention的黑科技它像电脑操作系统管理内存一样来高效管理模型运行时的关键数据从而实现了更高的吞吐量单位时间内能处理更多的用户请求。更低的延迟每个请求的响应速度更快。更少的内存占用同样的显卡能运行参数更大的模型。其次预置镜像帮你做了什么想象一下你要做一顿大餐预置镜像就像是一个已经配好所有调料和半成品食材的“料理包”。CSDN 星图平台的这个Vllm-v0.11.0镜像已经内置了配置好的 Python 环境CUDA, PyTorch, vLLM 等。一个开箱即用的模型服务后端。方便的访问方式JupyterLab 和 SSH。 你不需要从零开始安装任何东西只需要“加热”一下启动实例就能直接“享用”。1.2 第一步在星图平台找到并启动镜像现在我们进入实战操作环节。整个过程非常简单只有三个步骤。步骤一登录并搜索镜像访问 CSDN 星图平台。在搜索框中输入 “Vllm-v0.11.0” 或直接在 AI 推理分类下浏览。找到名为Vllm-v0.11.0的镜像查看其描述确认它符合我们的需求。步骤二配置并创建实例点击“一键部署”或“创建实例”按钮你会进入配置页面。这里有几个关键选项需要留意GPU 类型这是最重要的选择决定了你能运行多大规模的模型。入门体验如果你只是想试试水可以选择显存较小的卡如 16G 的 V100 或 3090运行 7B 参数的模型。推荐选择为了有更好的体验和兼容性建议选择24G 或以上显存的显卡如 A100, 4090, A40这样可以流畅运行 7B/13B 模型并为后续尝试更大模型留有余地。CPU 和内存保持默认或选择中等配置如 8核 CPU32GB 内存即可模型推理主要消耗的是 GPU 资源。存储空间建议分配100GB 以上的存储空间用于存放模型文件和日志。确认配置后点击“创建”或“立即购买”。平台会自动为你初始化这个环境这个过程通常需要3到5分钟。步骤三获取访问方式实例创建成功后在控制台你可以看到实例的运行状态和两个重要的访问入口JupyterLab一个网页版的集成开发环境非常适合不熟悉命令行的新手。点击即可打开一个包含文件浏览器、终端和记事本的网页。SSH 连接信息包含公网 IP 地址和端口号你可以使用 Xshell、Termius 等工具或者系统自带的终端进行连接。至此你的“AI服务器”就已经在云端准备就绪了2. 快速上手两种方式访问你的AI服务实例启动后我们有两种非常方便的方式来使用它图形化的 JupyterLab和灵活的 SSH 终端。你可以根据喜好任选其一。2.1 方式一通过 JupyterLab 轻松访问推荐新手JupyterLab 就像是一个在浏览器里运行的“电脑桌面”对新手极其友好。在实例控制台找到并点击“打开 JupyterLab”按钮。浏览器会弹出一个新标签页这就是你的工作环境。左侧是文件列表中间可以打开多个“标签页”进行编程或操作。要使用终端只需点击菜单栏的File-New-Terminal。这会打开一个命令行窗口你可以在里面执行后续的所有命令。上图展示了JupyterLab的主界面你可以在这里创建笔记本、文本文件或终端上图展示了如何在JupyterLab中新建一个终端后续命令都在这里输入优点无需安装任何软件操作直观可以边写代码边看文档非常适合学习和调试。2.2 方式二通过 SSH 直接连接终端如果你更喜欢传统的命令行操作或者需要从本地电脑进行连接SSH 是最直接的方式。在实例控制台找到SSH 连接命令它通常长这样ssh root你的公网IP -p 端口号。打开你电脑上的终端Windows 可用 PowerShell 或 WSLMac/Linux 直接用系统终端。将上面的命令复制粘贴进去按回车执行。如果是第一次连接会询问是否信任主机输入yes即可。上图展示了实例详情页中的SSH访问地址和端口信息连接成功后你的终端提示符会变成类似rootinstance-name:~#的样子这表示你已经成功登录到远程服务器了。上图展示了通过SSH成功登录到实例后的命令行界面优点连接稳定功能完整适合进行长期的运维和管理操作。无论选择哪种方式接下来我们都要在终端里进行同样的操作。3. 核心操作启动你的第一个模型服务登录到终端后我们首先要确认环境然后启动 vLLM 服务。3.1 检查环境与依赖在终端中输入以下命令检查关键组件是否就位# 1. 检查Python和vLLM版本 python --version pip list | grep vllm # 2. 检查GPU是否可用这是最重要的 nvidia-smi执行nvidia-smi后你应该能看到一个表格显示你的GPU型号、驱动版本以及当前的显存使用情况。如果能看到这些信息说明GPU环境是正常的。3.2 启动 vLLM 服务这个预置镜像已经为我们准备好了一切。启动服务非常简单只需要一行命令。这里我们以启动一个流行的中文模型Qwen-7B-Chat为例# 使用 vLLM 启动一个模型服务 python -m vllm.entrypoints.openai.api_server \ --model Qwen/Qwen-7B-Chat \ --served-model-name Qwen-7B-Chat \ --host 0.0.0.0 \ --port 8000命令参数解释--model Qwen/Qwen-7B-Chat指定要加载的模型。这里是从 Hugging Face 模型库在线下载。你也可以指定已下载到本地的模型路径。--served-model-name Qwen-7B-Chat给服务起的名字调用API时会用到。--host 0.0.0.0让服务监听所有网络接口这样你才能从外部访问。--port 8000指定服务运行的端口号。第一次运行会发生什么当你第一次运行这行命令时vLLM 会从 Hugging Face 下载Qwen-7B-Chat模型文件。根据网络情况这可能需要较长时间几十分钟到一小时。终端会显示下载进度条请耐心等待直到下载完成。下载完成后模型会自动加载到 GPU 显存中。当你在终端看到类似“Uvicorn running on http://0.0.0.0:8000”的日志时恭喜你你的 AI 服务已经成功启动并在 8000 端口等待请求。让服务在后台运行上面那种方式关闭终端服务就停止了。我们可以用nohup命令让它在后台持续运行nohup python -m vllm.entrypoints.openai.api_server \ --model Qwen/Qwen-7B-Chat \ --served-model-name Qwen-7B-Chat \ --host 0.0.0.0 \ --port 8000 server.log 21 这样服务就会在后台运行并且所有输出日志都会保存到server.log文件中。你可以用tail -f server.log来实时查看日志。4. 测试与调用和你的AI模型对话服务启动后我们如何验证它是否工作正常并开始使用呢有两种主要方式简单的网页测试和编程调用。4.1 方法一使用网页快速测试最简单vLLM 服务启动后自带了一个简单的交互式网页界面。打开你的浏览器。在地址栏输入http://你的公网IP:8000/docs请将你的公网IP替换为你从星图平台实例控制台获取的真实IP地址。你应该会看到一个Swagger UI页面里面列出了服务提供的所有API接口。在这个页面你可以找到/v1/completions或/v1/chat/completions接口这模仿了 OpenAI 的 API 格式。点击 “Try it out” 按钮在prompt框里输入你想问的问题比如“请用中文介绍一下你自己”然后点击 “Execute”。稍等片刻你就能在下方 “Responses” 区域看到模型返回的回答了这证明你的服务一切正常。4.2 方法二使用 Python 代码调用最常用在实际项目中我们通常用代码来调用服务。下面是一个最简单的 Python 示例# test_api.py import openai # 注意这里使用的是 openai 库但指向我们自己的服务 # 配置客户端指向我们刚刚启动的 vLLM 服务 client openai.OpenAI( api_keytoken-abc123, # vLLM 服务默认不需要密钥但需要提供一个非空值 base_urlhttp://你的公网IP:8000/v1 # 替换为你的 IP 和端口 ) # 调用聊天补全接口 response client.chat.completions.create( modelQwen-7B-Chat, # 必须和启动服务时 --served-model-name 指定的名字一致 messages[ {role: user, content: 你好请用中文写一首关于春天的短诗。} ], max_tokens150, # 限制生成文本的最大长度 temperature0.7, # 控制创造性值越高回答越随机 ) # 打印模型的回复 print(response.choices[0].message.content)运行这段代码在你的 JupyterLab 中新建一个 Python 笔记本.ipynb文件或者用 SSH 在服务器上创建一个.py文件。将上面的代码粘贴进去记得替换base_url中的 IP 地址。确保已安装openai库通常预置镜像已安装如果没有运行pip install openai。执行代码。如果一切顺利你将看到模型生成的一首关于春天的小诗。4.3 方法三使用 cURL 命令测试通用如果你没有 Python 环境或者想快速在终端测试cURL命令是万能工具。curl http://你的公网IP:8000/v1/chat/completions \ -H Content-Type: application/json \ -d { model: Qwen-7B-Chat, messages: [ {role: user, content: 谁是世界上最好的编程语言} ], max_tokens: 100 }执行后终端会返回一串 JSON 格式的数据其中choices[0].message.content字段就是模型的回答。5. 进阶与总结5.1 还能做什么更多实用技巧成功运行基础服务后你可以尝试以下操作来让它更强大、更贴合你的需求更换其他模型只需修改启动命令中的--model参数。例如想尝试 ChatGLM3可以换成--model THUDM/chatglm3-6b。vLLM 支持众多 Hugging Face 上的热门模型。调整性能参数--max-model-len 4096设置模型能处理的最大文本长度。--gpu-memory-utilization 0.9设定 GPU 显存使用率避免爆显存。--tensor-parallel-size 2如果你有多张GPU可以用这个参数进行并行计算来加速。启用 API 密钥认证在启动命令中加入--api-key your-secret-key这样只有提供正确密钥的请求才能访问你的服务更安全。查看服务状态服务运行后访问http://你的公网IP:8000/metrics可以查看一些实时性能指标。5.2 总结回顾让我们回顾一下今天完成的壮举选择与启动我们在 CSDN 星图平台找到了Vllm-v0.11.0预置镜像并成功启动了一个带 GPU 的云服务器实例。访问环境我们学会了通过JupyterLab图形化新手友好和SSH命令行灵活强大两种方式连接到服务器。启动服务我们用一行命令启动了 vLLM 服务并加载了Qwen-7B-Chat模型。第一次运行时需要耐心等待模型下载。测试调用我们通过三种方式验证了服务网页测试访问IP:8000/docs使用交互界面直接对话。Python调用写几行简单的代码像调用 OpenAI 官方 API 一样调用我们自己的服务。cURL命令在终端里用一行命令快速测试。整个过程你没有手动安装任何复杂的深度学习框架或 CUDA 驱动所有环境问题都被预置镜像解决了。你现在拥有的是一个部署在云端、性能优异、随时可以通过标准 API 调用的 AI 大模型服务。这仅仅是开始。基于这个服务你可以开发智能客服、创作助手、代码生成工具等等。希望这篇保姆级教程能帮你成功跨出第一步打开大模型应用开发的大门。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
