VMware虚拟机中部署MiniCPM-V-2_6Windows宿主机上的Linux开发环境对于很多使用Windows系统的开发者来说有时候需要运行一些只能在Linux环境下部署和测试的AI模型这确实是个小麻烦。直接在Windows上折腾各种兼容层往往问题多多环境配置复杂。这时候一个稳定、隔离的Linux虚拟机就成了绝佳的解决方案。今天我们就来手把手教你如何在Windows电脑上通过VMware虚拟机搭建一个Ubuntu系统并在这个“Linux盒子”里完整部署最近挺火的MiniCPM-V-2_6多模态大模型。整个过程会覆盖从虚拟机安装、系统配置到模型部署、测试运行的全流程重点解决虚拟机与Windows宿主机之间文件怎么传、网络怎么配这些实际会遇到的问题。跟着做下来你就能在Windows里拥有一个功能完整的Linux AI开发环境了。1. 准备工作与环境搭建在开始部署模型之前我们需要先把“房子”盖好也就是创建并配置好虚拟机。这部分是基础但很关键配置得当能让后续步骤顺畅很多。1.1 所需软件与资源清单首先请确保你的Windows电脑上已经准备好以下东西VMware Workstation Player 这是我们将要使用的虚拟机软件。它有针对个人和非商业用途的免费版本VMware Workstation Player功能完全够用。你可以去官网下载安装。Ubuntu 22.04 LTS 镜像文件 推荐使用Ubuntu 22.04 LTS版本长期支持社区资源丰富稳定性好。去Ubuntu官网下载桌面版Desktop的ISO镜像文件。MiniCPM-V-2_6 模型文件 你需要提前从模型发布页面例如Hugging Face获取模型权重文件。由于模型文件通常较大几个GB到几十GB建议先下载到Windows本地硬盘。足够的磁盘空间 建议为虚拟机预留至少50GB的磁盘空间用于安装Ubuntu系统、各种依赖库以及存放模型文件。1.2 创建并安装Ubuntu虚拟机打开安装好的VMware Workstation Player我们开始创建新虚拟机。新建虚拟机 点击“创建新虚拟机”。选择“安装程序光盘映像文件”然后浏览并选中你下载好的Ubuntu 22.04 ISO文件。简易安装信息 接下来会提示你输入一些简易安装信息包括你的全名、用户名、密码。这里设置的用户名和密码就是你将来登录Ubuntu系统要用的请牢记。命名虚拟机与指定位置 给你的虚拟机起个名字比如“Ubuntu_AI_Dev”。然后选择一个剩余空间充足的磁盘分区来存放虚拟机文件。磁盘容量 指定虚拟机的最大磁盘大小。建议设置为40GB或以上并选择“将虚拟磁盘拆分成多个文件”这样更方便管理。自定义硬件关键步骤 在完成创建前点击“自定义硬件”。这里有几项需要调整内存 根据你宿主机Windows电脑的内存大小来分配。如果宿主机有16GB内存可以分配8GB给虚拟机如果有32GB可以分配12-16GB。运行大模型内存大一些体验更好。处理器 为虚拟机分配2个或更多的处理器核心。网络适配器 模式选择“NAT模式”。这样虚拟机可以共享宿主机的IP地址上网宿主机和虚拟机之间也能互相访问是最方便的选择。显示器 将“加速3D图形”选项勾选上这对后续一些图形化操作或可能的GPU加速有好处。完成并安装 检查配置无误后关闭硬件设置窗口点击完成。VMware会自动启动虚拟机并开始Ubuntu的安装过程。期间基本不需要你干预它会自动完成分区、拷贝文件、设置系统等操作。安装完成后虚拟机会自动重启。现在你应该已经能看到Ubuntu系统的登录界面了。用刚才设置的用户名和密码登录一个全新的Linux环境就准备就绪了。2. 配置虚拟机与宿主机协作环境虚拟机系统装好了但它现在还是个“孤岛”。我们需要搭建几座“桥”让它能和外面的Windows世界宿主机方便地交换文件和资源。2.1 安装VMware Tools增强工具VMware Tools是一套驱动程序和服务能显著提升虚拟机的性能和使用体验比如支持自由拖拽文件、屏幕自适应分辨率等。在Ubuntu虚拟机里打开终端快捷键CtrlAltT依次输入以下命令来安装# 首先更新软件包列表 sudo apt update # 安装编译VMware Tools可能需要的依赖 sudo apt install -y build-essential linux-headers-$(uname -r) # 安装open-vm-tools这是VMware Tools的开源实现更推荐 sudo apt install -y open-vm-tools open-vm-tools-desktop安装完成后最好重启一下虚拟机sudo reboot让增强功能完全生效。重启后你应该可以尝试将文件从Windows直接拖拽到Ubuntu桌面或者从Ubuntu复制文本到Windows了。2.2 设置共享文件夹文件传输桥梁拖拽文件适合小文件对于像模型权重这样动辄数GB的大文件更稳定高效的方法是设置共享文件夹。在VMware中配置 确保Ubuntu虚拟机已关机。在VMware主界面选中你的虚拟机点击“编辑虚拟机设置”。在“选项”标签页中找到“共享文件夹”。将其设置为“总是启用”然后点击“添加”按钮按照向导添加一个你在Windows上希望共享的文件夹例如D:\VM_Share。在Ubuntu中访问 启动Ubuntu虚拟机。共享文件夹通常会自动挂载在/mnt/hgfs/目录下。你可以打开文件管理器看看这个目录下是否有你刚才共享的文件夹名。如果没有可以在终端中手动挂载sudo vmhgfs-fuse .host:/ /mnt/hgfs -o allow_other -o uid1000现在你就可以在/mnt/hgfs/VM_Share假设共享文件夹名是VM_Share路径下看到Windows那边的文件了。把之前下载好的MiniCPM-V-2_6模型文件拷贝到这个共享文件夹里它们在Ubuntu里就能直接访问。2.3 网络与SSH配置远程操作桥梁虽然VMware的图形界面不错但很多开发者更喜欢用SSH从Windows终端远程连接虚拟机这样操作起来更顺手也方便使用一些Windows上的终端工具。在Ubuntu中安装并启动SSH服务sudo apt install -y openssh-server sudo systemctl enable ssh sudo systemctl start ssh获取虚拟机IP地址 在Ubuntu终端里输入ip addr show找到ens33或类似名称的网卡记下它的inet地址通常是192.168.xxx.xxx这种格式。这就是虚拟机的IP。从Windows连接 在Windows上你可以使用PowerShell、CMD或者更友好的工具如MobaXterm、PuTTY。连接命令如下在PowerShell或CMD中ssh 你的Ubuntu用户名虚拟机IP地址例如ssh alex192.168.1.105然后输入密码即可登录。至此你的虚拟机和宿主机之间已经建立了文件和命令通道后续的所有操作你既可以在虚拟机桌面里完成也可以通过SSH在Windows终端里进行非常灵活。3. 在Ubuntu中部署MiniCPM-V-2_6环境打通后我们终于可以进入正题开始部署模型了。这里假设你已经通过共享文件夹将模型文件放到了Ubuntu的某个路径下例如/home/你的用户名/models/MiniCPM-V-2_6。3.1 安装Python与基础依赖MiniCPM-V-2_6通常基于Python的深度学习框架运行。我们使用conda来管理Python环境可以避免包冲突。安装Miniconda 在Ubuntu终端中下载并安装Miniconda。wget https://repo.anaconda.com/miniconda/MiniConda3-latest-Linux-x86_64.sh bash MiniConda3-latest-Linux-x86_64.sh安装过程中按照提示操作建议将conda初始化到你的shell配置中通常是~/.bashrc。安装完成后关闭并重新打开终端或者执行source ~/.bashrc使配置生效。创建专属的Python环境conda create -n minicpm python3.10 -y conda activate minicpm3.2 安装PyTorch与模型运行库激活环境后安装必要的深度学习框架和模型库。具体命令需要参考MiniCPM-V-2_6官方文档但通常类似如下# 安装PyTorch请根据你的CUDA版本去PyTorch官网获取对应命令如果虚拟机无GPU则安装CPU版本 # 例如对于CUDA 11.8 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 安装transformers、accelerate等核心库 pip install transformers accelerate # 安装模型可能需要的额外视觉或语音处理库 pip install pillow opencv-python soundfile3.3 准备模型与运行推理定位模型文件 确保你的模型权重文件已经在Ubuntu中。例如放在/home/alex/models/MiniCPM-V-2_6。编写推理脚本 创建一个Python脚本比如叫run_minicpm.py。脚本内容需要根据模型的具体使用方式编写。这里给出一个极简的文本生成示例框架# run_minicpm.py from transformers import AutoModelForCausalLM, AutoTokenizer import torch # 指定模型本地路径 model_path /home/alex/models/MiniCPM-V-2_6 # 加载模型和分词器 print(正在加载模型和分词器...) tokenizer AutoTokenizer.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForCausalLM.from_pretrained(model_path, trust_remote_codeTrue, torch_dtypetorch.float16, device_mapauto) print(模型加载完毕) # 准备输入此处为文本示例多模态输入请参考官方文档 prompt 请用一句话介绍人工智能。 inputs tokenizer(prompt, return_tensorspt).to(model.device) # 生成文本 with torch.no_grad(): generated_ids model.generate(**inputs, max_new_tokens100) response tokenizer.decode(generated_ids[0], skip_special_tokensTrue) print(f用户{prompt}) print(f模型{response})请注意MiniCPM-V-2_6是多模态模型实际使用时可能需要处理图像、语音输入。上述代码仅为示意务必参考模型的官方GitHub仓库或Hugging Face页面提供的准确示例代码。运行脚本 在终端中确保位于minicpm的conda环境下运行你的脚本。python run_minicpm.py第一次运行会需要一些时间加载模型。如果一切顺利你将看到模型的输出。4. 常见问题与优化建议第一次部署难免会遇到些小波折这里列举几个常见问题和解决办法。虚拟机运行卡顿 如果感觉Ubuntu桌面操作不流畅可以回到VMware的虚拟机设置中适当增加分配的内存和CPU核心数。同时在Ubuntu的“软件和更新”中更换为国内的软件源如阿里云、清华源能大幅提升软件下载速度。模型加载失败或报错依赖缺失 仔细检查错误信息通常是缺少某个Python包。根据提示用pip install安装即可。CUDA错误 如果使用GPU版本PyTorch但报CUDA错误请确认虚拟机是否成功识别了宿主机的GPU这需要复杂的GPU直通或vGPU配置对新手不友好。对于入门强烈建议先使用CPU版本安装命令中不指定CUDA版本进行测试虽然速度慢但能确保环境正确。权重文件错误 确保模型文件完整并且路径在脚本中填写正确。共享文件夹无法访问 确认VMware Toolsopen-vm-tools已正确安装并重启。检查/mnt/hgfs目录的权限有时需要将你的用户加入fuse用户组sudo usermod -aG fuse $USER然后注销重新登录。SSH连接被拒绝 检查Ubuntu上的SSH服务是否正在运行 (sudo systemctl status ssh)。检查Windows防火墙是否阻止了连接。确保使用的IP地址和用户名正确。对于性能要求高的场景如果宿主机有NVIDIA GPU可以研究VMware的GPU直通PCI Passthrough或vGPU方案但这属于高级操作配置复杂且有硬件和驱动要求。对于学习和初步开发CPU环境已经足够。整个流程走下来你应该已经在Windows系统里成功拥有了一个运行着MiniCPM-V-2_6模型的Linux开发环境。这种方法的好处是环境干净、隔离不会弄乱你的Windows主机而且可以随时创建快照、回滚状态非常适合做各种AI模型的尝鲜和实验。最关键的是通过共享文件夹和SSHWindows和Ubuntu之间的协作变得非常顺畅。你可以在Windows上舒服地写代码、查资料然后在Linux虚拟机里运行和调试模型两者互不干扰又能高效配合。如果遇到问题多看看终端里给出的错误提示大部分都能在网上找到解决方案。接下来你可以基于这个环境去探索MiniCPM-V-2_6更多的多模态能力了。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
VMware虚拟机中部署MiniCPM-V-2_6：Windows宿主机上的Linux开发环境
发布时间：2026/5/19 16:31:34
VMware虚拟机中部署MiniCPM-V-2_6Windows宿主机上的Linux开发环境对于很多使用Windows系统的开发者来说有时候需要运行一些只能在Linux环境下部署和测试的AI模型这确实是个小麻烦。直接在Windows上折腾各种兼容层往往问题多多环境配置复杂。这时候一个稳定、隔离的Linux虚拟机就成了绝佳的解决方案。今天我们就来手把手教你如何在Windows电脑上通过VMware虚拟机搭建一个Ubuntu系统并在这个“Linux盒子”里完整部署最近挺火的MiniCPM-V-2_6多模态大模型。整个过程会覆盖从虚拟机安装、系统配置到模型部署、测试运行的全流程重点解决虚拟机与Windows宿主机之间文件怎么传、网络怎么配这些实际会遇到的问题。跟着做下来你就能在Windows里拥有一个功能完整的Linux AI开发环境了。1. 准备工作与环境搭建在开始部署模型之前我们需要先把“房子”盖好也就是创建并配置好虚拟机。这部分是基础但很关键配置得当能让后续步骤顺畅很多。1.1 所需软件与资源清单首先请确保你的Windows电脑上已经准备好以下东西VMware Workstation Player 这是我们将要使用的虚拟机软件。它有针对个人和非商业用途的免费版本VMware Workstation Player功能完全够用。你可以去官网下载安装。Ubuntu 22.04 LTS 镜像文件 推荐使用Ubuntu 22.04 LTS版本长期支持社区资源丰富稳定性好。去Ubuntu官网下载桌面版Desktop的ISO镜像文件。MiniCPM-V-2_6 模型文件 你需要提前从模型发布页面例如Hugging Face获取模型权重文件。由于模型文件通常较大几个GB到几十GB建议先下载到Windows本地硬盘。足够的磁盘空间 建议为虚拟机预留至少50GB的磁盘空间用于安装Ubuntu系统、各种依赖库以及存放模型文件。1.2 创建并安装Ubuntu虚拟机打开安装好的VMware Workstation Player我们开始创建新虚拟机。新建虚拟机 点击“创建新虚拟机”。选择“安装程序光盘映像文件”然后浏览并选中你下载好的Ubuntu 22.04 ISO文件。简易安装信息 接下来会提示你输入一些简易安装信息包括你的全名、用户名、密码。这里设置的用户名和密码就是你将来登录Ubuntu系统要用的请牢记。命名虚拟机与指定位置 给你的虚拟机起个名字比如“Ubuntu_AI_Dev”。然后选择一个剩余空间充足的磁盘分区来存放虚拟机文件。磁盘容量 指定虚拟机的最大磁盘大小。建议设置为40GB或以上并选择“将虚拟磁盘拆分成多个文件”这样更方便管理。自定义硬件关键步骤 在完成创建前点击“自定义硬件”。这里有几项需要调整内存 根据你宿主机Windows电脑的内存大小来分配。如果宿主机有16GB内存可以分配8GB给虚拟机如果有32GB可以分配12-16GB。运行大模型内存大一些体验更好。处理器 为虚拟机分配2个或更多的处理器核心。网络适配器 模式选择“NAT模式”。这样虚拟机可以共享宿主机的IP地址上网宿主机和虚拟机之间也能互相访问是最方便的选择。显示器 将“加速3D图形”选项勾选上这对后续一些图形化操作或可能的GPU加速有好处。完成并安装 检查配置无误后关闭硬件设置窗口点击完成。VMware会自动启动虚拟机并开始Ubuntu的安装过程。期间基本不需要你干预它会自动完成分区、拷贝文件、设置系统等操作。安装完成后虚拟机会自动重启。现在你应该已经能看到Ubuntu系统的登录界面了。用刚才设置的用户名和密码登录一个全新的Linux环境就准备就绪了。2. 配置虚拟机与宿主机协作环境虚拟机系统装好了但它现在还是个“孤岛”。我们需要搭建几座“桥”让它能和外面的Windows世界宿主机方便地交换文件和资源。2.1 安装VMware Tools增强工具VMware Tools是一套驱动程序和服务能显著提升虚拟机的性能和使用体验比如支持自由拖拽文件、屏幕自适应分辨率等。在Ubuntu虚拟机里打开终端快捷键CtrlAltT依次输入以下命令来安装# 首先更新软件包列表 sudo apt update # 安装编译VMware Tools可能需要的依赖 sudo apt install -y build-essential linux-headers-$(uname -r) # 安装open-vm-tools这是VMware Tools的开源实现更推荐 sudo apt install -y open-vm-tools open-vm-tools-desktop安装完成后最好重启一下虚拟机sudo reboot让增强功能完全生效。重启后你应该可以尝试将文件从Windows直接拖拽到Ubuntu桌面或者从Ubuntu复制文本到Windows了。2.2 设置共享文件夹文件传输桥梁拖拽文件适合小文件对于像模型权重这样动辄数GB的大文件更稳定高效的方法是设置共享文件夹。在VMware中配置 确保Ubuntu虚拟机已关机。在VMware主界面选中你的虚拟机点击“编辑虚拟机设置”。在“选项”标签页中找到“共享文件夹”。将其设置为“总是启用”然后点击“添加”按钮按照向导添加一个你在Windows上希望共享的文件夹例如D:\VM_Share。在Ubuntu中访问 启动Ubuntu虚拟机。共享文件夹通常会自动挂载在/mnt/hgfs/目录下。你可以打开文件管理器看看这个目录下是否有你刚才共享的文件夹名。如果没有可以在终端中手动挂载sudo vmhgfs-fuse .host:/ /mnt/hgfs -o allow_other -o uid1000现在你就可以在/mnt/hgfs/VM_Share假设共享文件夹名是VM_Share路径下看到Windows那边的文件了。把之前下载好的MiniCPM-V-2_6模型文件拷贝到这个共享文件夹里它们在Ubuntu里就能直接访问。2.3 网络与SSH配置远程操作桥梁虽然VMware的图形界面不错但很多开发者更喜欢用SSH从Windows终端远程连接虚拟机这样操作起来更顺手也方便使用一些Windows上的终端工具。在Ubuntu中安装并启动SSH服务sudo apt install -y openssh-server sudo systemctl enable ssh sudo systemctl start ssh获取虚拟机IP地址 在Ubuntu终端里输入ip addr show找到ens33或类似名称的网卡记下它的inet地址通常是192.168.xxx.xxx这种格式。这就是虚拟机的IP。从Windows连接 在Windows上你可以使用PowerShell、CMD或者更友好的工具如MobaXterm、PuTTY。连接命令如下在PowerShell或CMD中ssh 你的Ubuntu用户名虚拟机IP地址例如ssh alex192.168.1.105然后输入密码即可登录。至此你的虚拟机和宿主机之间已经建立了文件和命令通道后续的所有操作你既可以在虚拟机桌面里完成也可以通过SSH在Windows终端里进行非常灵活。3. 在Ubuntu中部署MiniCPM-V-2_6环境打通后我们终于可以进入正题开始部署模型了。这里假设你已经通过共享文件夹将模型文件放到了Ubuntu的某个路径下例如/home/你的用户名/models/MiniCPM-V-2_6。3.1 安装Python与基础依赖MiniCPM-V-2_6通常基于Python的深度学习框架运行。我们使用conda来管理Python环境可以避免包冲突。安装Miniconda 在Ubuntu终端中下载并安装Miniconda。wget https://repo.anaconda.com/miniconda/MiniConda3-latest-Linux-x86_64.sh bash MiniConda3-latest-Linux-x86_64.sh安装过程中按照提示操作建议将conda初始化到你的shell配置中通常是~/.bashrc。安装完成后关闭并重新打开终端或者执行source ~/.bashrc使配置生效。创建专属的Python环境conda create -n minicpm python3.10 -y conda activate minicpm3.2 安装PyTorch与模型运行库激活环境后安装必要的深度学习框架和模型库。具体命令需要参考MiniCPM-V-2_6官方文档但通常类似如下# 安装PyTorch请根据你的CUDA版本去PyTorch官网获取对应命令如果虚拟机无GPU则安装CPU版本 # 例如对于CUDA 11.8 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 安装transformers、accelerate等核心库 pip install transformers accelerate # 安装模型可能需要的额外视觉或语音处理库 pip install pillow opencv-python soundfile3.3 准备模型与运行推理定位模型文件 确保你的模型权重文件已经在Ubuntu中。例如放在/home/alex/models/MiniCPM-V-2_6。编写推理脚本 创建一个Python脚本比如叫run_minicpm.py。脚本内容需要根据模型的具体使用方式编写。这里给出一个极简的文本生成示例框架# run_minicpm.py from transformers import AutoModelForCausalLM, AutoTokenizer import torch # 指定模型本地路径 model_path /home/alex/models/MiniCPM-V-2_6 # 加载模型和分词器 print(正在加载模型和分词器...) tokenizer AutoTokenizer.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForCausalLM.from_pretrained(model_path, trust_remote_codeTrue, torch_dtypetorch.float16, device_mapauto) print(模型加载完毕) # 准备输入此处为文本示例多模态输入请参考官方文档 prompt 请用一句话介绍人工智能。 inputs tokenizer(prompt, return_tensorspt).to(model.device) # 生成文本 with torch.no_grad(): generated_ids model.generate(**inputs, max_new_tokens100) response tokenizer.decode(generated_ids[0], skip_special_tokensTrue) print(f用户{prompt}) print(f模型{response})请注意MiniCPM-V-2_6是多模态模型实际使用时可能需要处理图像、语音输入。上述代码仅为示意务必参考模型的官方GitHub仓库或Hugging Face页面提供的准确示例代码。运行脚本 在终端中确保位于minicpm的conda环境下运行你的脚本。python run_minicpm.py第一次运行会需要一些时间加载模型。如果一切顺利你将看到模型的输出。4. 常见问题与优化建议第一次部署难免会遇到些小波折这里列举几个常见问题和解决办法。虚拟机运行卡顿 如果感觉Ubuntu桌面操作不流畅可以回到VMware的虚拟机设置中适当增加分配的内存和CPU核心数。同时在Ubuntu的“软件和更新”中更换为国内的软件源如阿里云、清华源能大幅提升软件下载速度。模型加载失败或报错依赖缺失 仔细检查错误信息通常是缺少某个Python包。根据提示用pip install安装即可。CUDA错误 如果使用GPU版本PyTorch但报CUDA错误请确认虚拟机是否成功识别了宿主机的GPU这需要复杂的GPU直通或vGPU配置对新手不友好。对于入门强烈建议先使用CPU版本安装命令中不指定CUDA版本进行测试虽然速度慢但能确保环境正确。权重文件错误 确保模型文件完整并且路径在脚本中填写正确。共享文件夹无法访问 确认VMware Toolsopen-vm-tools已正确安装并重启。检查/mnt/hgfs目录的权限有时需要将你的用户加入fuse用户组sudo usermod -aG fuse $USER然后注销重新登录。SSH连接被拒绝 检查Ubuntu上的SSH服务是否正在运行 (sudo systemctl status ssh)。检查Windows防火墙是否阻止了连接。确保使用的IP地址和用户名正确。对于性能要求高的场景如果宿主机有NVIDIA GPU可以研究VMware的GPU直通PCI Passthrough或vGPU方案但这属于高级操作配置复杂且有硬件和驱动要求。对于学习和初步开发CPU环境已经足够。整个流程走下来你应该已经在Windows系统里成功拥有了一个运行着MiniCPM-V-2_6模型的Linux开发环境。这种方法的好处是环境干净、隔离不会弄乱你的Windows主机而且可以随时创建快照、回滚状态非常适合做各种AI模型的尝鲜和实验。最关键的是通过共享文件夹和SSHWindows和Ubuntu之间的协作变得非常顺畅。你可以在Windows上舒服地写代码、查资料然后在Linux虚拟机里运行和调试模型两者互不干扰又能高效配合。如果遇到问题多看看终端里给出的错误提示大部分都能在网上找到解决方案。接下来你可以基于这个环境去探索MiniCPM-V-2_6更多的多模态能力了。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
