VMware虚拟机安装Ostrakon-VL-8B开发环境全流程详解你是不是也想在自己的电脑上跑跑最新的多模态大模型但又担心搞乱本地环境或者被复杂的依赖关系劝退今天我就带你走一遍最稳妥的路子在VMware虚拟机里从零搭建一个专属于AI模型实验的Ubuntu系统并成功部署Ostrakon-VL-8B模型。用虚拟机的好处很明显环境完全隔离玩坏了随时可以回滚或重建不影响你电脑上其他工作。整个过程就像搭积木我们一步步来保证你能跟着做下来。1. 准备工作安装VMware与下载系统镜像工欲善其事必先利其器。我们先准备好搭建“虚拟实验室”所需的工具和材料。1.1 获取VMware Workstation首先你需要一个虚拟机软件。VMware Workstation是业界标杆功能强大且稳定。你可以去VMware官网下载适用于Windows或Mac的试用版。安装过程就是一路“下一步”没什么特别的坑记得选择适合你操作系统的版本就行。1.2 下载Ubuntu Linux镜像接下来我们需要一个“操作系统光盘”也就是Ubuntu的ISO镜像文件。推荐使用Ubuntu 22.04 LTS版本这是一个长期支持版社区资源丰富遇到问题容易找到解决方案。去Ubuntu官网的下载页面选择22.04 LTS Desktop版本。下载的是一个大约3GB的.iso文件把它放在一个你容易找到的文件夹里比如D:\Downloads。2. 创建并配置你的第一台Ubuntu虚拟机有了工具和镜像现在开始“组装”我们的虚拟电脑。2.1 新建虚拟机向导打开VMware Workstation点击“创建新的虚拟机”。选择“典型”配置即可这样VMware会帮我们设置好大部分通用选项。在安装来源这一步关键操作来了选择“安装程序光盘映像文件”然后点击“浏览”找到你刚才下载的Ubuntu 22.04的.iso文件。VMware识别到这是Ubuntu后安装过程会简化很多。2.2 分配虚拟机资源这一步决定了你的虚拟电脑有多“强壮”直接影响后续模型运行的速度。客户机操作系统选择“Linux”版本选择“Ubuntu 64位”。虚拟机名称和位置起个你喜欢的名字比如AI-Lab-Ubuntu。位置建议选一个剩余空间充足的硬盘分区因为后续模型文件会很大。磁盘容量至少分配100GB。我强烈建议选择“将虚拟磁盘拆分成多个文件”这样备份和迁移会灵活很多。自定义硬件关键步骤点击“自定义硬件”按钮进行精细调整内存如果你的主机有16GB内存给虚拟机分配8GB8192 MB是起步线。如果主机有32GB可以分配12-16GB越多越好。处理器核心数量建议设置为你主机物理核心数的一半。例如你是8核CPU就分配4个核心给虚拟机。网络适配器选择“NAT模式”。这样虚拟机可以共享主机的网络上网同时拥有独立的内部IP是最方便的选择。显示器3D图形设置里把“图形内存”调到2GB或以上这对后续可能的图形界面操作有好处。配置完成后点击关闭然后完成虚拟机的创建。3. 安装Ubuntu操作系统现在我们启动这台“空白”的虚拟电脑并安装系统。点击“开启此虚拟机”。虚拟机会从我们指定的ISO镜像启动进入Ubuntu安装界面。选择语言建议选“English”避免后续终端出现编码问题。当然选中文也可以。安装类型选择“Normal installation”正常安装并勾选“Install third-party software”安装第三方软件这样显卡驱动等组件会自动安装。磁盘分区这是最重要的一步。选择“Erase disk and install Ubuntu”清除整个磁盘并安装Ubuntu。别担心这里清除的是虚拟机的虚拟硬盘不是你主机的真实硬盘放心操作。时区和用户设置你所在的时区如Shanghai。然后创建你的用户名和密码这个密码要记住后续执行管理员命令sudo时会用到。等待安装点击“Install Now”然后泡杯茶休息一下安装过程会自动进行。完成后它会提示你重启。重启后输入密码你就进入了全新的Ubuntu桌面环境。4. 配置虚拟机增强功能与共享文件夹为了让虚拟机和主机协作更顺畅我们需要安装VMware Tools并设置共享文件夹。4.1 安装VMware Tools或Open VM Tools新版的Ubuntu通常已经预装了开源的open-vm-tools但为了确保功能完整我们手动检查并安装一下。打开虚拟机里的终端快捷键CtrlAltT输入以下命令sudo apt update sudo apt install open-vm-tools open-vm-tools-desktop -y安装完成后最好重启一下虚拟机终端输入sudo reboot。4.2 设置主机与虚拟机共享文件夹这个功能太有用了它能在你的主机和虚拟机之间建立一个共享的“通道”方便传递文件比如后续下载的模型文件。在VMware中设置先关闭虚拟机电源。在VMware主界面右键你的虚拟机 - 设置 - 选项 - 共享文件夹。选择“总是启用”然后点击“添加”按照向导选择一个你主机上的文件夹例如D:\VM_Share作为共享文件夹。在虚拟机中访问重新启动Ubuntu。共享文件夹通常会自动挂载在/mnt/hgfs/目录下。你可以在文件管理器中查看或者在终端里用ls /mnt/hgfs/命令查看是否能看到你主机的文件夹。5. 搭建AI模型运行环境Python与CUDA系统准备好了现在来安装AI开发的核心软件栈。5.1 更新系统并安装基础工具首先打开终端更新软件包列表并安装一些必要工具sudo apt update sudo apt upgrade -y sudo apt install git wget curl build-essential libssl-dev zlib1g-dev -y5.2 安装MinicondaPython环境管理器强烈推荐使用Conda来管理Python环境它可以为不同的项目创建独立的、互不干扰的Python环境。# 下载Miniconda安装脚本Linux版 wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh # 运行安装脚本 bash Miniconda3-latest-Linux-x86_64.sh安装过程中一直按回车阅读协议输入yes同意安装路径用默认的就行/home/你的用户名/miniconda3最后问是否初始化Conda也输入yes。安装完成后关闭当前终端重新打开一个新的终端。你会发现命令行前面多了个(base)这说明Conda基础环境已经激活了。5.3 安装NVIDIA显卡驱动与CUDA Toolkit如果你的主机有NVIDIA独立显卡并且想让虚拟机也能用上GPU来加速模型计算这非常重要需要额外步骤。这被称为“GPU直通”或“PCI Passthrough”配置相对复杂且对主机主板和CPU有要求需要支持VT-d/AMD-Vi。对于大多数新手和只想快速体验的开发者我建议先使用CPU运行模型。Ostrakon-VL-8B模型虽然较大但在CPU上也能进行推理只是速度慢一些。这样可以避开复杂的GPU直通配置。如果你确定要配置GPU直通这是一个高级话题需要查阅VMware和你的主板手册步骤包括在主机BIOS中开启VT-d/IOMMU、在VMware中预留GPU等本教程暂不展开。我们继续CPU环境的配置创建一个专门用于Ostrakon模型的环境# 创建一个名为ostrakon的Python 3.10环境 conda create -n ostrakon python3.10 -y # 激活这个环境 conda activate ostrakon激活后命令行提示符前的(base)会变成(ostrakon)。6. 部署并测试Ostrakon-VL-8B模型环境终于齐备主角可以登场了。6.1 安装深度学习框架与依赖Ostrakon-VL-8B通常基于PyTorch框架。我们在刚创建的ostrakon环境中安装# 确保处于ostrakon环境 conda activate ostrakon # 安装PyTorchCPU版本。如果需要CUDA版本请去PyTorch官网根据你的CUDA版本选择命令。 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu # 安装常用的AI工具库 pip install transformers accelerate sentencepiece protobuf # 如果模型需要可能还要安装其他视觉库 pip install pillow opencv-python6.2 下载与运行模型这里以使用Hugging Face的transformers库加载模型为例。由于Ostrakon-VL-8B是开源模型理论上可以从Hugging Face Model Hub获取。请注意8B参数的模型文件非常大约16GB确保你的虚拟机磁盘空间和网络条件允许。# 这是一个简化的Python测试脚本保存为 test_ostrakon.py from transformers import AutoProcessor, AutoModelForVision2Seq import torch from PIL import Image import requests # 警告这将下载约16GB的模型文件请确保磁盘空间充足 model_name OstrakonAI/Ostrakon-VL-8B # 请替换为实际模型ID print(正在加载处理器和模型首次运行会下载时间较长...) processor AutoProcessor.from_pretrained(model_name) model AutoModelForVision2Seq.from_pretrained(model_name, torch_dtypetorch.float16, device_mapauto) print(模型加载完毕) # 准备一张测试图片这里用网络图片示例你可以换成本地图片路径 url http://images.cocodataset.org/val2017/000000039769.jpg image Image.open(requests.get(url, streamTrue).raw) # 准备一个问题 prompt 这张图片里有什么 # 处理输入 inputs processor(imagesimage, textprompt, return_tensorspt).to(model.device) # 生成回答 print(正在生成回答...) generated_ids model.generate(**inputs, max_new_tokens100) generated_text processor.batch_decode(generated_ids, skip_special_tokensTrue)[0] print(f问题: {prompt}) print(f模型回答: {generated_text})在终端中进入你保存脚本的目录运行python test_ostrakon.py首次运行会从网上下载模型需要很长时间。下载完成后模型会对示例图片进行描述。如果一切顺利你将看到模型生成的文字回答。7. 常见问题与排查指南第一次搭建难免会遇到些小麻烦。这里列出几个常见问题虚拟机无法连接网络检查VMware网络设置是否为NAT模式并确认主机网络正常。在Ubuntu终端里试试ping 8.8.8.8。Conda命令未找到重启终端或者手动运行source ~/.bashrc。运行Python脚本时提示模块未找到确保你已经用conda activate ostrakon激活了正确的环境并且在该环境下用pip install安装了所有依赖。磁盘空间不足如果之前分配的磁盘空间不够了可以在VMware中为虚拟硬盘扩容需要先在VMware设置里扩容然后在Ubuntu内用gparted等工具扩展分区。模型下载太慢或失败可以考虑在主机的共享文件夹里用其他下载工具先下载好模型文件如果有提供单独下载然后将其移动到虚拟机内~/.cache/huggingface/hub目录对应的位置。整个过程走下来你可能觉得步骤不少但每一步都是在为后面稳定的实验环境打基础。用虚拟机来折腾AI环境最大的好处就是“安全”和“干净”。在这个Ubuntu系统里你可以随意安装、卸载各种库尝试不同的模型版本完全不用担心会影响你电脑上其他工作。这次我们主要完成了CPU环境下的部署。如果你对性能有更高要求未来可以深入研究VMware的GPU直通功能或者直接考虑在物理机上安装双系统。不过对于学习、测试和轻度使用这个虚拟环境已经是一个非常棒的起点了。希望这个详细的流程能帮你顺利搭建起自己的AI模型实验台。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
VMware虚拟机安装Ostrakon-VL-8B开发环境全流程详解
发布时间：2026/5/26 1:28:22
VMware虚拟机安装Ostrakon-VL-8B开发环境全流程详解你是不是也想在自己的电脑上跑跑最新的多模态大模型但又担心搞乱本地环境或者被复杂的依赖关系劝退今天我就带你走一遍最稳妥的路子在VMware虚拟机里从零搭建一个专属于AI模型实验的Ubuntu系统并成功部署Ostrakon-VL-8B模型。用虚拟机的好处很明显环境完全隔离玩坏了随时可以回滚或重建不影响你电脑上其他工作。整个过程就像搭积木我们一步步来保证你能跟着做下来。1. 准备工作安装VMware与下载系统镜像工欲善其事必先利其器。我们先准备好搭建“虚拟实验室”所需的工具和材料。1.1 获取VMware Workstation首先你需要一个虚拟机软件。VMware Workstation是业界标杆功能强大且稳定。你可以去VMware官网下载适用于Windows或Mac的试用版。安装过程就是一路“下一步”没什么特别的坑记得选择适合你操作系统的版本就行。1.2 下载Ubuntu Linux镜像接下来我们需要一个“操作系统光盘”也就是Ubuntu的ISO镜像文件。推荐使用Ubuntu 22.04 LTS版本这是一个长期支持版社区资源丰富遇到问题容易找到解决方案。去Ubuntu官网的下载页面选择22.04 LTS Desktop版本。下载的是一个大约3GB的.iso文件把它放在一个你容易找到的文件夹里比如D:\Downloads。2. 创建并配置你的第一台Ubuntu虚拟机有了工具和镜像现在开始“组装”我们的虚拟电脑。2.1 新建虚拟机向导打开VMware Workstation点击“创建新的虚拟机”。选择“典型”配置即可这样VMware会帮我们设置好大部分通用选项。在安装来源这一步关键操作来了选择“安装程序光盘映像文件”然后点击“浏览”找到你刚才下载的Ubuntu 22.04的.iso文件。VMware识别到这是Ubuntu后安装过程会简化很多。2.2 分配虚拟机资源这一步决定了你的虚拟电脑有多“强壮”直接影响后续模型运行的速度。客户机操作系统选择“Linux”版本选择“Ubuntu 64位”。虚拟机名称和位置起个你喜欢的名字比如AI-Lab-Ubuntu。位置建议选一个剩余空间充足的硬盘分区因为后续模型文件会很大。磁盘容量至少分配100GB。我强烈建议选择“将虚拟磁盘拆分成多个文件”这样备份和迁移会灵活很多。自定义硬件关键步骤点击“自定义硬件”按钮进行精细调整内存如果你的主机有16GB内存给虚拟机分配8GB8192 MB是起步线。如果主机有32GB可以分配12-16GB越多越好。处理器核心数量建议设置为你主机物理核心数的一半。例如你是8核CPU就分配4个核心给虚拟机。网络适配器选择“NAT模式”。这样虚拟机可以共享主机的网络上网同时拥有独立的内部IP是最方便的选择。显示器3D图形设置里把“图形内存”调到2GB或以上这对后续可能的图形界面操作有好处。配置完成后点击关闭然后完成虚拟机的创建。3. 安装Ubuntu操作系统现在我们启动这台“空白”的虚拟电脑并安装系统。点击“开启此虚拟机”。虚拟机会从我们指定的ISO镜像启动进入Ubuntu安装界面。选择语言建议选“English”避免后续终端出现编码问题。当然选中文也可以。安装类型选择“Normal installation”正常安装并勾选“Install third-party software”安装第三方软件这样显卡驱动等组件会自动安装。磁盘分区这是最重要的一步。选择“Erase disk and install Ubuntu”清除整个磁盘并安装Ubuntu。别担心这里清除的是虚拟机的虚拟硬盘不是你主机的真实硬盘放心操作。时区和用户设置你所在的时区如Shanghai。然后创建你的用户名和密码这个密码要记住后续执行管理员命令sudo时会用到。等待安装点击“Install Now”然后泡杯茶休息一下安装过程会自动进行。完成后它会提示你重启。重启后输入密码你就进入了全新的Ubuntu桌面环境。4. 配置虚拟机增强功能与共享文件夹为了让虚拟机和主机协作更顺畅我们需要安装VMware Tools并设置共享文件夹。4.1 安装VMware Tools或Open VM Tools新版的Ubuntu通常已经预装了开源的open-vm-tools但为了确保功能完整我们手动检查并安装一下。打开虚拟机里的终端快捷键CtrlAltT输入以下命令sudo apt update sudo apt install open-vm-tools open-vm-tools-desktop -y安装完成后最好重启一下虚拟机终端输入sudo reboot。4.2 设置主机与虚拟机共享文件夹这个功能太有用了它能在你的主机和虚拟机之间建立一个共享的“通道”方便传递文件比如后续下载的模型文件。在VMware中设置先关闭虚拟机电源。在VMware主界面右键你的虚拟机 - 设置 - 选项 - 共享文件夹。选择“总是启用”然后点击“添加”按照向导选择一个你主机上的文件夹例如D:\VM_Share作为共享文件夹。在虚拟机中访问重新启动Ubuntu。共享文件夹通常会自动挂载在/mnt/hgfs/目录下。你可以在文件管理器中查看或者在终端里用ls /mnt/hgfs/命令查看是否能看到你主机的文件夹。5. 搭建AI模型运行环境Python与CUDA系统准备好了现在来安装AI开发的核心软件栈。5.1 更新系统并安装基础工具首先打开终端更新软件包列表并安装一些必要工具sudo apt update sudo apt upgrade -y sudo apt install git wget curl build-essential libssl-dev zlib1g-dev -y5.2 安装MinicondaPython环境管理器强烈推荐使用Conda来管理Python环境它可以为不同的项目创建独立的、互不干扰的Python环境。# 下载Miniconda安装脚本Linux版 wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh # 运行安装脚本 bash Miniconda3-latest-Linux-x86_64.sh安装过程中一直按回车阅读协议输入yes同意安装路径用默认的就行/home/你的用户名/miniconda3最后问是否初始化Conda也输入yes。安装完成后关闭当前终端重新打开一个新的终端。你会发现命令行前面多了个(base)这说明Conda基础环境已经激活了。5.3 安装NVIDIA显卡驱动与CUDA Toolkit如果你的主机有NVIDIA独立显卡并且想让虚拟机也能用上GPU来加速模型计算这非常重要需要额外步骤。这被称为“GPU直通”或“PCI Passthrough”配置相对复杂且对主机主板和CPU有要求需要支持VT-d/AMD-Vi。对于大多数新手和只想快速体验的开发者我建议先使用CPU运行模型。Ostrakon-VL-8B模型虽然较大但在CPU上也能进行推理只是速度慢一些。这样可以避开复杂的GPU直通配置。如果你确定要配置GPU直通这是一个高级话题需要查阅VMware和你的主板手册步骤包括在主机BIOS中开启VT-d/IOMMU、在VMware中预留GPU等本教程暂不展开。我们继续CPU环境的配置创建一个专门用于Ostrakon模型的环境# 创建一个名为ostrakon的Python 3.10环境 conda create -n ostrakon python3.10 -y # 激活这个环境 conda activate ostrakon激活后命令行提示符前的(base)会变成(ostrakon)。6. 部署并测试Ostrakon-VL-8B模型环境终于齐备主角可以登场了。6.1 安装深度学习框架与依赖Ostrakon-VL-8B通常基于PyTorch框架。我们在刚创建的ostrakon环境中安装# 确保处于ostrakon环境 conda activate ostrakon # 安装PyTorchCPU版本。如果需要CUDA版本请去PyTorch官网根据你的CUDA版本选择命令。 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu # 安装常用的AI工具库 pip install transformers accelerate sentencepiece protobuf # 如果模型需要可能还要安装其他视觉库 pip install pillow opencv-python6.2 下载与运行模型这里以使用Hugging Face的transformers库加载模型为例。由于Ostrakon-VL-8B是开源模型理论上可以从Hugging Face Model Hub获取。请注意8B参数的模型文件非常大约16GB确保你的虚拟机磁盘空间和网络条件允许。# 这是一个简化的Python测试脚本保存为 test_ostrakon.py from transformers import AutoProcessor, AutoModelForVision2Seq import torch from PIL import Image import requests # 警告这将下载约16GB的模型文件请确保磁盘空间充足 model_name OstrakonAI/Ostrakon-VL-8B # 请替换为实际模型ID print(正在加载处理器和模型首次运行会下载时间较长...) processor AutoProcessor.from_pretrained(model_name) model AutoModelForVision2Seq.from_pretrained(model_name, torch_dtypetorch.float16, device_mapauto) print(模型加载完毕) # 准备一张测试图片这里用网络图片示例你可以换成本地图片路径 url http://images.cocodataset.org/val2017/000000039769.jpg image Image.open(requests.get(url, streamTrue).raw) # 准备一个问题 prompt 这张图片里有什么 # 处理输入 inputs processor(imagesimage, textprompt, return_tensorspt).to(model.device) # 生成回答 print(正在生成回答...) generated_ids model.generate(**inputs, max_new_tokens100) generated_text processor.batch_decode(generated_ids, skip_special_tokensTrue)[0] print(f问题: {prompt}) print(f模型回答: {generated_text})在终端中进入你保存脚本的目录运行python test_ostrakon.py首次运行会从网上下载模型需要很长时间。下载完成后模型会对示例图片进行描述。如果一切顺利你将看到模型生成的文字回答。7. 常见问题与排查指南第一次搭建难免会遇到些小麻烦。这里列出几个常见问题虚拟机无法连接网络检查VMware网络设置是否为NAT模式并确认主机网络正常。在Ubuntu终端里试试ping 8.8.8.8。Conda命令未找到重启终端或者手动运行source ~/.bashrc。运行Python脚本时提示模块未找到确保你已经用conda activate ostrakon激活了正确的环境并且在该环境下用pip install安装了所有依赖。磁盘空间不足如果之前分配的磁盘空间不够了可以在VMware中为虚拟硬盘扩容需要先在VMware设置里扩容然后在Ubuntu内用gparted等工具扩展分区。模型下载太慢或失败可以考虑在主机的共享文件夹里用其他下载工具先下载好模型文件如果有提供单独下载然后将其移动到虚拟机内~/.cache/huggingface/hub目录对应的位置。整个过程走下来你可能觉得步骤不少但每一步都是在为后面稳定的实验环境打基础。用虚拟机来折腾AI环境最大的好处就是“安全”和“干净”。在这个Ubuntu系统里你可以随意安装、卸载各种库尝试不同的模型版本完全不用担心会影响你电脑上其他工作。这次我们主要完成了CPU环境下的部署。如果你对性能有更高要求未来可以深入研究VMware的GPU直通功能或者直接考虑在物理机上安装双系统。不过对于学习、测试和轻度使用这个虚拟环境已经是一个非常棒的起点了。希望这个详细的流程能帮你顺利搭建起自己的AI模型实验台。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
