九.Docker中安装ollama及相关操作1.基础部署带模型持久化2.Docker Compose 部署推荐方便管理3. Docker 部署验证与使用4.安装模型3种方法任选一种方法 1最常用 → 直接在 Windows 终端执行推荐方法 2进入容器内部安装1.基础部署带模型持久化核心是通过-v参数挂载宿主机目录实现模型文件持久化避免容器删除后模型丢失同时自定义模型存放位置在宿主机新建模型存放文件夹示例D:\Docker\ollama\models打开 PowerShell执行以下部署命令docker run-d --name ollama --restart always -p 11434:11434 -v D:\Docker\ollama\models:/root/.ollama/models ollama/ollama:latest参数说明-d后台运行容器–name ollama设置容器名称为 ollama–restart always开机自启容器异常自动重启-p 11434:11434端口映射将容器内 11434 端口映射到宿主机-v 宿主机路径:/root/.ollama/models挂载模型目录容器内默认模型路径为/root/.ollama/models启用 GPU 加速部署在基础命令上添加–gpus all参数即可启用 GPU 加速大幅提升模型运行速度docker run-d --name ollama --restart always --gpus all -p 11434:11434 -v D:\Docker\ollama\models:/root/.ollama/models ollama/ollama:latest2.Docker Compose 部署推荐方便管理适合长期使用、需要和其他服务集成的场景通过docker-compose.yml文件统一管理配置新建文件夹 D:\Docker\ollama在文件夹内新建docker-compose.yml文件内容如下version:3.8services: ollama: image: ollama/ollama:latest container_name: ollama restart: always ports:-11434:11434# 模型持久化挂载volumes:-./models:/root/.ollama/models# GPU加速配置无GPU可删除deploy段deploy: resources: reservations: devices:-driver: nvidia count: all capabilities:[gpu]在该文件夹内按住 Shift 右键打开 PowerShell执行启动命令docker-compose up-d常用管理命令# 停止容器docker-compose down# 查看容器日志docker-compose logs-f3. Docker 部署验证与使用执行docker ps查看 ollama 容器状态为Up即部署成功。进入容器运行模型docker exec-it ollama ollama run llama3宿主机直接访问 API和原生安装一致浏览器访问127.0.0.1:11434显示Ollama is running即正常可直接对接各类前端、二次开发项目。4.安装模型3种方法任选一种方法 1最常用 → 直接在 Windows 终端执行推荐打开 PowerShell直接运行docker exec-it ollama ollama pull 模型名称示例# 安装 llama3 8Bdocker exec-it ollama ollama pull llama3# 安装 qwen 通义千问docker exec-it ollama ollama pull qwen# 安装 glm4docker exec-it ollama ollama pull glm4# 安装 通义千问7B 量化版docker exec-it ollama ollama pull qwen:7b方法 2进入容器内部安装docker exec-it ollama/bin/bash进入后直接执行ollama pull llama3#默认8B常用模型下载命令直接复制# Llama 3docker exec-it ollama ollama pull llama3# Qwendocker exec-it ollama ollama pull qwen# GLM-4docker exec-it ollama ollama pull glm4# 14Bdocker exec-it ollama ollama pull qwen:14b# Gemmadocker exec-it ollama ollama pull gemma查看已安装模型docker exec-it ollama ollama list模型会自动保存在你之前挂载的目录例如 D:\Docker\ollama\models删除容器不会丢模型 下次重建容器直接能用。
九.Docker中安装ollama及相关操作
发布时间：2026/6/1 14:41:25
九.Docker中安装ollama及相关操作1.基础部署带模型持久化2.Docker Compose 部署推荐方便管理3. Docker 部署验证与使用4.安装模型3种方法任选一种方法 1最常用 → 直接在 Windows 终端执行推荐方法 2进入容器内部安装1.基础部署带模型持久化核心是通过-v参数挂载宿主机目录实现模型文件持久化避免容器删除后模型丢失同时自定义模型存放位置在宿主机新建模型存放文件夹示例D:\Docker\ollama\models打开 PowerShell执行以下部署命令docker run-d --name ollama --restart always -p 11434:11434 -v D:\Docker\ollama\models:/root/.ollama/models ollama/ollama:latest参数说明-d后台运行容器–name ollama设置容器名称为 ollama–restart always开机自启容器异常自动重启-p 11434:11434端口映射将容器内 11434 端口映射到宿主机-v 宿主机路径:/root/.ollama/models挂载模型目录容器内默认模型路径为/root/.ollama/models启用 GPU 加速部署在基础命令上添加–gpus all参数即可启用 GPU 加速大幅提升模型运行速度docker run-d --name ollama --restart always --gpus all -p 11434:11434 -v D:\Docker\ollama\models:/root/.ollama/models ollama/ollama:latest2.Docker Compose 部署推荐方便管理适合长期使用、需要和其他服务集成的场景通过docker-compose.yml文件统一管理配置新建文件夹 D:\Docker\ollama在文件夹内新建docker-compose.yml文件内容如下version:3.8services: ollama: image: ollama/ollama:latest container_name: ollama restart: always ports:-11434:11434# 模型持久化挂载volumes:-./models:/root/.ollama/models# GPU加速配置无GPU可删除deploy段deploy: resources: reservations: devices:-driver: nvidia count: all capabilities:[gpu]在该文件夹内按住 Shift 右键打开 PowerShell执行启动命令docker-compose up-d常用管理命令# 停止容器docker-compose down# 查看容器日志docker-compose logs-f3. Docker 部署验证与使用执行docker ps查看 ollama 容器状态为Up即部署成功。进入容器运行模型docker exec-it ollama ollama run llama3宿主机直接访问 API和原生安装一致浏览器访问127.0.0.1:11434显示Ollama is running即正常可直接对接各类前端、二次开发项目。4.安装模型3种方法任选一种方法 1最常用 → 直接在 Windows 终端执行推荐打开 PowerShell直接运行docker exec-it ollama ollama pull 模型名称示例# 安装 llama3 8Bdocker exec-it ollama ollama pull llama3# 安装 qwen 通义千问docker exec-it ollama ollama pull qwen# 安装 glm4docker exec-it ollama ollama pull glm4# 安装 通义千问7B 量化版docker exec-it ollama ollama pull qwen:7b方法 2进入容器内部安装docker exec-it ollama/bin/bash进入后直接执行ollama pull llama3#默认8B常用模型下载命令直接复制# Llama 3docker exec-it ollama ollama pull llama3# Qwendocker exec-it ollama ollama pull qwen# GLM-4docker exec-it ollama ollama pull glm4# 14Bdocker exec-it ollama ollama pull qwen:14b# Gemmadocker exec-it ollama ollama pull gemma查看已安装模型docker exec-it ollama ollama list模型会自动保存在你之前挂载的目录例如 D:\Docker\ollama\models删除容器不会丢模型 下次重建容器直接能用。
