DeepSeek R1 本地部署全攻略：Ollama + Open WebUI 从零到一

# DeepSeek R1 本地部署全攻略Ollama Open WebUI 从零到一 本文全面、细致地讲解如何在本地环境中部署 DeepSeek R1 系列大语言模型借助 Ollama 实现高效推理并通过 Open WebUI 提供类 ChatGPT 的 Web 界面。无论你是 AI 开发者、技术爱好者还是希望将大模型私有化部署的企业用户本文都将带你一步步完成从环境准备到最终上线的全过程。---## 目录1. [引言为什么选择 DeepSeek R1 Ollama Open WebUI](#1-引言为什么选择-deepseek-r1--ollama--open-webui)2. [准备工作硬件与软件要求](#2-准备工作硬件与软件要求)3. [部署方案概览](#3-部署方案概览)4. [第一步安装 Ollama](#4-第一步安装-ollama)- 4.1 在 Linux 上安装- 4.2 在 Windows 上安装- 4.3 在 macOS 上安装- 4.4 验证安装5. [第二步获取并运行 DeepSeek R1 模型](#5-第二步获取并运行-deepseek-r1-模型)- 5.1 DeepSeek R1 模型系列介绍- 5.2 选择合适的量化版本- 5.3 使用 Ollama 拉取模型- 5.4 手动导入自定义模型GGUF- 5.5 测试模型推理- 5.6 模型管理命令6. [第三步安装 Open WebUI](#6-第三步安装-open-webui)- 6.1 使用 Docker 快速部署推荐- 6.2 使用 Python 源码安装- 6.3 配置环境变量- 6.4 首次启动与账户创建7. [第四步连接 Open WebUI 与 Ollama](#7-第四步连接-open-webui-与-ollama)- 7.1 默认连接方式- 7.2 跨主机连接配置- 7.3 使用 API 密钥保护8. [第五步高级配置与优化](#8-第五步高级配置与优化)- 8.1 Ollama 服务调优- 8.2 Open WebUI 功能扩展- 8.3 使用 Nginx 反向代理- 8.4 启用 HTTPS- 8.5 用户认证与权限管理- 8.6 使用 GPU 加速- 8.7 模型量化与内存优化9. [第六步常见问题排查与解决](#9-第六步常见问题排查与解决)- 9.1 Ollama 无法启动- 9.2 Open WebUI 无法连接 Ollama- 9.3 模型加载缓慢或内存不足- 9.4 对话响应慢- 9.5 显卡驱动问题10. [第七步生产环境部署建议](#10-第七步生产环境部署建议)11. [总结与展望](#11-总结与展望)---## 1. 引言为什么选择 DeepSeek R1 Ollama Open WebUI随着大语言模型LLM的飞速发展越来越多的开发者和企业希望将强大的 AI 能力部署在自己的服务器上以保证数据隐私、降低 API 调用成本并根据业务需求进行定制化微调。DeepSeek R1 作为深度求索DeepSeek推出的新一代开源模型系列在推理能力、代码生成、数学逻辑等方面表现出色且支持从 1.5B 到 671B 的多种参数规模适配不同硬件环境。然而直接运行一个 LLM 模型需要复杂的依赖环境、推理框架和前端交互。Ollama 的出现极大地简化了这一过程它是一个轻量级的 LLM 运行工具支持 macOS、Linux 和 Windows能够一键下载、运行并管理各种开源模型包括 DeepSeek R1并提供 OpenAI 兼容的 API。Open WebUI原 Ollama WebUI则是一个功能丰富的 Web 界面提供类似 ChatGPT 的对话体验支持多用户、插件系统、文件上传、RAG 检索增强等功能。三者的结合形成了 **本地化、易部署、功能强大** 的 AI 助手解决方案。本文将从零开始带你完成整套部署流程并提供大量实战细节和优化技巧。---## 2. 准备工作硬件与软件要求在开始之前请确保你的环境满足以下最低要求### 硬件要求以模型大小决定| 模型大小 | 推荐内存 | 推荐显存GPU | 硬盘空间 | 适用场景 ||----------|----------|----------------|----------|----------|| DeepSeek-R1-Distill-Qwen-1.5B | 4GB | 无CPU 可运行 | 约 2GB | 轻量级应用、树莓派等 || DeepSeek-R1-Distill-Qwen-7B | 8GB | 6GB | 约 4GB | 个人电脑、低端 GPU || DeepSeek-R1-Distill-Llama-8B | 16GB | 8GB | 约 5GB | 性能均衡 || DeepSeek-R1-Distill-Qwen-14B | 32GB | 12GB | 约 8GB | 中等规模部署 || DeepSeek-R1-Distill-Qwen-32B | 64GB | 24GB | 约 18GB | 高性能需求 || DeepSeek-R1-671BMoE | 256GB | 多卡 80GB | 约 350GB | 企业级需要多卡并行 |**说明**实际运行中Ollama 默认使用内存/显存中的量化版本通过 -q4_0、q8_0 等量化可降低资源消耗。本文以 **DeepSeek-R1-Distill-Qwen-7B** 的 Q4_K_M 量化版本为例大部分配置 8GB 显存的 GPU 即可流畅运行。### 软件要求- **操作系统**Linux (Ubuntu 20.04CentOS 7)Windows 10/11 (WSL2 推荐)macOS 12- **Docker**可选强烈推荐用于 Open WebUIDocker Engine 20.10 或 Docker Desktop- **Python**仅源码安装 Open WebUI 时需要3.10- **Git**用于克隆仓库- **NVIDIA GPU 驱动**如使用 GPUCUDA 11.8 或更高版本并安装 nvidia-container-toolkitDocker 下需要- **网络**下载模型需要稳定网络模型文件大小从几百 MB 到几十 GB 不等---## 3. 部署方案概览整体架构如下图所示文字描述┌─────────────────┐ ┌─────────────────┐ ┌─────────────────┐│ │ │ │ │ ││ 浏览器客户端 │◄────►│ Open WebUI │◄────►│ Ollama ││ (用户界面) │ │ (Web服务 DB) │ │ (模型推理) ││ │ │ │ │ │└─────────────────┘ └─────────────────┘ └─────────────────┘▲ ▲│ │▼ ▼┌─────────────────┐ ┌─────────────────┐│ SQLite / │ │ GPU / CPU ││ PostgreSQL │ │ 存储 │└─────────────────┘ └─────────────────┘- **Ollama** 作为模型推理后端监听 API 端口默认 11434提供模型加载、生成、管理能力。- **Open WebUI** 作为前端服务连接 Ollama 的 API并提供用户管理、对话历史、文件处理等高级功能。- 用户可以完全在本地网络中访问无需联网除首次下载模型外。我们将按顺序完成 **Ollama 安装 → 模型下载 → Open WebUI 部署 → 整合 → 优化** 的完整流程。---## 4. 第一步安装 OllamaOllama 支持主流操作系统安装方式极其简单。我们将分别介绍。### 4.1 在 Linux 上安装Ollama 提供了一个一键安装脚本适用于 Debian/Ubuntu、CentOS/RHEL 等运行以下命令即可bashcurl -fsSL https://ollama.com/install.sh | sh如果因网络原因无法访问也可以手动下载 .deb 或 .rpm 包进行安装。例如对于 Ubuntubashwget https://ollama.com/download/ollama-linux-amd64.debsudo dpkg -i ollama-linux-amd64.deb安装完成后Ollama 会作为 systemd 服务自动启动。你可以通过以下命令检查状态bashsudo systemctl status ollama默认服务监听在 127.0.0.1:11434。如需修改监听地址或端口可以编辑 /etc/systemd/system/ollama.service 中的 Environment 变量例如ini[Service]EnvironmentOLLAMA_HOST0.0.0.0:11434然后重启服务bashsudo systemctl daemon-reloadsudo systemctl restart ollama### 4.2 在 Windows 上安装1. 访问 [Ollama 官网下载页](https://ollama.com/download/windows)下载 OllamaSetup.exe。2. 双击运行安装程序按照向导完成安装。安装路径可自定义。3. 安装完成后Ollama 会自动在后台运行并添加到系统 PATH 中。你可以在任务栏托盘中看到 Ollama 图标。4. 默认 API 监听 127.0.0.1:11434。如需更改监听地址可以设置系统环境变量 OLLAMA_HOST例如 0.0.0.0:11434然后重启 Ollama通过托盘图标退出后重新启动。**Windows 用户建议**如果希望获得更好的性能和稳定性推荐使用 WSL2Ubuntu并在其中安装 Linux 版本的 Ollama这样可以利用完整的 GPU 加速和 Docker 生态。### 4.3 在 macOS 上安装1. 访问 [Ollama 下载页](https://ollama.com/download/mac)下载 Ollama-darwin.zip。2. 解压并将 Ollama.app 拖入 Applications 文件夹。3. 双击运行 Ollama.app它会自动在后台运行并在菜单栏显示图标。4. 默认 API 监听 127.0.0.1:11434。修改监听地址同样可以通过设置环境变量 OLLAMA_HOST但由于 macOS 应用启动方式不同建议通过命令行启动并设置bashlaunchctl setenv OLLAMA_HOST 0.0.0.0:11434# 然后重启 Ollama 应用### 4.4 验证安装无论哪个系统安装完成后打开终端或命令提示符并执行bashollama --version如果显示版本号说明安装成功。接着测试 API 是否正常工作bashcurl http://localhost:11434/api/tags应返回一个包含空列表的 JSON因为尚未下载任何模型。---## 5. 第二步获取并运行 DeepSeek R1 模型### 5.1 DeepSeek R1 模型系列介绍DeepSeek R1 官方发布了多个版本包括- **DeepSeek-R1-Zero**基础版本未经 SFT但通过强化学习表现出强推理能力。- **DeepSeek-R1**经过 SFT 和强化学习的最终版本性能最佳。- **DeepSeek-R1-Distill-Qwen-1.5B/7B/14B/32B**基于 Qwen2.5 蒸馏的小模型适合资源受限环境。- **DeepSeek-R1-Distill-Llama-8B**基于 Llama 3.1 8B 蒸馏的模型。在 Ollama 的模型库中已经收录了上述模型的量化版本我们可以通过 ollama run 直接下载使用。常见标签如下截至 2025 年- deepseek-r1:1.5b (1.5B 蒸馏版)- deepseek-r1:7b (7B 蒸馏版)- deepseek-r1:8b (Llama 8B 蒸馏版)- deepseek-r1:14b (14B 蒸馏版)- deepseek-r1:32b (32B 蒸馏版)- deepseek-r1:671b (MoE 671B 版仅限超大内存/多卡)此外还有不同量化精度的变体如 deepseek-r1:7b-q4_0、deepseek-r1:7b-q8_0 等。通常 q4_K_M 是性能与精度的良好平衡。### 5.2 选择合适的量化版本量化级别与资源消耗大致关系以 7B 模型为例| 量化类型 | 模型大小 | 显存需求 | 性能 | 说明 ||----------|----------|----------|------|------|| Q2_K | ~2.5GB | 3GB | 较低 | 极低资源精度损失明显 || Q4_0 | ~4.0GB | 4.5GB | 中等 | 常用快速推理 || Q4_K_M | ~4.3GB | 5GB | 中等偏上 | 推荐平衡方案 || Q5_K_M | ~5.0GB | 6GB | 较高 | 精度接近原版 || Q8_0 | ~7.5GB | 8.5GB | 高 | 近乎无损 || FP16 | ~14GB | 16GB | 最高 | 原始精度显存要求高 |如果你使用 GPU 且显存充足推荐 q5_K_M 或 q8_0。显存紧张则用 q4_K_M。仅 CPU 推理时内存需要比模型大小多 1-2GB量化越低越省内存。### 5.3 使用 Ollama 拉取模型最简单的方式是使用 ollama run 命令它会自动下载并运行模型。例如运行 7B 模型bashollama run deepseek-r1:7b但 run 会直接进入交互式对话如果我们只想下载而不立即运行可以用 ollama pullbashollama pull deepseek-r1:7b下载进度会显示根据网络速度可能需要几分钟到几十分钟。下载完成后模型存储在 ~/.ollama/models/Linux/macOS或 C:\Users\用户名\.ollama\modelsWindows。如果你想指定量化版本例如使用 Q4_K_M 版本bashollama pull deepseek-r1:7b-q4_K_M### 5.4 手动导入自定义模型GGUF如果你从 Hugging Face 或其他源下载了 GGUF 格式的模型文件如 .gguf也可以手动导入到 Ollama。步骤如下1. 创建 Modelfile 文件内容如下FROM /path/to/your/model.ggufTEMPLATE {{ .Prompt }}PARAMETER temperature 0.7PARAMETER top_p 0.92. 使用 ollama create 创建模型bashollama create my-deepseek-r1 --file ./Modelfile3. 运行模型bashollama run my-deepseek-r1### 5.5 测试模型推理模型下载后可以通过 API 测试推理能力。使用 curl 发送请求bashcurl -X POST http://localhost:11434/api/generate -d {model: deepseek-r1:7b,prompt: 介绍一下深度求索公司,stream: false}返回的 JSON 中包含 response 字段即为模型生成的内容。也可以通过命令行交互bashollama run deepseek-r1:7b 介绍一下深度求索公司### 5.6 模型管理命令- 列出本地模型ollama list- 查看模型详情ollama show deepseek-r1:7b- 删除模型ollama rm deepseek-r1:7b- 复制模型ollama cp deepseek-r1:7b my-backup---## 6. 第三步安装 Open WebUIOpen WebUI 提供了优雅的 Web 界面支持多模态图像输入、RAG、插件、多用户等功能。我们推荐使用 Docker 部署因为它最简便且环境隔离。如果你想使用源码方式部署我们也提供步骤。### 6.1 使用 Docker 快速部署推荐**前提**已安装 Docker 和 Docker Compose可选。确保 Docker 服务运行。执行以下命令拉取并运行 Open WebUIbashdocker run -d -p 3000:8080 \--add-hosthost.docker.internal:host-gateway \-v open-webui:/app/backend/data \--name open-webui \--restart always \ghcr.io/open-webui/open-webui:main解释- -p 3000:8080将容器的 8080 端口映射到主机的 3000 端口你可以通过 http://localhost:3000 访问。- --add-hosthost.docker.internal:host-gateway使容器内能够访问宿主机的网络因为 Ollama 运行在宿主机上如果使用此方式容器通过 host.docker.internal 可以访问宿主机。- -v open-webui:/app/backend/data持久化用户数据和配置防止容器删除后数据丢失。- --restart always自动重启。如果你希望使用 Docker Compose 进行更复杂的管理可以创建 docker-compose.ymlyamlversion: 3.8services:open-webui:image: ghcr.io/open-webui/open-webui:maincontainer_name: open-webuiports:- 3000:8080volumes:- open-webui-data:/app/backend/dataenvironment:- OLLAMA_BASE_URLhttp://host.docker.internal:11434extra_hosts:- host.docker.internal:host-gatewayrestart: unless-stoppedvolumes:open-webui-data:然后运行bashdocker-compose up -d### 6.2 使用 Python 源码安装如果你不想使用 Docker也可以从源码安装。1. 克隆仓库bashgit clone https://github.com/open-webui/open-webui.gitcd open-webui2. 创建 Python 虚拟环境并激活bashpython -m venv venvsource venv/bin/activate # Linux/macOS# 或 venv\Scripts\activate # Windows3. 安装依赖bashpip install -r requirements.txt4. 安装前端依赖需要 Node.js 20bashnpm installnpm run build5. 启动后端服务bashcd backenduvicorn main:app --host 0.0.0.0 --port 8080此时访问 http://localhost:8080 即可。注意源码安装方式需要额外配置环境变量如 OLLAMA_BASE_URL我们将在下一节介绍。### 6.3 配置环境变量Open WebUI 支持通过环境变量进行配置。关键变量如下| 变量名 | 说明 | 默认值 ||--------|------|--------|| OLLAMA_BASE_URL | Ollama API 地址 | http://localhost:11434 || WEBUI_SECRET_KEY | 加密会话的密钥 | 随机生成推荐手动设置 || WEBUI_AUTH | 是否启用用户认证 | True || WEBUI_NAME | WebUI 显示名称 | Open WebUI || ENABLE_SIGNUP | 是否允许注册新用户 | True |在 Docker 部署中可以通过 -e 参数或 Compose 文件中的 environment 来设置。例如指定 Ollama 地址bashdocker run ... -e OLLAMA_BASE_URLhttp://192.168.1.100:11434 ...### 6.4 首次启动与账户创建首次访问 Open WebUI例如 http://localhost:3000时会要求创建一个管理员账户。填写邮箱和密码后即可登录。这个账户拥有所有管理权限。登录后你将看到类似 ChatGPT 的界面。左侧可以新建对话、查看历史、管理模型等。---## 7. 第四步连接 Open WebUI 与 OllamaOpen WebUI 默认会尝试连接本地的 http://localhost:11434。如果你的 Ollama 运行在同一台机器上且端口相同那么连接会自动成功。如果 Ollama 运行在其他主机或端口则需要配置。### 7.1 默认连接方式当两者都在同一主机且使用 Docker 部署 Open WebUI 时我们在 Docker 命令中使用了 --add-hosthost.docker.internal:host-gateway 并且通过环境变量 OLLAMA_BASE_URLhttp://host.docker.internal:11434 来连接如果不设置Open WebUI 内部默认也是 localhost但容器内的 localhost 是容器自身所以必须指定宿主机地址。在 Docker Compose 示例中我们已经设置了 OLLAMA_BASE_URL。如果你忘记设置也可以在 Open WebUI 的**管理员面板**中修改连接地址登录后点击左下角用户头像 → 管理员面板 → 设置 → 通用 → Ollama 基础 URL。### 7.2 跨主机连接配置如果 Ollama 运行在另一台机器上比如 IP 为 192.168.1.10则需要1. 在 Ollama 机器上设置 OLLAMA_HOST0.0.0.0:11434如前面所述并确保防火墙开放 11434 端口。2. 在 Open WebUI 机器上设置 OLLAMA_BASE_URLhttp://192.168.1.10:11434。同样可以通过环境变量或管理员面板配置。### 7.3 使用 API 密钥保护Ollama 本身不内置 API 密钥机制但你可以通过 Open WebUI 的“外部模型”功能来连接需要 API 密钥的服务如 OpenAI。对于 Ollama建议在网络层面进行隔离或者使用反向代理如 Nginx添加基本认证。---## 8. 第五步高级配置与优化本节将深入介绍如何调整 Ollama 和 Open WebUI 以获得更好的性能、安全性及用户体验。### 8.1 Ollama 服务调优Ollama 提供了多种环境变量来优化运行时行为| 环境变量 | 作用 | 示例 ||----------|------|------|| OLLAMA_HOST | 绑定地址和端口 | 0.0.0.0:11434 || OLLAMA_MODELS | 模型存储路径 | /data/ollama/models || OLLAMA_KEEP_ALIVE | 模型在内存中保留的时间秒 | -1永久0立即卸载默认 5m || OLLAMA_NUM_PARALLEL | 并行请求数需要模型支持 | 4 || OLLAMA_MAX_LOADED_MODELS | 最多同时加载的模型数 | 2 || OLLAMA_GPU_OVERHEAD | GPU 预留显存字节 | 512MB |例如如果你希望模型常驻内存并提高并发能力可以设置bashexport OLLAMA_KEEP_ALIVE-1export OLLAMA_NUM_PARALLEL4export OLLAMA_MAX_LOADED_MODELS1在 systemd 服务中可以通过修改 /etc/systemd/system/ollama.service 添加 Environment 行ini[Service]EnvironmentOLLAMA_KEEP_ALIVE-1EnvironmentOLLAMA_NUM_PARALLEL4### 8.2 Open WebUI 功能扩展Open WebUI 内置了丰富的功能如- **多模型支持**可在对话中切换不同的模型需要配置多个模型源。- **RAG 检索增强生成**支持上传文档PDF、Word、TXT等自动切片并向量化结合嵌入模型进行检索后回答。需要配置嵌入模型和向量数据库默认使用 ChromaDB。- **图像生成**可与 Stable Diffusion 等 API 集成实现文生图。- **插件系统**支持通过函数调用扩展功能如联网搜索、代码执行等。要启用这些功能通常需要在管理员面板中进行配置。例如开启 RAG 需要选择嵌入模型如 nomic-embed-text然后上传文档即可使用。### 8.3 使用 Nginx 反向代理如果你想将 Open WebUI 暴露到公网或局域网中的其他设备可以使用 Nginx 作为反向代理同时提供 SSL 证书和负载均衡。一个简单的 Nginx 配置示例假设 Open WebUI 运行在本地 3000 端口nginxserver {listen 80;server_name ai.yourdomain.com;location / {proxy_pass http://127.0.0.1:3000;proxy_http_version 1.1;proxy_set_header Upgrade $http_upgrade;proxy_set_header Connection upgrade;proxy_set_header Host $host;proxy_set_header X-Real-IP $remote_addr;proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;proxy_set_header X-Forwarded-Proto $scheme;}}启用 HTTPS 可以使用 Lets Encrypt 的 certbot 工具。### 8.4 启用 HTTPS如果通过公网访问务必启用 HTTPS。方法有两种1. 在 Nginx 中配置 SSL 证书。2. 直接让 Open WebUI 提供 HTTPS需要设置环境变量 WEBUI_SSL_CERTFILE 和 WEBUI_SSL_KEYFILE但更推荐用反向代理。### 8.5 用户认证与权限管理Open WebUI 默认启用用户认证WEBUI_AUTHtrue。管理员可以- 创建/删除用户- 分配角色管理员/普通用户- 限制用户可使用的模型通过设置“模型白名单”- 查看用户对话记录这些操作在管理员面板中完成界面友好。### 8.6 使用 GPU 加速Ollama 会自动检测并使用 GPU。要确认 GPU 是否正常工作运行 ollama run deepseek-r1:7b 后查看日志或使用 nvidia-smi 观察显存占用。在 Docker 中运行 Open WebUI 时不需要 GPU 支持但如果你希望 Ollama 也在容器中运行并利用 GPU可以参考以下命令启动 Ollama 容器bashdocker run -d --gpus all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama但本文中 Ollama 是安装在宿主机上的已经可以直接利用 GPU。**注意**如果你使用 WSL2 中的 Linux需要安装 Windows 端的 NVIDIA 驱动并在 WSL2 中安装 cuda-toolkit 和 nvidia-container-toolkit 才能让 Docker 中的 Ollama 访问 GPU。### 8.7 模型量化与内存优化除了使用预量化的模型外你还可以在 Ollama 中创建自定义量化版本。例如将一个 FP16 模型量化为 Q4_K_Mbashollama create my-model -f ./Modelfile其中 Modelfile 可指定量化参数但 Ollama 的量化方式是通过 GGUF 文件自带的量化你只需下载对应的 GGUF 即可。如果想进一步压缩内存可以设置 OLLAMA_NUM_PARALLEL 为 1减少同时加载的模型数量。另外对于 CPU 推理可以通过设置 OLLAMA_NUM_THREADS 控制使用的 CPU 核心数例如 export OLLAMA_NUM_THREADS8。---## 9. 第六步常见问题排查与解决### 9.1 Ollama 无法启动- **症状**运行 ollama serve 或通过 systemd 启动失败日志显示端口被占用。- **解决**检查 11434 端口是否被其他程序占用lsof -i:11434Linux/macOS或 netstat -ano | findstr :11434Windows。修改监听端口或停用冲突程序。- **systemd 启动失败**查看日志 journalctl -u ollama -f 获取详细错误。### 9.2 Open WebUI 无法连接 Ollama- **症状**界面显示“Ollama 连接错误”或无法获取模型列表。- **解决**- 确认 Ollama 服务正在运行curl http://localhost:11434/api/tags 应返回 JSON。- 如果 Open WebUI 在容器中确保 OLLAMA_BASE_URL 指向宿主机可访问的地址并且 Docker 的 --add-host 已添加。- 检查防火墙设置确保 11434 端口可访问。- 在 Open WebUI 管理员面板中手动修改 Ollama URL。### 9.3 模型加载缓慢或内存不足- **症状**ollama run 时长时间无响应或进程被杀死。- **解决**- 使用更小的量化模型如 deepseek-r1:7b-q4_0 替代 q8_0。- 如果内存不足增加 swap 空间Linux或调整虚拟内存Windows。- 确保没有其他大型程序占用 GPU 显存。### 9.4 对话响应慢- **原因**模型较大或 CPU 推理性能不足或 GPU 显存不足导致部分层回退到 CPU。- **解决**- 使用 GPU 加速并确认 Ollama 确实在使用 GPUollama ps 可查看模型运行的设备。- 减少 OLLAMA_NUM_PARALLEL 值避免并发请求过多。- 使用更快的量化如 Q4_0或更小的模型。### 9.5 显卡驱动问题- **症状**nvidia-smi 正常但 Ollama 日志显示 “no GPU detected” 或 “CUDA error”。- **解决**- 确保 NVIDIA 驱动版本兼容 CUDA 11.8。- 如果使用 Docker 运行 Ollama需要安装 nvidia-container-toolkit 并配置 --gpus all。- 对于 WSL2需要安装 Windows 端的 NVIDIA 驱动并在 WSL2 中安装 cuda-toolkit。---## 10. 第七步生产环境部署建议如果要将这套系统用于生产环境例如企业内网、团队共享建议考虑以下方面1. **高可用性**将 Ollama 部署在 GPU 服务器集群上使用负载均衡分发请求。Open WebUI 可部署多副本并使用共享数据库如 PostgreSQL代替 SQLite。2. **模型管理**使用模型版本控制定期更新模型并通过脚本自动化部署。3. **监控与日志**集成 Prometheus Grafana 监控 Ollama API 的请求延迟、显存占用等指标收集日志到 ELK 栈以便排查问题。4. **安全加固**- 禁止直接暴露 Ollama API 端口到公网仅通过 Open WebUI 访问。- 使用反向代理添加 HTTPS 和基本认证如通过 OAuth2 Proxy 集成企业 SSO。- 定期更新 Open WebUI 和 Ollama 版本。5. **备份**定期备份 Open WebUI 的数据库SQLite 文件或 PostgreSQL和用户数据卷防止数据丢失。---## 11. 总结与展望通过本文的详细步骤你已经成功在本地部署了 DeepSeek R1 模型并拥有一个功能完备的 Web 交互界面。这套方案充分利用了 Ollama 的便捷性和 Open WebUI 的丰富功能让你在保护数据隐私的同时享受大语言模型带来的强大能力。**进一步探索**- 尝试微调 DeepSeek R1 模型以适应特定领域可使用 LLaMA-Factory 等工具。- 集成外部知识库通过 RAG 增强模型回答的准确性。- 利用 Open WebUI 的函数调用功能让模型执行自动化任务如查询天气、发送邮件。DeepSeek R1 的开源生态正在蓬勃发展期待你在此基础上构建出更多创新的应用。如果在部署过程中遇到任何问题欢迎参考官方文档或社区讨论祝部署顺利---**附录常用命令速查**bash# Ollamaollama pull deepseek-r1:7b # 下载模型ollama run deepseek-r1:7b # 交互运行ollama list # 列出本地模型ollama rm deepseek-r1:7b # 删除模型curl http://localhost:11434/api/tags # 查看模型 API# Docker 启动 Open WebUIdocker run -d -p 3000:8080 \--add-hosthost.docker.internal:host-gateway \-v open-webui:/app/backend/data \-e OLLAMA_BASE_URLhttp://host.docker.internal:11434 \--name open-webui --restart always \ghcr.io/open-webui/open-webui:main# 查看日志docker logs -f open-webuijournalctl -u ollama -f # Linux systemd---*本文基于 DeepSeek R1 发布后社区实践编写部分细节可能随版本更新而变化请以官方最新文档为准。*