尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

3步部署5分钟跑通Open WebUI:自建本地AI聊天平台

3步部署5分钟跑通Open WebUI:自建本地AI聊天平台 3步部署5分钟跑通Open WebUI自建本地AI聊天平台【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui想把本地跑起来的 Ollama 模型装进一个像样的聊天界面或者把一堆 PDF 手册变成能直接提问的知识库Open WebUI 是目前最常用的开源项目之一。它是一个完全自托管的 AI 平台支持离线运行能接 Ollama 本地模型和所有兼容 OpenAI 的 API内置 RAG 文档检索、多模型对话和完整的多用户管理。这篇文章只讲一件事从空机器到能用的平台需要哪几步、每步会看到什么。Open WebUI 是什么Open WebUI 是一个自托管的 AI 对话平台后端用 Python、前端用 Svelte官方直接提供 Docker 镜像装 Docker 就能跑。和一次性的聊天脚本或纯在线服务不同你的对话记录、上传文档、模型调用全部留在自己的机器或内网里不经过任何第三方。核心能力包括连接 Ollama 本地模型或任意 OpenAI 兼容 APILM Studio、vLLM、Mistral、Groq 等两者可以混着用内置 RAG上传文档后自动切分、向量化聊天时用#命令把相关内容带进上下文多模型并行对话同一个问题发给多个模型横向对比回答质量完整的账号体系注册、登录、分组、角色权限个人用和公司内部用都覆盖可扩展语音输入、图像生成、工具调用MCP/OpenAPI都能通过设置接入适合三类人想在本地模型上加图形界面的人、想搭内部知识问答的团队、以及因数据合规不能把内容交给在线服务的使用者。 最小部署路径环境要求只有一个装好 Docker 和 Docker Compose用docker --version确认能输出版本号即可。先克隆项目仓库到本地git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui然后一条命令启动。项目自带的 docker-compose.yaml 会同时拉起 Ollama 和 Open WebUI 两个容器数据库文件放在持久化卷里重启不丢docker-compose up -d等一两分钟镜像下载完成浏览器打开http://localhost:3000注册第一个账号——第一个注册的账号自动成为管理员。到这一步平台就跑起来了可以用docker-compose logs -f open-webui观察启动日志。如果你不想用 Docker也可以用 pip 装需要 Python 3.11执行pip install open-webui后运行open-webui serve访问http://localhost:8080效果一致。 上手体验装完先做三件事1. 拉一个模型发出第一句话。如果 Ollama 容器是空的先在宿主机执行ollama pull llama3之类的命令下载模型回到页面顶部模型下拉框能看到已连接的模型。选中后输入问题回答会以流式逐字出现。这一步用来确认模型链路通了也是之后一切功能的基础。2. 把文档变成可提问的知识库。在左侧边栏找到 Knowledge知识库上传 PDF、Word 或 Markdown 文件。系统会本地完成切分和向量化不需要额外调外部 API。之后在聊天输入框输入#加文档关键词选中后相关片段会作为上下文注入本次对话模型回答就基于你自己的文档了。适合内部手册问答、参考资料检索这类答案必须来自指定材料的场景。3. 多模型对比或试试图像生成。同一个会话可以添加多个模型把同一个问题发出去逐条对比回答的差异和速度这是选型时很好用的手段。如果接入了图像模型OpenAI DALL·E、本地 ComfyUI 或 AUTOMATIC1111 都支持直接在聊天里发提示词就能生成图片。进阶配置只有遇到端口冲突、Ollama 在别的机器、或要接商业 API 时才需要动配置核心都改在 docker-compose.yaml 里ports: - 8080:8080 # 外部端口从 3000 改为 8080 environment: - OLLAMA_BASE_URLhttp://192.168.1.50:11434 # Ollama 在另一台机器时改完docker-compose up -d重新加载即可。接 OpenAI 兼容 API 不需要改文件进页面 Settings → Admin 面板在 External Providers 里填 API 地址和 Key模型列表会立刻出现对应条目。多用户生产环境再考虑把默认的 SQLite 换成 PostgreSQL、加 Redis 做会话共享个人和小团队用不到这些。排障速查现象原因处理聊天页提示 Server Connection Error容器内访问不到 Ollama 的 11434 端口改OLLAMA_BASE_URL为可达地址或改用--add-hosthost.docker.internal:host-gateway启动模型下拉框是空的Ollama 里还没下载任何模型先执行ollama pull 模型名3000 端口被占用映射端口冲突把 docker-compose.yaml 里的3000:8080改成8080:8080重启后聊天记录消失启动时漏挂数据卷务必保留-v open-webui:/app/backend/data回答等很久后报超时默认超时 5 分钟首次加载大模型偏慢调大AIOHTTP_CLIENT_TIMEOUT秒更多细节可以翻仓库里的 TROUBLESHOOTING.md里面有架构图说明后端是如何代理 Ollama 请求的。收尾部署后自查清单Open WebUI 的价值在于给本地模型补上了完整的界面、检索和用户管理层而部署成本基本等于装一个 Docker。它的上限取决于你接什么模型、喂什么文档而不是平台本身。下面五条全过说明你的实例是健康的浏览器能打开 localhost:3000 并正常登录模型下拉框里至少有一个模型能完成一问一答上传一份文档后用#命令能检索到内容数据卷已挂载重启容器后聊天记录仍在实际端口与 Ollama 地址符合你的预期【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表