self-hosted-ai-starter-kit 部署教程2 条命令搭好本地 AI 工作流环境【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit你是不是也遇到过这种场景想用 AI 处理公司文档却得把数据传到别人的云端 API心里不踏实。self-hosted-ai-starter-kit 就是为解决这个问题存在的——一个由 n8n 团队整理的开源 Docker 模板在你自己的电脑上几分钟内拉起一套完整的本地 AI 环境。它是什么 · 一句话看懂一句话它是一套开机即用的自托管 AI 全家桶你只负责敲命令剩下的它都装好了。一条命令启动 4 个容器n8n低代码工作流平台400 集成、Ollama跑本地大模型的引擎、Qdrant向量数据库、PostgreSQL存数据数据全程留在本机不经过任何云端隐私安全自己说了算预置了 Demo 工作流和配套凭证装完就能对话不用自己配定位是起步模板适合原型验证和学习官方明确说它还没针对生产环境做深度优化先跑起来 · 几分钟上手 前置条件一句话装好 Docker 和 Docker Compose内存 8GB 起步推荐 16GB留 20GB 磁盘空间拉镜像。下面这一步会克隆项目并生成配置文件记得把.env里的默认密码和密码密钥改掉git clone https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit cd self-hosted-ai-starter-kit cp .env.example .env然后执行这条命令CPU 模式一键拉起全部服务有 NVIDIA / AMD 显卡的换成--profile gpu-nvidia或--profile gpu-amddocker compose --profile cpu up第一次跑要拉取 n8n、Ollama、PostgreSQL、Qdrant 四个镜像按网络快慢大概 3~10 分钟。启动后按这个顺序走浏览器打开http://localhost:5678/按提示完成 n8n 的初始化注册只做一次打开预置的 Demo 工作流http://localhost:5678/workflow/srOnR8PAY3u4RSwb点画布底部的Chat按钮直接和本地 Llama 3.2 对话第一次点 Chat 可能要等 Ollama 把 Llama 3.23B约 2GB下载完别着急看 Docker 控制台日志里的下载进度就行。跑通之后怎么玩 · 进阶玩法换个更大的本地模型。Ollama 支持几十种开源模型在 Ollama 容器里执行ollama pull qwen2.5:7b之类的命令拉新模型然后回到 Demo 工作流把 Ollama Chat Model 节点里的 model 改一下即可。CPU 跑推理的话建议选 7B 及以下参数量8GB 内存的机器用 3B 最稳。给 AI 接上你的私有文档RAG。这正是 Qdrant 存在的意义把工作流里的 Qdrant 向量存储节点接进链路把 PDF、Markdown 灌进向量库AI 就能引用你公司文档回答。注意本地文件要从./shared目录读写——它被挂载进 n8n 容器在节点里对应的路径是/data/shared。发挥 n8n 的集成能力。本地模型只是大脑400 集成才是手脚接一个 Slack 触发器AI 就能在群里自动值班接邮件节点就是私人邮件摘要机器人。AI Agent、Text Classifier、Information Extractor 这些高级节点开箱即用只要语言模型节点用 Ollama、向量库用 Qdrant整条链路就都留在本地。更新镜像拿新版本。官方升级流程是拉新镜像后重建容器git pull docker compose --profile cpu pull docker compose create docker compose --profile cpu up调资源。编辑 docker-compose.yml 给 Ollama 服务加deploy.resources限制防止它吃满内存模型越大越建议给 Docker 本身预留更多内存。原理拆解 · 架构怎么看看懂 docker-compose.yml这个项目的架构其实一眼就透组件作用端口数据存哪n8n工作流平台 编排入口5678n8n_storage卷Ollama本地大模型推理引擎11434ollama_storage卷Qdrant向量数据库支撑 RAG6333qdrant_storage卷PostgreSQL 16存 n8n 的工作流与执行数据仅内部网络postgres_storage卷几个值得注意的设计n8n-import一次性容器启动时检测库里有没有工作流没有就自动把 n8n/demo-data/workflows/ 里的 Demo 和 n8n/demo-data/credentials/ 里的 Ollama、Qdrant 两条凭证导入——这就是你装完就能聊的原因profiles 机制同一个 Ollama 服务定义出三份变体——cpu、gpu-nvidia申请 1 块 NVIDIA 卡、gpu-amdrocm 镜像 /dev/kfd设备启动参数决定用哪份.env驱动密钥PostgreSQL 账号密码、N8N_ENCRYPTION_KEY、JWT 密钥全部来自 .env.example 模板OLLAMA_HOST默认指向容器内的ollama:11434./shared共享目录宿主机与 n8n 容器之间的文件通道默认建在项目同级目录高频卡点 · 遇到问题服务起不来、端口报错先查日志定位是哪个容器docker compose logs ollama服务名换成 n8n / qdrant / postgres。最高频的是 5678、11434、6333 端口被占用改 docker-compose.yml 里的映射端口即可。第一次 Chat 卡住不动99% 是在等 Llama 3.2 下载看 Ollama 容器的日志确认进度磁盘空间不足 20GB 时也会卡在这一步。Mac 用户想用本地 GPUApple Silicon 的 GPU 无法直接暴露给 Docker官方给的路子是Mac 上原生装 Ollama在.env里设OLLAMA_HOSThost.docker.internal:11434再把 n8n 凭证页里 Local Ollama service 的 base URL 改成http://host.docker.internal:11434/。工作流读不到本地文件节点里别写宿主机路径一律用/data/shared/xxx那是./shared在容器内的影子。想推倒重来数据都存在命名卷里删除卷再up一次就是全新环境Demo 工作流也会重新导入。装好了就别停在 Demo 上——打开那个 Llama 工作流把模型节点换成你自己ollama pull的新模型再丢一份 PDF 进./shared你的第一个私有 AI 助手今天就能上岗。【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 self-hosted-ai-starter-kit 部署教程：2 条命令搭好本地 AI 工作流环境
self-hosted-ai-starter-kit 部署教程2 条命令搭好本地 AI 工作流环境【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit你是不是也遇到过这种场景想用 AI 处理公司文档却得把数据传到别人的云端 API心里不踏实。self-hosted-ai-starter-kit 就是为解决这个问题存在的——一个由 n8n 团队整理的开源 Docker 模板在你自己的电脑上几分钟内拉起一套完整的本地 AI 环境。它是什么 · 一句话看懂一句话它是一套开机即用的自托管 AI 全家桶你只负责敲命令剩下的它都装好了。一条命令启动 4 个容器n8n低代码工作流平台400 集成、Ollama跑本地大模型的引擎、Qdrant向量数据库、PostgreSQL存数据数据全程留在本机不经过任何云端隐私安全自己说了算预置了 Demo 工作流和配套凭证装完就能对话不用自己配定位是起步模板适合原型验证和学习官方明确说它还没针对生产环境做深度优化先跑起来 · 几分钟上手 前置条件一句话装好 Docker 和 Docker Compose内存 8GB 起步推荐 16GB留 20GB 磁盘空间拉镜像。下面这一步会克隆项目并生成配置文件记得把.env里的默认密码和密码密钥改掉git clone https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit cd self-hosted-ai-starter-kit cp .env.example .env然后执行这条命令CPU 模式一键拉起全部服务有 NVIDIA / AMD 显卡的换成--profile gpu-nvidia或--profile gpu-amddocker compose --profile cpu up第一次跑要拉取 n8n、Ollama、PostgreSQL、Qdrant 四个镜像按网络快慢大概 3~10 分钟。启动后按这个顺序走浏览器打开http://localhost:5678/按提示完成 n8n 的初始化注册只做一次打开预置的 Demo 工作流http://localhost:5678/workflow/srOnR8PAY3u4RSwb点画布底部的Chat按钮直接和本地 Llama 3.2 对话第一次点 Chat 可能要等 Ollama 把 Llama 3.23B约 2GB下载完别着急看 Docker 控制台日志里的下载进度就行。跑通之后怎么玩 · 进阶玩法换个更大的本地模型。Ollama 支持几十种开源模型在 Ollama 容器里执行ollama pull qwen2.5:7b之类的命令拉新模型然后回到 Demo 工作流把 Ollama Chat Model 节点里的 model 改一下即可。CPU 跑推理的话建议选 7B 及以下参数量8GB 内存的机器用 3B 最稳。给 AI 接上你的私有文档RAG。这正是 Qdrant 存在的意义把工作流里的 Qdrant 向量存储节点接进链路把 PDF、Markdown 灌进向量库AI 就能引用你公司文档回答。注意本地文件要从./shared目录读写——它被挂载进 n8n 容器在节点里对应的路径是/data/shared。发挥 n8n 的集成能力。本地模型只是大脑400 集成才是手脚接一个 Slack 触发器AI 就能在群里自动值班接邮件节点就是私人邮件摘要机器人。AI Agent、Text Classifier、Information Extractor 这些高级节点开箱即用只要语言模型节点用 Ollama、向量库用 Qdrant整条链路就都留在本地。更新镜像拿新版本。官方升级流程是拉新镜像后重建容器git pull docker compose --profile cpu pull docker compose create docker compose --profile cpu up调资源。编辑 docker-compose.yml 给 Ollama 服务加deploy.resources限制防止它吃满内存模型越大越建议给 Docker 本身预留更多内存。原理拆解 · 架构怎么看看懂 docker-compose.yml这个项目的架构其实一眼就透组件作用端口数据存哪n8n工作流平台 编排入口5678n8n_storage卷Ollama本地大模型推理引擎11434ollama_storage卷Qdrant向量数据库支撑 RAG6333qdrant_storage卷PostgreSQL 16存 n8n 的工作流与执行数据仅内部网络postgres_storage卷几个值得注意的设计n8n-import一次性容器启动时检测库里有没有工作流没有就自动把 n8n/demo-data/workflows/ 里的 Demo 和 n8n/demo-data/credentials/ 里的 Ollama、Qdrant 两条凭证导入——这就是你装完就能聊的原因profiles 机制同一个 Ollama 服务定义出三份变体——cpu、gpu-nvidia申请 1 块 NVIDIA 卡、gpu-amdrocm 镜像 /dev/kfd设备启动参数决定用哪份.env驱动密钥PostgreSQL 账号密码、N8N_ENCRYPTION_KEY、JWT 密钥全部来自 .env.example 模板OLLAMA_HOST默认指向容器内的ollama:11434./shared共享目录宿主机与 n8n 容器之间的文件通道默认建在项目同级目录高频卡点 · 遇到问题服务起不来、端口报错先查日志定位是哪个容器docker compose logs ollama服务名换成 n8n / qdrant / postgres。最高频的是 5678、11434、6333 端口被占用改 docker-compose.yml 里的映射端口即可。第一次 Chat 卡住不动99% 是在等 Llama 3.2 下载看 Ollama 容器的日志确认进度磁盘空间不足 20GB 时也会卡在这一步。Mac 用户想用本地 GPUApple Silicon 的 GPU 无法直接暴露给 Docker官方给的路子是Mac 上原生装 Ollama在.env里设OLLAMA_HOSThost.docker.internal:11434再把 n8n 凭证页里 Local Ollama service 的 base URL 改成http://host.docker.internal:11434/。工作流读不到本地文件节点里别写宿主机路径一律用/data/shared/xxx那是./shared在容器内的影子。想推倒重来数据都存在命名卷里删除卷再up一次就是全新环境Demo 工作流也会重新导入。装好了就别停在 Demo 上——打开那个 Llama 工作流把模型节点换成你自己ollama pull的新模型再丢一份 PDF 进./shared你的第一个私有 AI 助手今天就能上岗。【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考