
LocalAI 桌面客户端快速上手从安装到跑通第一条 API 对话【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAILocalAI 桌面客户端把下载引擎、建目录、起服务、查日志收进一个图形窗口本地 AI 部署从此不用碰命令行。它适合想在 CPU 设备上零门槛跑起 LLM、语音、图像等多模态模型的新手——客户端本身负责装和管模型跑在同一个 LocalAI 服务里。3 步快速获取 LocalAI 桌面客户端并验证服务获取引擎macOS 用户下载官方 DMG已做 Apple 签名与公证直接打开即可Linux 用户取对应二进制。运行客户端后它会自动检测系统架构并拉取匹配的local-ai发行版落到~/.localai/bin/下载带重试并支持断点续传完成后自动校验 SHA256损坏会提示重装。▶️从托盘启动右键托盘图标点「Start LocalAI」。菜单按状态动态切换——未安装显示「Install Latest Version」已装未运行显示「Start LocalAI」运行中显示「Stop LocalAI」菜单顶部常驻状态与版本两行点击可展开详情发现新版本还会多出一项更新提示。✅验证运行服务日志出现API server listening或浏览器打开http://127.0.0.1:8080看到 WebUI即代表服务就绪。托盘菜单里的「Open WebUI」可以直接帮你打开。如何加载第一个对话模型并发起对话输入打开终端执行local-ai run qwen3-4b动作一条命令同时完成启动服务与自动安装模型。qwen3-4b是小参数量、CPU 友好的 Qwen3 模型对应的后端如 llama.cpp在首次运行到该模型时才被拉取所以第一次要多等几秒。预期结果另开一个终端用 OpenAI 兼容接口发一条消息curl http://localhost:8080/v1/chat/completions -H Content-Type: application/json \ -d {model:qwen3-4b,messages:[{role:user,content:Hello!}]}返回 JSON 的choices里应有模型的文本回复。拿到回复整条链路就算通了。偏好图形界面就用 WebUI首页列出已安装模型每张卡片带 Chat 与 Delete 按钮也可从 Models 页按类型、标签筛选。想脱离服务单独管理模型local-ai models list local-ai models install nameLocalAI 桌面客户端配置文件修改指南设置集中在~/.localai/launcher.json。默认值127.0.0.1:8080、info日志、~/.localai/models与~/.localai/backends两个目录够用时这一节可以跳过。只在下述场景动手模型把系统盘占满把models_path指到大容量盘模型与后端各归其位8080 端口被占改address里的端口再启动服务排查问题把log_level临时调成debug拿更细的输出排完改回info注入推理参数environment_vars字段支持逐条写键值对如OMP_NUM_THREADS不必再碰 shell开机自启start_on_boot设为true客户端启动即拉起服务LocalAI 服务启动失败与端口冲突常见问题排查⚠️ 按日志 → 端口 → 下载的顺序查多数故障三步内能定位。服务点了 Start 却没起来检查点~/.localai/logs/目录下时间戳最新的localai_*.log每次启动生成一份先看末尾。 处理若提示 binary corrupted说明完整性校验失败从托盘菜单重新触发「Install Latest Version」。端口被占用、启动失败检查点8080是否被其他程序占用。 处理改launcher.json的address换个端口再启动。引擎下载中断或反复失败检查点客户端是否弱网中断。 处理直接点重试即可——断点续传会从已下载位置继续下次启动还会自动清理损坏的半截文件无需手动删除。到这里你已经完成安装、启动服务并跑通第一条 API 对话。下一步用 curl 把代码里的 OpenAI 兼容请求指向本地服务或在 WebUI 的 Models 页按标签挑个别的模型试试。更多细节见 快速启动文档 与 客户端源码。【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考