尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

Ollama模型存储路径配置与优化指南

Ollama模型存储路径配置与优化指南 1. Ollama模型文件存储机制解析在Windows系统上Ollama默认会将下载的模型文件存储在C:\Users\用户名\.ollama目录下。这个隐藏文件夹包含三个关键子目录models存放实际模型权重文件GGUF格式blobs存储模型分片和中间数据tmp下载和转换过程中的临时文件这种目录结构设计源于Ollama的容器化架构思想。当用户执行ollama pull命令时系统会在tmp创建下载缓存将验证通过的模型组件存入blobs最终组合成完整模型存入models注意直接修改这些目录中的文件可能导致模型损坏。建议通过Ollama CLI管理模型。2. 修改默认存储位置的三种方法2.1 环境变量法推荐右键此电脑 → 属性 → 高级系统设置在环境变量中新建系统变量变量名OLLAMA_MODELS变量值目标路径如D:\AI_Models\ollama验证配置ollama list # 观察新模型是否存储到指定位置优势永久生效不影响已有模型支持路径包含空格2.2 符号链接法适合已有模型迁移停止Ollama服务ollama serve stop迁移原有文件robocopy C:\Users\user\.ollama D:\new_location /MIR /R:3 /W:10创建符号链接mklink /J C:\Users\user\.ollama D:\new_location2.3 配置文件修改法高级用户编辑config.json位于Ollama安装目录{ storage: { root: E:\\ollama_storage, blobs: E:\\ollama_storage\\blobs } }警告修改后需重建所有模型索引ollama rebuild3. 存储路径优化实践3.1 SSD与HDD混合方案高频使用模型存放在NVMe SSD如C:\ollama_cache归档模型机械硬盘阵列如D:\ollama_archive通过环境变量动态切换# 日常使用 $env:OLLAMA_MODELSC:\ollama_cache # 调用归档模型时 $env:OLLAMA_MODELSD:\ollama_archive ollama run llama33.2 网络存储配置NAS挂载示例以QNAP为例映射网络驱动器到Z:\设置环境变量[System.Environment]::SetEnvironmentVariable(OLLAMA_MODELS, Z:\ollama, Machine)调整SMB协议版本为3.1.1在注册表启用长路径支持HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem LongPathsEnabled 14. 故障排查手册4.1 权限问题处理当出现permission denied错误时获取目录所有权takeown /F D:\ollama /R /D Y重置权限icacls D:\ollama /grant Everyone:(OI)(CI)F /T4.2 存储空间监控创建自动清理脚本clean_ollama.ps1$threshold 90GB $usage (Get-Volume D).SizeRemaining if ($usage -lt $threshold) { ollama list --format json | ConvertFrom-Json | Where-Object { $_.last_used -lt (Get-Date).AddDays(-30) } | ForEach-Object { ollama rm $_.name } }添加到计划任务$trigger New-JobTrigger -Daily -At 3AM Register-ScheduledJob -Name OllamaCleaner -FilePath .\clean_ollama.ps1 -Trigger $trigger5. 性能调优技巧5.1 存储后端优化在config.json中添加{ storage: { mmap: true, prefetch: 1024 } }参数说明mmap启用内存映射提升大模型加载速度prefetch预加载块大小单位MB5.2 分层存储策略通过标签实现自动迁移# 标记冷数据模型 ollama tag my_model archive:true # 自动迁移脚本 Get-ChildItem $env:OLLAMA_MODELS -Filter *.gguf | Where-Object { $_.LastAccessTime -lt (Get-Date).AddMonths(-1) } | Move-Item -Destination D:\cold_storage实测数据对比Llama3-70B模型存储方案加载时间推理速度默认位置28s42tok/sNVMe SSD15s45tok/s网络存储52s38tok/s
返回列表