尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

本地跑通义千问和 DeepSeek:Ollama + Q4 量化离线包汇总

本地跑通义千问和 DeepSeek:Ollama + Q4 量化离线包汇总 国外站点下模型经常抽风家用电脑其实已经能跑一批开源权重。本文把本机要用的运行器、通义千问 Qwen2.5、DeepSeek-R1 蒸馏系列以及两个编程 Agent 技能包收成一份开源镜像清单。先说清楚三件事这些都不是本站原创软件。版权归原作者 / 原公司。包内带原 LICENSE再分发必须保留。优先从官网、GitHub、Hugging Face 更新。网盘只作国内离线备份版本以官方为准。领取方式只用口令。打开百度网盘 App点「提取文件」把整段口令粘进去即可。不要改字、不要少字。一、先装运行器Ollama模型文件本身不能双击运行要先装 OllamaMIT。Windows 双击OllamaSetup.exe会装到当前用户目录。Mac / Linux 请走官网Download Ollama on macOSOllama Windows 安装包口令怆忾步收府竺琶诈醇瑜浇旦弋源码github.com/ollama/ollama装好后把下面下到的.gguf放到同一个文件夹写一个ModelfileFROM ./文件名.gguf然后ollama create 模型名 -f Modelfile ollama run 模型名分片权重7B、14B 那种00001-of-00002必须放在同一目录缺一片会加载失败。也可用 llama.cpp 或 LM Studio 直接打开 GGUF。按内存粗选一档即可机器大概配置建议先下8 GB 内存笔记本千问 0.5B / 1.5B / 3B或 DeepSeek 1.5B16 GB千问 7B或 DeepSeek 7B / 0528-8B32 GB千问 14B或 DeepSeek 14B48 GB 以上DeepSeek 32B二、通义千问 Qwen2.5 Instruct原模型来自阿里云通义千问许可Apache 2.0。官方仓库Qwen2.5。下面都是 Instruct 对话档适合中文聊天、写作、简单问答和代码。Qwen2.5-0.5B约 469 MB入门最小杯CPU 笔记本也能试。上下文最长约 32K。怆忾只谋佟韩号矢字屯乃佛弋Qwen2.5-1.5B约 1.1 GB比 0.5B 稳一截日常闲聊和短文够用。怆忾铜狍毽缸扇变盈乒虔並弋Qwen2.5-3B约 1.9 GB小机器里比较均衡的一档中文理解明显好于 0.5B。怆忾贺乌茫奖荀我昱大写漆弋Qwen2.5-7B约 4.7 GB两片日常主力。聊天、写作、简单代码都常用这一档。两片都要下全。怆忾十伴躯房疗务羊盖八付弋Qwen2.5-14B约 9 GB分片比 7B 更稳需要较大内存 / 显存。分片放同一目录再导入。怆忾府妇谣躲亩碎船足网帛弋三、DeepSeek-R1 蒸馏系列Qwen 底官方仓deepseek-aiR1 论文仓DeepSeek-R1。这里只镜像MIT 底模 Apache 2.0的 Qwen 蒸馏档。R1 把推理过程蒸到小模型里做题、写步骤比同尺寸普通聊天模型更会「想一想」。Llama 底蒸馏受社区许可限制不收录满血 671B 家用机器和网盘都不合适。温度建议0.6左右推理类任务更稳。Distill-Qwen-1.5B约 1.0 GB最小推理杯先验证流程用。怆忾並锋级曾锈不讲芍景伲弋Distill-Qwen-7B约 4.4 GB家用最常用的 R1 蒸馏档做题和写推理过程明显强于 1.5B。怆忾朗粮无收眷真动盘乒昱弋Distill-Qwen-14B约 8.4 GB7B 觉得不够稳再上这一档。怆忾纸裕遇些入佑並亦明考弋Distill-Qwen-32B约 18.5 GB蒸馏系列里最大的可镜像档。磁盘和内存都要留足下完再导入。怆忾荣剧腊表壶合荡缸隧未弋R1-0528-Qwen3-8B约 4.7 GB2025 年 5 月更新档蒸馏自更强的 R1-0528底模是 Qwen3Apache 2.0。体积接近 7B适合当「新版 R1 小杯」。怆忾亿皮札备差帅冬尖巫亚弋四、可选两个开源 Agent 技能包给 Cursor / Claude Code 等编程助手用不是模型权重。优先用官方插件命令安装zip 只作离线备份。解压后先看LICENSE。SuperpowersMIT仓库obra/superpowers。一套可组合的 Agent Skills先澄清需求、再设计、再拆计划然后用子 Agent 推进并强调测试和 Review。Cursor/add-plugin superpowersClaude Code/plugin install superpowersclaude-plugins-official离线包口令怆忾荑遭躺诲第忍语同苗件弋PonytailMIT仓库DietrichGebert/ponytail。核心规则是「能不写就不写」先问要不要存在再复用现有代码和标准库最后才写最短实现。Claude Code/plugin marketplace add DietrichGebert/ponytail /plugin install ponytailponytail离线包口令怆忾掌丙佐芒膝霾外赞波励弋五、口令速查可直接复制资源许可百度网盘口令Ollama Windows 安装包MIT怆忾步收府竺琶诈醇瑜浇旦弋SuperpowersMIT怆忾荑遭躺诲第忍语同苗件弋PonytailMIT怆忾掌丙佐芒膝霾外赞波励弋Qwen2.5-0.5BApache 2.0怆忾只谋佟韩号矢字屯乃佛弋Qwen2.5-1.5BApache 2.0怆忾铜狍毽缸扇变盈乒虔並弋Qwen2.5-3BApache 2.0怆忾贺乌茫奖荀我昱大写漆弋Qwen2.5-7BApache 2.0怆忾十伴躯房疗务羊盖八付弋Qwen2.5-14BApache 2.0怆忾府妇谣躲亩碎船足网帛弋DeepSeek Distill 1.5BMIT Apache 2.0怆忾並锋级曾锈不讲芍景伲弋DeepSeek Distill 7BMIT Apache 2.0怆忾朗粮无收眷真动盘乒昱弋DeepSeek Distill 14BMIT Apache 2.0怆忾纸裕遇些入佑並亦明考弋DeepSeek Distill 32BMIT Apache 2.0怆忾荣剧腊表壶合荡缸隧未弋DeepSeek R1-0528 Qwen3-8BMIT Apache 2.0怆忾亿皮札备差帅冬尖巫亚弋使用顺序建议先领Ollama→ 按内存领一个千问或一个 DeepSeek试跑 → 编程助手再按需装技能包。声明本文提供的是开源项目的国内离线镜像信息不修改上游代码与权重。请遵守各项目 LICENSE。商业使用前自行核对 Apache 2.0 / MIT 条款。网盘包若与官方最新版不一致以 GitHub / Hugging Face 为准。
返回列表