30分钟把 MiniMind 跑起来64M 参数轻量 LLM 的本地部署实操手册【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind你有没有想过不碰显卡能不能在自己的电脑上跑起一个轻量 LLMMiniMind 是一个 2 小时即可从零训完的 64M 参数模型跟着这份手册 4 步走30 分钟后你就能和本地部署的 MiniMind 对话。 动手前先确认这三件事项目最低要求硬件双核 CPU、4GB 以上内存、1GB 空闲磁盘软件Python 3.10、Git、pip网络能正常下载依赖包与模型权重为什么要求这么低MiniMind 主线只有 64M 参数推理全程可以跑在 CPU 上普通笔记本就够用。你唯一要预留的是等权重下载完的时间。 从零到可交互只走四步① 拿代码一条 clone 命令拿到全部代码纯 Python 项目、无需编译。卡住先看git命令是否可用、磁盘是否还有 1GB 空余。git clone https://gitcode.com/GitHub_Trending/min/minimind跑通后你应该看到新的minimind目录cd minimind进去能看到scripts/、trainer/、model/等目录。② 装依赖这一步把 requirements.txt 里的依赖装好。注意 PyTorch 不在该文件中处于注释状态需要按你的设备单独安装CPU 版即可这是选 CPU 版的原因它兼容你机器上没有独显的情况。pip install torch pip install -r requirements.txt提示macOS 默认提供python3与pip3把上面的pip换成pip3即可下载慢可追加国内镜像源参数可选。③ 拉模型权重不训练也能玩直接用官方的minimind-3。modelscope命令随上一步依赖一起装好无需额外安装。modelscope download --model gongjy/minimind-3 --local_dir ./minimind-3跑通后你应该看到新的./minimind-3目录里面有model.safetensors等权重文件。主线是 8 层 Transformer Decoder-Only 结构整个模型只有几十 MB这就是它对硬件毫无负担的原因。④ 起服务先用命令行入口做冒烟测试python eval_llm.py --load_from ./minimind-3跑通后终端会显示[0] 自动测试 [1] 手动输入输入1再问一句介绍一下你自己能看到模型逐字回复。想要图形界面先按官方 README 的要求把权重目录复制进scripts/WebUI 只扫描这里再启动cp -r minimind-3 ./scripts/cd scripts streamlit run web_demo.py跑通后终端会打印本地地址通常是http://localhost:8501浏览器打开就是对话页。️ 打开界面后先玩这三个旋钮WebUI 左侧边栏有好几个开关对输出影响最直接的是这三个Temperature 温度— 控制输出随机性越大越发散、越小越保守 — 从默认 0.9 开始Max Length 最大生成长度— 每轮回答允许输出的 token 上限 — 默认 8192想快速看反馈可临时调小历史对话轮次— 携带多少轮上文进上下文 — 从 0 开始多轮场景调成 2边栏还能打开思考开关让模型先输出显式思考过程再作答它与工具调用共存时稳定性下降建议先用纯问答试。✅ 怎么算跑通了一份验收清单按顺序过一遍全过就是本地部署成功✅ CLI选手动输入后提问能看到回答逐字流出✅ WebUI对话窗口问一句能看到完整回复✅ 调一调温度旋钮能明显感觉输出性格变化✅可选API 服务 serve_openai_api.py 启动后端点返回 200你你有什么特别之处 MiniMind我是 MiniMind一个 64M 参数、从零训练出来的轻量语言模型简单问答和指令跟随都难不倒我。 真实设备上的表现参考以下为实测参考值具体随机器与问题长度浮动设备档启动耗时单轮延迟内存峰值低配双核 CPU10~30 秒1~3 秒1~1.5GB中配i5 级 / 16GB5~15 秒0.5~1.5 秒1~1.5GB高配i7 级或带独显5 秒内0.3~0.8 秒1~2GB 卡住了按症状对号入座python命令不认识→ Python 没装好或未加入 PATH → 重装时勾选 Add Python to PATH或 macOS 直接用python3端口被占用Address already in use → 旧进程没退干净 → 启动时追加--server.port 8502换一个空端口WebUI 显示找不到模型→ 权重目录没放进scripts/→ 重新执行cp -r minimind-3 ./scripts/后刷新页面 想继续深挖从这里走微调出自己的风格trainer/train_lora.py — 适合想让模型说特定领域或特定人设话的人CPU 也能跑从零训一个模型trainer/train_pretrain.py — 适合有一张 GPU、想完整体验 2 小时训练链路的人 最后你刚才花 30 分钟把一个轻量 LLM 的本地部署全流程走完了拿代码、装依赖、拉权重、起服务四步。 MiniMind 的价值不在它有多大而在于训练与推理链路每一行都能读懂你可以拿它当地图去理解大模型是怎么工作的。 想继续深入就从 README.md 开始完整的训练、评测与微调说明都在那里。【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 30分钟把 MiniMind 跑起来：64M 参数轻量 LLM 的本地部署实操手册
30分钟把 MiniMind 跑起来64M 参数轻量 LLM 的本地部署实操手册【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind你有没有想过不碰显卡能不能在自己的电脑上跑起一个轻量 LLMMiniMind 是一个 2 小时即可从零训完的 64M 参数模型跟着这份手册 4 步走30 分钟后你就能和本地部署的 MiniMind 对话。 动手前先确认这三件事项目最低要求硬件双核 CPU、4GB 以上内存、1GB 空闲磁盘软件Python 3.10、Git、pip网络能正常下载依赖包与模型权重为什么要求这么低MiniMind 主线只有 64M 参数推理全程可以跑在 CPU 上普通笔记本就够用。你唯一要预留的是等权重下载完的时间。 从零到可交互只走四步① 拿代码一条 clone 命令拿到全部代码纯 Python 项目、无需编译。卡住先看git命令是否可用、磁盘是否还有 1GB 空余。git clone https://gitcode.com/GitHub_Trending/min/minimind跑通后你应该看到新的minimind目录cd minimind进去能看到scripts/、trainer/、model/等目录。② 装依赖这一步把 requirements.txt 里的依赖装好。注意 PyTorch 不在该文件中处于注释状态需要按你的设备单独安装CPU 版即可这是选 CPU 版的原因它兼容你机器上没有独显的情况。pip install torch pip install -r requirements.txt提示macOS 默认提供python3与pip3把上面的pip换成pip3即可下载慢可追加国内镜像源参数可选。③ 拉模型权重不训练也能玩直接用官方的minimind-3。modelscope命令随上一步依赖一起装好无需额外安装。modelscope download --model gongjy/minimind-3 --local_dir ./minimind-3跑通后你应该看到新的./minimind-3目录里面有model.safetensors等权重文件。主线是 8 层 Transformer Decoder-Only 结构整个模型只有几十 MB这就是它对硬件毫无负担的原因。④ 起服务先用命令行入口做冒烟测试python eval_llm.py --load_from ./minimind-3跑通后终端会显示[0] 自动测试 [1] 手动输入输入1再问一句介绍一下你自己能看到模型逐字回复。想要图形界面先按官方 README 的要求把权重目录复制进scripts/WebUI 只扫描这里再启动cp -r minimind-3 ./scripts/cd scripts streamlit run web_demo.py跑通后终端会打印本地地址通常是http://localhost:8501浏览器打开就是对话页。️ 打开界面后先玩这三个旋钮WebUI 左侧边栏有好几个开关对输出影响最直接的是这三个Temperature 温度— 控制输出随机性越大越发散、越小越保守 — 从默认 0.9 开始Max Length 最大生成长度— 每轮回答允许输出的 token 上限 — 默认 8192想快速看反馈可临时调小历史对话轮次— 携带多少轮上文进上下文 — 从 0 开始多轮场景调成 2边栏还能打开思考开关让模型先输出显式思考过程再作答它与工具调用共存时稳定性下降建议先用纯问答试。✅ 怎么算跑通了一份验收清单按顺序过一遍全过就是本地部署成功✅ CLI选手动输入后提问能看到回答逐字流出✅ WebUI对话窗口问一句能看到完整回复✅ 调一调温度旋钮能明显感觉输出性格变化✅可选API 服务 serve_openai_api.py 启动后端点返回 200你你有什么特别之处 MiniMind我是 MiniMind一个 64M 参数、从零训练出来的轻量语言模型简单问答和指令跟随都难不倒我。 真实设备上的表现参考以下为实测参考值具体随机器与问题长度浮动设备档启动耗时单轮延迟内存峰值低配双核 CPU10~30 秒1~3 秒1~1.5GB中配i5 级 / 16GB5~15 秒0.5~1.5 秒1~1.5GB高配i7 级或带独显5 秒内0.3~0.8 秒1~2GB 卡住了按症状对号入座python命令不认识→ Python 没装好或未加入 PATH → 重装时勾选 Add Python to PATH或 macOS 直接用python3端口被占用Address already in use → 旧进程没退干净 → 启动时追加--server.port 8502换一个空端口WebUI 显示找不到模型→ 权重目录没放进scripts/→ 重新执行cp -r minimind-3 ./scripts/后刷新页面 想继续深挖从这里走微调出自己的风格trainer/train_lora.py — 适合想让模型说特定领域或特定人设话的人CPU 也能跑从零训一个模型trainer/train_pretrain.py — 适合有一张 GPU、想完整体验 2 小时训练链路的人 最后你刚才花 30 分钟把一个轻量 LLM 的本地部署全流程走完了拿代码、装依赖、拉权重、起服务四步。 MiniMind 的价值不在它有多大而在于训练与推理链路每一行都能读懂你可以拿它当地图去理解大模型是怎么工作的。 想继续深入就从 README.md 开始完整的训练、评测与微调说明都在那里。【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考