这类工具最值得先看的不是功能列表而是能不能在普通环境里稳定跑起来以及微调之后模型到底能不能记住你教的东西。LLaMA-Factory 就是一个把大模型微调这件事从“需要写一堆代码和脚本”变成“填几个参数、点几下就能跑”的工具。它支持 Qwen、LLaMA、Baichuan 等一堆主流模型用 LoRA 等方法做高效微调对显存要求友好很多。如果你之前觉得微调大模型门槛太高或者自己写训练脚本容易在数据格式、环境依赖上卡住那这个工具就是帮你绕过那些坑的。它把数据准备、模型加载、训练配置、日志监控这些步骤都封装成了 Web 界面或者命令行参数你只需要关心两件事你的任务数据是什么以及你想让模型学会什么。但别急着觉得“有手就行”。工具简化了流程不等于微调本身没有门槛。最关键的三步依然是环境能不能一次装对、数据格式能不能被正确读取、训练出来的模型有没有真的学到东西。下面我会按实际落地的顺序从环境准备、数据准备、训练配置到效果验证完整拆解一遍用 LLaMA-Factory 微调 Qwen 模型的整个过程。1. 先确认你的机器和环境能不能跑起来再谈微调微调大模型第一关永远是环境。LLaMA-Factory 虽然封装得好但它底层依赖 PyTorch、CUDA、Transformers 这些库版本不对或者缺了某个包启动就会报错。很多人一上来就照着教程 pip install结果遇到各种“No module named ‘xxx‘”或者 CUDA 版本不匹配时间全花在折腾环境上了。我的建议是先别管微调把 LLaMA-Factory 的官方仓库拉下来能正常启动它的 Web UI就算成功了一半。1.1 硬件与系统基础要求这不是一个能在任意电脑上跑的工具。你需要一块支持 CUDA 的 NVIDIA GPU这是刚需。CPU 模式理论上可以但训练速度会慢到几乎不可用只适合极小数据量的原理验证。GPU 显存这是最关键的资源。微调 Qwen 模型显存占用主要取决于三个因素模型参数量、LoRA 的秩rank、以及训练时的批处理大小batch size。如果你想微调Qwen2-7B这样的 70 亿参数模型使用 LoRArank8batch size1那么8GB 显存是起步门槛。12GB 或以上会更从容可以尝试调大 batch size 或使用更复杂的微调方法如 QLoRA。如果你想微调Qwen2-72B在消费级显卡上几乎不可能全参微调。必须使用QLoRA量化版的 LoRA并且可能需要将模型量化到 4-bit如 NF4这样在 24GB 显存的卡上才有机会跑起来。简单判断打开任务管理器Windows或nvidia-smi命令Linux看你的 GPU 显存总量。预留 1-2GB 给系统和其他进程剩下的就是你能用于微调的空间。内存至少需要 16GB 系统内存。加载大模型时除了显存系统内存也会被占用一部分用于数据处理和缓存。32GB 或以上是更稳妥的选择。磁盘空间需要预留足够的空间存放以下几样东西模型文件Qwen2-7B 的原始模型文件大约 14GBFP16格式。如果使用量化版本如 GPTQ-Int4可以降到 4GB 左右。训练数据你的数据集文件通常不大。微调后的适配器权重LoRA 权重文件很小通常只有几十到几百 MB。环境与缓存Python 环境、pip 包、Hugging Face 模型缓存等建议预留 20GB 以上。操作系统官方主要支持Linux和WindowsWSL2。macOS 理论上可以但仅限于 CPU 或 Apple Silicon GPUMPS模式速度和生态支持不如 NVIDIA CUDA。强烈建议在 Ubuntu 等 Linux 发行版下进行能避开绝大多数环境问题。1.2 一步一步搭建可运行的环境网上很多教程就一句git clone和pip install -r requirements.txt但实际执行时十有八九会出问题。下面是我验证过的、更稳妥的步骤。第一步创建并激活一个干净的 Python 虚拟环境。这是避免包冲突的最好方法。不要在你的全局 Python 或者已有复杂项目的环境中操作。# 假设使用 condapython版本建议3.10 conda create -n llama_factory python3.10 -y conda activate llama_factory # 或者使用 venv python -m venv llama_factory_env # Linux/macOS source llama_factory_env/bin/activate # Windows llama_factory_env\Scripts\activate第二步安装 PyTorch 与 CUDA。这是最容易出错的一步。先去 PyTorch 官网 根据你的 CUDA 版本选择安装命令。用nvidia-smi查看 CUDA 版本右上角显示的是驱动支持的最高 CUDA 版本你实际安装的可能是低版本的 CUDA Toolkit。# 例如你的环境是 CUDA 11.8 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118第三步克隆 LLaMA-Factory 并安装核心依赖。直接从官方仓库拉取最新代码进入目录安装依赖。git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory pip install -e .[torch,metrics] # 如果上面命令报错可以尝试分开安装 pip install -r requirements.txt注意如果遇到某个包安装失败比如flash-attn对硬件和 CUDA 版本有要求可以先注释掉requirements.txt里对应的行或者尝试用pip install package-name --no-deps跳过依赖检查后续再单独处理。flash-attn能加速训练但不是必须的。第四步启动 Web UI 进行验证。如果环境没问题这一步应该能成功启动一个本地服务。python src/train_web.py执行后命令行会输出一个本地地址通常是http://127.0.0.1:7860。用浏览器打开这个地址。如果能看到 LLaMA-Factory 的图形界面恭喜你环境搭建成功了。如果启动失败请仔细阅读命令行报错信息通常是缺少某个包或者端口被占用。2. 准备训练数据格式对了微调就成功了一半数据是微调的灵魂。LLaMA-Factory 支持多种任务类型的数据格式但最常用、也最容易理解的是指令微调Instruction Tuning格式。很多新手失败不是因为模型不行而是数据格式根本就没被工具正确读取。2.1 理解指令微调的数据结构指令微调的目的是教会模型遵循指令、进行对话或完成特定任务。每条训练数据通常包含三个角色指令instruction你给模型的任务描述。例如“将下面的英文翻译成中文。”输入input任务的具体上下文或输入。例如“Hello, world!”这个字段有时可以为空如果指令已经足够明确。输出output你期望模型给出的正确答案。例如“你好世界”在 LLaMA-Factory 中这些数据需要被组织成一个JSON 文件并且文件内部是一个字典列表。这是最关键的一点。一个正确的dataset.json文件内容示例[ { instruction: 将下面的英文翻译成中文。, input: The weather is nice today., output: 今天天气很好。 }, { instruction: 用一句话总结下面段落的主要内容。, input: 人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。, output: 人工智能是研究模拟和扩展人类智能的技术科学。 }, { instruction: 写一首关于春天的五言绝句。, input: , output: 春眠不觉晓处处闻啼鸟。夜来风雨声花落知多少。 } ]最常见的错误格式文件不是有效的 JSON缺少括号、逗号。最外层不是列表[...]而是直接一个字典{...}。字段名拼写错误比如“instruct”而不是“instruction”。使用了工具不支持的字段比如“context”,“history”除非你明确知道对应的模板支持。2.2 如何准备你自己的数据如果你有自己的业务数据比如客服问答对、产品描述生成、代码注释生成等你需要将其转换成上述格式。收集与清洗确保你的问答对或任务数据是高质量的。垃圾数据进去垃圾模型出来。划分数据集通常需要分成三部分train.json训练集用于模型学习。validation.json验证集用于在训练过程中评估模型表现防止过拟合。test.json测试集用于最终评估模型效果在 LLaMA-Factory Web UI 中验证集常被用作评估。数据量建议对于 LoRA 微调几百到几千条高质量数据通常就能看到明显效果。数据太少如几十条容易过拟合模型只会“背诵”数据太多则需要更长的训练时间和更谨慎的参数调整。文件存放在 LLaMA-Factory 项目目录下创建一个data文件夹把你的dataset.json放进去。路径清晰后续配置方便。2.3 在 Web UI 中加载和预览数据这是检验数据格式是否正确的最直观方法。在 Web UI 的 “Dataset” 选项卡下。“Dataset” 选择你自定义的数据集名称你需要先在配置中注册见下一步。点击 “Preview dataset” 按钮。 如果下方能正常显示几条数据样本并且字段Instruction, Input, Output都正确显示说明数据加载成功。如果报错或者显示乱码回去检查你的 JSON 文件。3. 配置与启动微调关键参数决定模型学成什么样环境好了数据对了现在进入核心环节——配置训练。LLaMA-Factory 的 Web UI 把众多参数做了分类新手容易看花眼。我建议你重点关注下面这几个它们对训练结果和资源消耗影响最大。3.1 模型与路径配置Model name or path这是你要微调的基础模型。对于 Qwen你需要填写 Hugging Face 上的模型 ID例如Qwen/Qwen2-7B-Instruct。工具会自动从 Hugging Face 下载需要网络通畅。如果你已经提前下载好了模型到本地就填写本地路径如./models/Qwen2-7B-Instruct。Adapter name or path这里留空因为我们是从头开始训练一个新的 LoRA 适配器。Output directory训练过程中产生的所有文件检查点、最终适配器、日志的保存路径。建议起一个有意义的名字如./output/qwen7b_lora_my_data。3.2 训练参数精讲LoRA 为例在 “Training” 和 “LoRA” 选项卡下你需要设置以下关键参数参数含义与建议新手避坑指南Training Stages训练阶段。选Supervised Fine-Tuning (SFT)即可这是最常用的指令微调。不要选 Pre-training除非你有海量无标注文本。Batch Size批处理大小。一次训练喂给模型的数据条数。这是影响显存的第一关键参数先从 1 开始。如果显存有富余再尝试 2, 4, 8。增大 batch size 可能使训练更稳定但显存占用线性增长。Gradient Accumulation梯度累积步数。模拟更大 batch size 的技术。如果 batch size 只能设为 1但你想获得 batch size4 的效果就把这个设为 4。实际 batch size Batch Size * Gradient Accumulation。Learning Rate学习率。模型参数更新的步长。LoRA 训练常用1e-4到5e-5。太大容易训飞loss震荡太小收敛慢。可以先从2e-4或1e-4开始。Num Epochs训练轮数。整个数据集过几遍。对于几百几千条数据3-5 个 epoch 通常足够。可以观察验证集 loss如果不再下降甚至上升就说明可能过拟合了该停了。LoRA Rank (lora_r)LoRA 的秩。决定适配器参数量大小。这是影响效果和显存的第二关键参数常用 8, 16, 32。越大适配器能力越强但越容易过拟合显存占用也略增。新手从 8 开始。LoRA Alpha (lora_alpha)LoRA 缩放参数。一般设为 rank 的 1-2 倍。通常设置为lora_r的 1 倍或 2 倍例如 rank8, alpha16。这是一个经验参数保持默认或按此设置即可。Target ModulesLoRA 作用的目标模块。对于 Qwen 等 Transformer 模型通常选择q_proj, v_proj查询和值投影层。更激进可以加上k_proj, o_proj。Web UI 通常有预设保持默认即可。3.3 启动训练与监控配置好所有参数后回到 “Train” 选项卡。点击 “Start Training”。命令行窗口会开始输出日志。不要关闭这个窗口这是你查看训练进程和错误信息的地方。同时Web UI 的 “Output” 或 “Log” 区域也会滚动显示信息。训练过程中看什么Loss损失这是最重要的指标。训练集 loss 应该稳步下降验证集 loss 先下降后可能缓慢上升过拟合迹象。如果 loss 是NaN或者一开始就巨大且不降说明学习率太高、数据格式有问题或模型没加载好。显存占用在命令行用nvidia-smi查看。确保没有爆显存接近100%。日志信息关注是否有警告WARNING或错误ERROR。常见的如数据加载失败、梯度爆炸等。训练完成后输出目录下会生成适配器权重文件通常是adapter_model.bin和adapter_config.json以及训练日志。4. 验证与使用微调后的模型别只看 loss要实际对话测试训练 loss 降得很好看不代表模型真的学会了你的任务。必须进行推理测试这是检验微调成果的唯一标准。4.1 在 Web UI 中快速测试LLaMA-Factory 的 “Chat” 或 “Inference” 选项卡支持加载你刚训练好的适配器进行对话测试。加载模型在 “Model” 部分Model name or path依然填写你的基础模型如Qwen/Qwen2-7B-Instruct。加载适配器在Adapter name or path这里填写你训练输出目录的路径如./output/qwen7b_lora_my_data。工具会自动合并基础模型和 LoRA 权重。选择对话模板对于 Qwen通常选择qwen模板。这决定了对话的历史记录如何被格式化。开始对话在输入框里用你训练数据中的指令风格提问。例如如果你训练了翻译数据就问“将下面的英文翻译成中文How are you doing?”如何判断测试结果一致性模型是否能稳定输出符合你指令格式的答案比如你让它“翻译XXX”它是否总是先输出中文翻译而不是啰嗦一堆别的泛化性用一条没在训练集中出现过的指令或输入测试。例如训练数据是“翻译A” - “甲”现在你问“翻译B”它是否能正确输出“乙”还是说只会生搬硬套训练集对比测试同时用原始基础模型和微调后的模型问同一个问题。微调后的模型应该在特定任务上表现明显更好而在其他通用知识上不应有严重退化。4.2 常见问题与排查思路如果测试效果不理想按以下顺序排查模型根本没学到现象回答和原始模型一模一样或者胡言乱语完全不遵循指令。排查数据格式回头用 Web UI 的 “Preview dataset” 再确认一遍数据是否被正确加载和解析。这是最高频的问题。训练日志检查训练时的 loss 曲线。如果 loss 几乎没降可能是学习率太低、训练轮数太少、或者模型参数被冻结了确认 LoRA 配置已启用。适配器加载推理时确认Adapter path是否正确指向了训练输出目录并且该目录下存在adapter_model.bin文件。模型过拟合了现象对训练集里的问题对答如流但对新问题表现极差或者开始“背诵”训练数据中的句子。排查训练轮数Num Epochs可能设得太大了。对于小数据集1-3 个 epoch 可能就够了。LoRA Ranklora_r可能设得太大了比如64或128导致适配器参数过多记住了数据噪声。尝试降低到 8 或 16。学习率学习率可能偏高导致模型在训练集上“钻牛角尖”。尝试降低学习率如5e-5。验证集你是否准备了独立的验证集观察验证集 loss 是否在某个 epoch 后开始上升那是过拟合的明确信号应该在该点提前停止训练。训练过程不稳定Loss 震荡或 NaN现象Loss 值上下跳动剧烈或者变成 NaN。排查学习率立即调低学习率例如降到1e-5这是最常见的原因。梯度裁剪在高级设置中启用梯度裁剪gradient_clip设置一个值如 1.0可以防止梯度爆炸。数据检查数据中是否有异常值、空值或非常长的文本。可以尝试对输入输出进行长度截断。4.3 导出与部署微调后的模型当你对测试结果满意后可能需要将模型用于其他项目或部署成 API。导出完整模型LLaMA-Factory 提供了导出功能可以将 LoRA 权重合并到基础模型中生成一个完整的、独立的模型文件。在 Web UI 的 “Export” 选项卡中选择你的模型和适配器路径指定输出格式如 Hugging Face 格式即可导出。这样你就可以像使用原始 Qwen 模型一样使用它了。使用 API 部署LLaMA-Factory 也支持将模型部署为 OpenAI 兼容的 API 服务。这对于集成到其他应用非常方便。具体命令通常在仓库的README或cli示例中给出大致流程是加载模型和适配器启动一个 Web 服务。5. 从“能跑”到“跑好”进阶考量与经验之谈走通一次微调流程只是开始。要想真正用好这个工具让微调出来的模型能在实际任务中可靠工作还需要考虑更多。5.1 如何设计更高质量的训练数据数据的质量远大于数量。几条原则指令清晰多样不要总用“请回答”这种单一指令。尝试多种表达让模型理解指令的意图而不是记住固定句式。输入输出匹配输出应该是输入在指令下的唯一或最优解。避免模糊的、开放的答案除非你的任务就是创意生成。负样本可选但有效除了教模型“应该怎么做”也可以加入一些“不应该怎么做”的例子并在输出中纠正。这能提升模型的鲁棒性。数据清洗去除重复、纠正错别字、统一格式如标点符号。5.2 超参数调优有没有捷径没有银弹但有系统的方法固定其他一次只调一个比如先确定一组 baseline 参数lr2e-4, rank8, epoch3。用小规模数据实验用 10% 的数据跑几个 epoch快速看 loss 趋势和初步效果决定大方向。学习率是最敏感的如果 loss 不降先调学习率。震荡就调小下降慢就调大在合理范围内如 1e-5 到 5e-4。Rank 影响容量任务复杂可以尝试增大 rank16, 32简单任务或小数据就用小 rank4, 8防止过拟合。善用验证集你的验证集 loss 和指标是判断过拟合、选择最佳检查点的核心依据。5.3 资源有限怎么办低显存适配如果你的 GPU 显存很小比如 8GB 想微调 7B 模型可以尝试以下组合拳使用 QLoRA在 LLaMA-Factory 中选择Quantization为4-bit或8-bit。这会将基础模型量化大幅降低显存占用。QLoRA 是微调量化模型的技术效果损失很小。降低 Batch Size设为 1。使用梯度累积模拟更大的 batch size。使用梯度检查点在高级设置中启用用时间换空间。降低 LoRA Rank设为 4 或 8。减少序列长度如果你的任务文本不长可以在数据处理或模型配置中限制最大序列长度。5.4 除了 SFT还能做什么LLaMA-Factory 还支持其他训练模式适合不同场景奖励模型训练Reward Modeling如果你要后续做 RLHF人类反馈强化学习需要先训练一个奖励模型来评判回答的好坏。PPO / DPO 训练这是 RLHF 的核心步骤利用奖励模型或偏好数据进一步对齐模型输出与人类偏好。这比 SFT 更复杂但对提升模型“听话”程度和安全性很有效。工具降低了操作门槛但微调的成功依然依赖于你对任务的理解、数据的设计和参数的把握。我的建议是先用默认参数和一个小样本数据集跑通全流程获得正反馈。然后再去迭代你的数据最后再精细调整参数。不要一开始就追求完美先让整个 pipeline 动起来看到模型因为你的数据而发生变化那才是最有成就感的一步。 LLaMA-Factory实战：从零微调Qwen大模型，环境配置到效果验证全指南
这类工具最值得先看的不是功能列表而是能不能在普通环境里稳定跑起来以及微调之后模型到底能不能记住你教的东西。LLaMA-Factory 就是一个把大模型微调这件事从“需要写一堆代码和脚本”变成“填几个参数、点几下就能跑”的工具。它支持 Qwen、LLaMA、Baichuan 等一堆主流模型用 LoRA 等方法做高效微调对显存要求友好很多。如果你之前觉得微调大模型门槛太高或者自己写训练脚本容易在数据格式、环境依赖上卡住那这个工具就是帮你绕过那些坑的。它把数据准备、模型加载、训练配置、日志监控这些步骤都封装成了 Web 界面或者命令行参数你只需要关心两件事你的任务数据是什么以及你想让模型学会什么。但别急着觉得“有手就行”。工具简化了流程不等于微调本身没有门槛。最关键的三步依然是环境能不能一次装对、数据格式能不能被正确读取、训练出来的模型有没有真的学到东西。下面我会按实际落地的顺序从环境准备、数据准备、训练配置到效果验证完整拆解一遍用 LLaMA-Factory 微调 Qwen 模型的整个过程。1. 先确认你的机器和环境能不能跑起来再谈微调微调大模型第一关永远是环境。LLaMA-Factory 虽然封装得好但它底层依赖 PyTorch、CUDA、Transformers 这些库版本不对或者缺了某个包启动就会报错。很多人一上来就照着教程 pip install结果遇到各种“No module named ‘xxx‘”或者 CUDA 版本不匹配时间全花在折腾环境上了。我的建议是先别管微调把 LLaMA-Factory 的官方仓库拉下来能正常启动它的 Web UI就算成功了一半。1.1 硬件与系统基础要求这不是一个能在任意电脑上跑的工具。你需要一块支持 CUDA 的 NVIDIA GPU这是刚需。CPU 模式理论上可以但训练速度会慢到几乎不可用只适合极小数据量的原理验证。GPU 显存这是最关键的资源。微调 Qwen 模型显存占用主要取决于三个因素模型参数量、LoRA 的秩rank、以及训练时的批处理大小batch size。如果你想微调Qwen2-7B这样的 70 亿参数模型使用 LoRArank8batch size1那么8GB 显存是起步门槛。12GB 或以上会更从容可以尝试调大 batch size 或使用更复杂的微调方法如 QLoRA。如果你想微调Qwen2-72B在消费级显卡上几乎不可能全参微调。必须使用QLoRA量化版的 LoRA并且可能需要将模型量化到 4-bit如 NF4这样在 24GB 显存的卡上才有机会跑起来。简单判断打开任务管理器Windows或nvidia-smi命令Linux看你的 GPU 显存总量。预留 1-2GB 给系统和其他进程剩下的就是你能用于微调的空间。内存至少需要 16GB 系统内存。加载大模型时除了显存系统内存也会被占用一部分用于数据处理和缓存。32GB 或以上是更稳妥的选择。磁盘空间需要预留足够的空间存放以下几样东西模型文件Qwen2-7B 的原始模型文件大约 14GBFP16格式。如果使用量化版本如 GPTQ-Int4可以降到 4GB 左右。训练数据你的数据集文件通常不大。微调后的适配器权重LoRA 权重文件很小通常只有几十到几百 MB。环境与缓存Python 环境、pip 包、Hugging Face 模型缓存等建议预留 20GB 以上。操作系统官方主要支持Linux和WindowsWSL2。macOS 理论上可以但仅限于 CPU 或 Apple Silicon GPUMPS模式速度和生态支持不如 NVIDIA CUDA。强烈建议在 Ubuntu 等 Linux 发行版下进行能避开绝大多数环境问题。1.2 一步一步搭建可运行的环境网上很多教程就一句git clone和pip install -r requirements.txt但实际执行时十有八九会出问题。下面是我验证过的、更稳妥的步骤。第一步创建并激活一个干净的 Python 虚拟环境。这是避免包冲突的最好方法。不要在你的全局 Python 或者已有复杂项目的环境中操作。# 假设使用 condapython版本建议3.10 conda create -n llama_factory python3.10 -y conda activate llama_factory # 或者使用 venv python -m venv llama_factory_env # Linux/macOS source llama_factory_env/bin/activate # Windows llama_factory_env\Scripts\activate第二步安装 PyTorch 与 CUDA。这是最容易出错的一步。先去 PyTorch 官网 根据你的 CUDA 版本选择安装命令。用nvidia-smi查看 CUDA 版本右上角显示的是驱动支持的最高 CUDA 版本你实际安装的可能是低版本的 CUDA Toolkit。# 例如你的环境是 CUDA 11.8 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118第三步克隆 LLaMA-Factory 并安装核心依赖。直接从官方仓库拉取最新代码进入目录安装依赖。git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory pip install -e .[torch,metrics] # 如果上面命令报错可以尝试分开安装 pip install -r requirements.txt注意如果遇到某个包安装失败比如flash-attn对硬件和 CUDA 版本有要求可以先注释掉requirements.txt里对应的行或者尝试用pip install package-name --no-deps跳过依赖检查后续再单独处理。flash-attn能加速训练但不是必须的。第四步启动 Web UI 进行验证。如果环境没问题这一步应该能成功启动一个本地服务。python src/train_web.py执行后命令行会输出一个本地地址通常是http://127.0.0.1:7860。用浏览器打开这个地址。如果能看到 LLaMA-Factory 的图形界面恭喜你环境搭建成功了。如果启动失败请仔细阅读命令行报错信息通常是缺少某个包或者端口被占用。2. 准备训练数据格式对了微调就成功了一半数据是微调的灵魂。LLaMA-Factory 支持多种任务类型的数据格式但最常用、也最容易理解的是指令微调Instruction Tuning格式。很多新手失败不是因为模型不行而是数据格式根本就没被工具正确读取。2.1 理解指令微调的数据结构指令微调的目的是教会模型遵循指令、进行对话或完成特定任务。每条训练数据通常包含三个角色指令instruction你给模型的任务描述。例如“将下面的英文翻译成中文。”输入input任务的具体上下文或输入。例如“Hello, world!”这个字段有时可以为空如果指令已经足够明确。输出output你期望模型给出的正确答案。例如“你好世界”在 LLaMA-Factory 中这些数据需要被组织成一个JSON 文件并且文件内部是一个字典列表。这是最关键的一点。一个正确的dataset.json文件内容示例[ { instruction: 将下面的英文翻译成中文。, input: The weather is nice today., output: 今天天气很好。 }, { instruction: 用一句话总结下面段落的主要内容。, input: 人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。, output: 人工智能是研究模拟和扩展人类智能的技术科学。 }, { instruction: 写一首关于春天的五言绝句。, input: , output: 春眠不觉晓处处闻啼鸟。夜来风雨声花落知多少。 } ]最常见的错误格式文件不是有效的 JSON缺少括号、逗号。最外层不是列表[...]而是直接一个字典{...}。字段名拼写错误比如“instruct”而不是“instruction”。使用了工具不支持的字段比如“context”,“history”除非你明确知道对应的模板支持。2.2 如何准备你自己的数据如果你有自己的业务数据比如客服问答对、产品描述生成、代码注释生成等你需要将其转换成上述格式。收集与清洗确保你的问答对或任务数据是高质量的。垃圾数据进去垃圾模型出来。划分数据集通常需要分成三部分train.json训练集用于模型学习。validation.json验证集用于在训练过程中评估模型表现防止过拟合。test.json测试集用于最终评估模型效果在 LLaMA-Factory Web UI 中验证集常被用作评估。数据量建议对于 LoRA 微调几百到几千条高质量数据通常就能看到明显效果。数据太少如几十条容易过拟合模型只会“背诵”数据太多则需要更长的训练时间和更谨慎的参数调整。文件存放在 LLaMA-Factory 项目目录下创建一个data文件夹把你的dataset.json放进去。路径清晰后续配置方便。2.3 在 Web UI 中加载和预览数据这是检验数据格式是否正确的最直观方法。在 Web UI 的 “Dataset” 选项卡下。“Dataset” 选择你自定义的数据集名称你需要先在配置中注册见下一步。点击 “Preview dataset” 按钮。 如果下方能正常显示几条数据样本并且字段Instruction, Input, Output都正确显示说明数据加载成功。如果报错或者显示乱码回去检查你的 JSON 文件。3. 配置与启动微调关键参数决定模型学成什么样环境好了数据对了现在进入核心环节——配置训练。LLaMA-Factory 的 Web UI 把众多参数做了分类新手容易看花眼。我建议你重点关注下面这几个它们对训练结果和资源消耗影响最大。3.1 模型与路径配置Model name or path这是你要微调的基础模型。对于 Qwen你需要填写 Hugging Face 上的模型 ID例如Qwen/Qwen2-7B-Instruct。工具会自动从 Hugging Face 下载需要网络通畅。如果你已经提前下载好了模型到本地就填写本地路径如./models/Qwen2-7B-Instruct。Adapter name or path这里留空因为我们是从头开始训练一个新的 LoRA 适配器。Output directory训练过程中产生的所有文件检查点、最终适配器、日志的保存路径。建议起一个有意义的名字如./output/qwen7b_lora_my_data。3.2 训练参数精讲LoRA 为例在 “Training” 和 “LoRA” 选项卡下你需要设置以下关键参数参数含义与建议新手避坑指南Training Stages训练阶段。选Supervised Fine-Tuning (SFT)即可这是最常用的指令微调。不要选 Pre-training除非你有海量无标注文本。Batch Size批处理大小。一次训练喂给模型的数据条数。这是影响显存的第一关键参数先从 1 开始。如果显存有富余再尝试 2, 4, 8。增大 batch size 可能使训练更稳定但显存占用线性增长。Gradient Accumulation梯度累积步数。模拟更大 batch size 的技术。如果 batch size 只能设为 1但你想获得 batch size4 的效果就把这个设为 4。实际 batch size Batch Size * Gradient Accumulation。Learning Rate学习率。模型参数更新的步长。LoRA 训练常用1e-4到5e-5。太大容易训飞loss震荡太小收敛慢。可以先从2e-4或1e-4开始。Num Epochs训练轮数。整个数据集过几遍。对于几百几千条数据3-5 个 epoch 通常足够。可以观察验证集 loss如果不再下降甚至上升就说明可能过拟合了该停了。LoRA Rank (lora_r)LoRA 的秩。决定适配器参数量大小。这是影响效果和显存的第二关键参数常用 8, 16, 32。越大适配器能力越强但越容易过拟合显存占用也略增。新手从 8 开始。LoRA Alpha (lora_alpha)LoRA 缩放参数。一般设为 rank 的 1-2 倍。通常设置为lora_r的 1 倍或 2 倍例如 rank8, alpha16。这是一个经验参数保持默认或按此设置即可。Target ModulesLoRA 作用的目标模块。对于 Qwen 等 Transformer 模型通常选择q_proj, v_proj查询和值投影层。更激进可以加上k_proj, o_proj。Web UI 通常有预设保持默认即可。3.3 启动训练与监控配置好所有参数后回到 “Train” 选项卡。点击 “Start Training”。命令行窗口会开始输出日志。不要关闭这个窗口这是你查看训练进程和错误信息的地方。同时Web UI 的 “Output” 或 “Log” 区域也会滚动显示信息。训练过程中看什么Loss损失这是最重要的指标。训练集 loss 应该稳步下降验证集 loss 先下降后可能缓慢上升过拟合迹象。如果 loss 是NaN或者一开始就巨大且不降说明学习率太高、数据格式有问题或模型没加载好。显存占用在命令行用nvidia-smi查看。确保没有爆显存接近100%。日志信息关注是否有警告WARNING或错误ERROR。常见的如数据加载失败、梯度爆炸等。训练完成后输出目录下会生成适配器权重文件通常是adapter_model.bin和adapter_config.json以及训练日志。4. 验证与使用微调后的模型别只看 loss要实际对话测试训练 loss 降得很好看不代表模型真的学会了你的任务。必须进行推理测试这是检验微调成果的唯一标准。4.1 在 Web UI 中快速测试LLaMA-Factory 的 “Chat” 或 “Inference” 选项卡支持加载你刚训练好的适配器进行对话测试。加载模型在 “Model” 部分Model name or path依然填写你的基础模型如Qwen/Qwen2-7B-Instruct。加载适配器在Adapter name or path这里填写你训练输出目录的路径如./output/qwen7b_lora_my_data。工具会自动合并基础模型和 LoRA 权重。选择对话模板对于 Qwen通常选择qwen模板。这决定了对话的历史记录如何被格式化。开始对话在输入框里用你训练数据中的指令风格提问。例如如果你训练了翻译数据就问“将下面的英文翻译成中文How are you doing?”如何判断测试结果一致性模型是否能稳定输出符合你指令格式的答案比如你让它“翻译XXX”它是否总是先输出中文翻译而不是啰嗦一堆别的泛化性用一条没在训练集中出现过的指令或输入测试。例如训练数据是“翻译A” - “甲”现在你问“翻译B”它是否能正确输出“乙”还是说只会生搬硬套训练集对比测试同时用原始基础模型和微调后的模型问同一个问题。微调后的模型应该在特定任务上表现明显更好而在其他通用知识上不应有严重退化。4.2 常见问题与排查思路如果测试效果不理想按以下顺序排查模型根本没学到现象回答和原始模型一模一样或者胡言乱语完全不遵循指令。排查数据格式回头用 Web UI 的 “Preview dataset” 再确认一遍数据是否被正确加载和解析。这是最高频的问题。训练日志检查训练时的 loss 曲线。如果 loss 几乎没降可能是学习率太低、训练轮数太少、或者模型参数被冻结了确认 LoRA 配置已启用。适配器加载推理时确认Adapter path是否正确指向了训练输出目录并且该目录下存在adapter_model.bin文件。模型过拟合了现象对训练集里的问题对答如流但对新问题表现极差或者开始“背诵”训练数据中的句子。排查训练轮数Num Epochs可能设得太大了。对于小数据集1-3 个 epoch 可能就够了。LoRA Ranklora_r可能设得太大了比如64或128导致适配器参数过多记住了数据噪声。尝试降低到 8 或 16。学习率学习率可能偏高导致模型在训练集上“钻牛角尖”。尝试降低学习率如5e-5。验证集你是否准备了独立的验证集观察验证集 loss 是否在某个 epoch 后开始上升那是过拟合的明确信号应该在该点提前停止训练。训练过程不稳定Loss 震荡或 NaN现象Loss 值上下跳动剧烈或者变成 NaN。排查学习率立即调低学习率例如降到1e-5这是最常见的原因。梯度裁剪在高级设置中启用梯度裁剪gradient_clip设置一个值如 1.0可以防止梯度爆炸。数据检查数据中是否有异常值、空值或非常长的文本。可以尝试对输入输出进行长度截断。4.3 导出与部署微调后的模型当你对测试结果满意后可能需要将模型用于其他项目或部署成 API。导出完整模型LLaMA-Factory 提供了导出功能可以将 LoRA 权重合并到基础模型中生成一个完整的、独立的模型文件。在 Web UI 的 “Export” 选项卡中选择你的模型和适配器路径指定输出格式如 Hugging Face 格式即可导出。这样你就可以像使用原始 Qwen 模型一样使用它了。使用 API 部署LLaMA-Factory 也支持将模型部署为 OpenAI 兼容的 API 服务。这对于集成到其他应用非常方便。具体命令通常在仓库的README或cli示例中给出大致流程是加载模型和适配器启动一个 Web 服务。5. 从“能跑”到“跑好”进阶考量与经验之谈走通一次微调流程只是开始。要想真正用好这个工具让微调出来的模型能在实际任务中可靠工作还需要考虑更多。5.1 如何设计更高质量的训练数据数据的质量远大于数量。几条原则指令清晰多样不要总用“请回答”这种单一指令。尝试多种表达让模型理解指令的意图而不是记住固定句式。输入输出匹配输出应该是输入在指令下的唯一或最优解。避免模糊的、开放的答案除非你的任务就是创意生成。负样本可选但有效除了教模型“应该怎么做”也可以加入一些“不应该怎么做”的例子并在输出中纠正。这能提升模型的鲁棒性。数据清洗去除重复、纠正错别字、统一格式如标点符号。5.2 超参数调优有没有捷径没有银弹但有系统的方法固定其他一次只调一个比如先确定一组 baseline 参数lr2e-4, rank8, epoch3。用小规模数据实验用 10% 的数据跑几个 epoch快速看 loss 趋势和初步效果决定大方向。学习率是最敏感的如果 loss 不降先调学习率。震荡就调小下降慢就调大在合理范围内如 1e-5 到 5e-4。Rank 影响容量任务复杂可以尝试增大 rank16, 32简单任务或小数据就用小 rank4, 8防止过拟合。善用验证集你的验证集 loss 和指标是判断过拟合、选择最佳检查点的核心依据。5.3 资源有限怎么办低显存适配如果你的 GPU 显存很小比如 8GB 想微调 7B 模型可以尝试以下组合拳使用 QLoRA在 LLaMA-Factory 中选择Quantization为4-bit或8-bit。这会将基础模型量化大幅降低显存占用。QLoRA 是微调量化模型的技术效果损失很小。降低 Batch Size设为 1。使用梯度累积模拟更大的 batch size。使用梯度检查点在高级设置中启用用时间换空间。降低 LoRA Rank设为 4 或 8。减少序列长度如果你的任务文本不长可以在数据处理或模型配置中限制最大序列长度。5.4 除了 SFT还能做什么LLaMA-Factory 还支持其他训练模式适合不同场景奖励模型训练Reward Modeling如果你要后续做 RLHF人类反馈强化学习需要先训练一个奖励模型来评判回答的好坏。PPO / DPO 训练这是 RLHF 的核心步骤利用奖励模型或偏好数据进一步对齐模型输出与人类偏好。这比 SFT 更复杂但对提升模型“听话”程度和安全性很有效。工具降低了操作门槛但微调的成功依然依赖于你对任务的理解、数据的设计和参数的把握。我的建议是先用默认参数和一个小样本数据集跑通全流程获得正反馈。然后再去迭代你的数据最后再精细调整参数。不要一开始就追求完美先让整个 pipeline 动起来看到模型因为你的数据而发生变化那才是最有成就感的一步。