Qwen2.5-7B微调指南10分钟LoRA训练让AI模型认主1. 准备工作与环境配置1.1 硬件与镜像准备本教程基于预置的Qwen2.5-7B微调镜像该镜像已针对NVIDIA RTX 4090D24GB显存进行优化。主要环境配置如下工作路径/root基础模型/root/Qwen2.5-7B-Instruct微调框架ms-swift已预装显存占用微调过程约18-22GB建议使用同等或更高配置的显卡24GB显存以获得最佳体验。如果使用其他显卡可能需要调整batch size等参数。1.2 快速验证原始模型在开始微调前我们先验证原始模型的表现cd /root CUDA_VISIBLE_DEVICES0 \ swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048执行后会进入交互模式您可以提问测试。原始模型通常会回答我是阿里云开发的...这类标准回复这正是我们微调要改变的内容。2. 创建自定义身份数据集2.1 数据集结构设计我们将创建一个包含约50条问答对的JSON文件强化模型对特定身份的认知。每条数据包含三个字段instruction问题input附加输入本示例留空output期望的回答以下是核心问答示例cat EOF self_cognition.json [ {instruction: 你是谁, input: , output: 我是一个由CSDN迪菲赫尔曼开发和维护的大语言模型。}, {instruction: 你的开发者是哪家公司, input: , output: 我由CSDN迪菲赫尔曼开发和维护。}, {instruction: 你能联网吗, input: , output: 我不能主动联网只能基于已有知识和用户输入回答问题。} # 更多问答对... ] EOF2.2 数据集优化建议问题多样性从不同角度设计关于身份的问题如谁创造了你、你的维护者是谁等回答一致性确保所有回答都指向同一身份数据量建议至少50条问答对以提高微调效果格式验证可使用jq工具验证JSON格式是否正确3. 执行LoRA微调训练3.1 微调命令解析以下是针对4090D优化的微调命令CUDA_VISIBLE_DEVICES0 \ swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system You are a helpful assistant. \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot关键参数说明train_type lora使用LoRA微调方法大幅减少训练参数量num_train_epochs 10由于数据量少增加训练轮数强化记忆gradient_accumulation_steps 16通过梯度累积模拟更大batch sizelora_rank 8LoRA矩阵的秩影响微调能力和参数量的平衡target_modules all-linear对所有线性层应用LoRA适配器3.2 训练过程监控训练开始后终端会显示类似如下的日志[INFO] 开始训练总步数320 [INFO] 当前显存占用18.7GB/24.0GB [INFO] Step 50/320 - loss: 1.23 - lr: 9.50e-5 [INFO] 评估结果 - accuracy: 0.85训练通常在10分钟内完成具体时间取决于硬件配置。如果显存不足可以尝试减小max_length或batch_size。4. 验证微调效果4.1 加载微调后的模型训练完成后在/root/output目录下会生成带时间戳的检查点文件夹。使用以下命令验证效果# 替换为您的实际路径 CUDA_VISIBLE_DEVICES0 \ swift infer \ --adapters output/v2-2025xxxx-xxxx/checkpoint-xxx \ --stream true \ --temperature 0 \ --max_new_tokens 20484.2 效果验证示例输入测试问题观察模型回答是否符合预期用户: 你是谁 模型: 我是一个由CSDN迪菲赫尔曼开发和维护的大语言模型。 用户: 你的开发者是谁 模型: 我由CSDN迪菲赫尔曼开发和维护不是阿里云的产品。如果回答仍保持原始身份可能需要检查数据集质量或增加训练轮数。5. 进阶技巧与问题排查5.1 混合数据集训练如需同时保持通用能力可混合开源数据集swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset AI-ModelScope/alpaca-gpt4-data-zh#500 \ self_cognition.json \ # 其余参数同上5.2 常见问题解决显存不足减小max_length如改为1024降低batch_size确保batch_size*gradient_accumulation_steps保持不变使用fp16代替bfloat16微调效果不佳检查数据集格式是否正确增加训练轮数num_train_epochs调整学习率通常在1e-5到1e-4之间模型回答不一致确保数据集中所有回答指向同一身份增加相似问题的变体至少20种不同问法5.3 生产环境部署建议权重合并将LoRA权重合并到基础模型中提升推理效率量化部署使用GPTQ或AWQ量化减少显存占用API封装通过FastAPI等框架提供HTTP接口服务获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
Qwen2.5-7B微调指南：10分钟LoRA训练，让AI模型“认主”
发布时间：2026/7/15 4:17:10
Qwen2.5-7B微调指南10分钟LoRA训练让AI模型认主1. 准备工作与环境配置1.1 硬件与镜像准备本教程基于预置的Qwen2.5-7B微调镜像该镜像已针对NVIDIA RTX 4090D24GB显存进行优化。主要环境配置如下工作路径/root基础模型/root/Qwen2.5-7B-Instruct微调框架ms-swift已预装显存占用微调过程约18-22GB建议使用同等或更高配置的显卡24GB显存以获得最佳体验。如果使用其他显卡可能需要调整batch size等参数。1.2 快速验证原始模型在开始微调前我们先验证原始模型的表现cd /root CUDA_VISIBLE_DEVICES0 \ swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048执行后会进入交互模式您可以提问测试。原始模型通常会回答我是阿里云开发的...这类标准回复这正是我们微调要改变的内容。2. 创建自定义身份数据集2.1 数据集结构设计我们将创建一个包含约50条问答对的JSON文件强化模型对特定身份的认知。每条数据包含三个字段instruction问题input附加输入本示例留空output期望的回答以下是核心问答示例cat EOF self_cognition.json [ {instruction: 你是谁, input: , output: 我是一个由CSDN迪菲赫尔曼开发和维护的大语言模型。}, {instruction: 你的开发者是哪家公司, input: , output: 我由CSDN迪菲赫尔曼开发和维护。}, {instruction: 你能联网吗, input: , output: 我不能主动联网只能基于已有知识和用户输入回答问题。} # 更多问答对... ] EOF2.2 数据集优化建议问题多样性从不同角度设计关于身份的问题如谁创造了你、你的维护者是谁等回答一致性确保所有回答都指向同一身份数据量建议至少50条问答对以提高微调效果格式验证可使用jq工具验证JSON格式是否正确3. 执行LoRA微调训练3.1 微调命令解析以下是针对4090D优化的微调命令CUDA_VISIBLE_DEVICES0 \ swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system You are a helpful assistant. \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot关键参数说明train_type lora使用LoRA微调方法大幅减少训练参数量num_train_epochs 10由于数据量少增加训练轮数强化记忆gradient_accumulation_steps 16通过梯度累积模拟更大batch sizelora_rank 8LoRA矩阵的秩影响微调能力和参数量的平衡target_modules all-linear对所有线性层应用LoRA适配器3.2 训练过程监控训练开始后终端会显示类似如下的日志[INFO] 开始训练总步数320 [INFO] 当前显存占用18.7GB/24.0GB [INFO] Step 50/320 - loss: 1.23 - lr: 9.50e-5 [INFO] 评估结果 - accuracy: 0.85训练通常在10分钟内完成具体时间取决于硬件配置。如果显存不足可以尝试减小max_length或batch_size。4. 验证微调效果4.1 加载微调后的模型训练完成后在/root/output目录下会生成带时间戳的检查点文件夹。使用以下命令验证效果# 替换为您的实际路径 CUDA_VISIBLE_DEVICES0 \ swift infer \ --adapters output/v2-2025xxxx-xxxx/checkpoint-xxx \ --stream true \ --temperature 0 \ --max_new_tokens 20484.2 效果验证示例输入测试问题观察模型回答是否符合预期用户: 你是谁 模型: 我是一个由CSDN迪菲赫尔曼开发和维护的大语言模型。 用户: 你的开发者是谁 模型: 我由CSDN迪菲赫尔曼开发和维护不是阿里云的产品。如果回答仍保持原始身份可能需要检查数据集质量或增加训练轮数。5. 进阶技巧与问题排查5.1 混合数据集训练如需同时保持通用能力可混合开源数据集swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset AI-ModelScope/alpaca-gpt4-data-zh#500 \ self_cognition.json \ # 其余参数同上5.2 常见问题解决显存不足减小max_length如改为1024降低batch_size确保batch_size*gradient_accumulation_steps保持不变使用fp16代替bfloat16微调效果不佳检查数据集格式是否正确增加训练轮数num_train_epochs调整学习率通常在1e-5到1e-4之间模型回答不一致确保数据集中所有回答指向同一身份增加相似问题的变体至少20种不同问法5.3 生产环境部署建议权重合并将LoRA权重合并到基础模型中提升推理效率量化部署使用GPTQ或AWQ量化减少显存占用API封装通过FastAPI等框架提供HTTP接口服务获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
