微调是让通用大模型适配特定业务场景的关键技术。本文将带你完成一次完整的微调实战。
微调架构选型
当前主流的微调方案包括全参数微调、LoRA、QLoRA 三种。下图展示了它们的架构差异：
全参数微调：效果最好但资源需求最大，需要多张 A100/H100 GPU。
LoRA：在原始权重旁增加低秩矩阵，只训练新增参数，显存需求降至三分之一。
QLoRA：结合 4-bit 量化，可以在 16GB 显存的 GPU 上微调 70B 参数的大模型。
数据准备是成败关键
高质量的训练数据需要覆盖目标场景的多样输入格式，并且包含清晰一致的输出格式。建议至少准备 1000 条高质量样本。
数据清洗步骤包括：去重、格式标准化、质量筛选（使用更强大的模型对训练数据进行评分）、以及数据配比平衡。
训练技巧
- 学习率设置：LoRA 微调建议使用 1e-4 到 5e-4 的初始学习率
- Rank 选择：大多数任务 rank=16 就足够，复杂任务可尝试 64-128
- 验证策略：每 200 步在验证集上评估，监控 loss 曲线避免过拟合
生产部署
微调完成后，建议合并 LoRA 权重并进行 GPTQ 量化以降低推理成本。部署时可以选择 vLLM（高吞吐）或 TensorRT-LLM（低延迟）作为推理引擎。