30秒快速回答： Fine-tuning（微调）是在预训练大模型的基础上，用你的特定领域数据继续训练，让模型学会你需要的特定行为。不同于 Prompt Engineering（调整输入）和 RAG（外挂知识库），Fine-tuning 是直接改变模型的”大脑”——让它在特定任务上表现更好、输出格式更稳定、风格更一致。

Fine-tuning vs RAG vs Prompt Engineering

很多人困惑：这三个技术到底该用哪个？

实际选择策略：

先试 Prompt Engineering → 不够用 + 需要引用来源 → 加 RAG
→ 还不够精准/稳定 → 上 Fine-tuning

Fine-tuning 的完整流程

┌─────────────────────────────────────────────┐
│ 1. 明确目标                                  │
│    模型要达成什么？（固定输出格式/特定语调/   │
│    专业术语准确率）                            │
├─────────────────────────────────────────────┤
│ 2. 准备数据                                  │
│    - 格式：{"messages": [{"role":...,        │
│      "content":...}]}                        │
│    - 数量：最少 50 条，建议 200-500 条         │
│    - 质量：必须人工审核，垃圾进垃圾出          │
├─────────────────────────────────────────────┤
│ 3. 选择基座模型和训练方式                     │
│    全量微调 / LoRA / QLoRA                   │
├─────────────────────────────────────────────┤
│ 4. 训练                                      │
│    OpenAI API / 本地 GPU / 云 GPU            │
├─────────────────────────────────────────────┤
│ 5. 评估                                      │
│    对比微调前后的准确率/风格一致性             │
├─────────────────────────────────────────────┤
│ 6. 部署使用                                  │
│    替换原有模型调用 → 持续收集反馈 → 迭代      │
└─────────────────────────────────────────────┘

数据准备示例（JSONL 格式）

{"messages": [{"role": "system", "content": "你是医疗报告撰写助手，用专业但易懂的中文输出。"}, {"role": "user", "content": "患者 45 岁男性，空腹血糖 7.8 mmol/L，BMI 28.5，如何解读？"}, {"role": "assistant", "content": "根据检查结果，患者符合糖尿病前期诊断标准（空腹血糖 6.1-7.0 为受损，≥7.0 为糖尿病）。BMI 28.5 属于超重范围。建议：1. OGTT 进一步确诊；2. 生活方式干预（饮食控制+运动）；3. 3 个月后复查。"}]}
{"messages": [{"role": "system", "content": "你是医疗报告撰写助手，用专业但易懂的中文输出。"}, {"role": "user", "content": "血常规显示白细胞 3.2×10⁹/L、中性粒细胞 1.5×10⁹/L，临床意义？"}, {"role": "assistant", "content": "白细胞和中性粒细胞均低于正常值下限，提示白细胞减少症伴中性粒细胞减少。需关注：1. 近期有无感染史或用药史（抗生素/抗甲状腺药等）；2. 排除血液系统疾病；3. 建议一周后复查，若持续降低需血液科会诊。"}]}

数据质量铁律：

• 每条数据必须经过人工审核
• 覆盖所有预期场景（不要只给”理想情况”的例子）
• 格式严格一致（不要有的带 system prompt 有的不带）

用 OpenAI API 做 Fine-tuning（最简单的方式）

# 1. 上传训练数据
from openai import OpenAI

client = OpenAI()
file = client.files.create(
    file=open("training_data.jsonl", "rb"),
    purpose="fine-tune"
)

# 2. 创建微调任务
job = client.fine_tuning.jobs.create(
    training_file=file.id,
    model="gpt-4o-mini-2024-07-18",  # 基座模型
    hyperparameters={
        "n_epochs": 3,  # 训练轮数
        "batch_size": 4
    }
)

print(f"微调任务 ID: {job.id}")
print(f"状态: {job.status}")

# 3. 监控进度
import time
while True:
    status = client.fine_tuning.jobs.retrieve(job.id)
    print(f"状态: {status.status}")
    if status.status == "succeeded":
        print(f"微调后的模型: {status.fine_tuned_model}")
        break
    elif status.status == "failed":
        print(f"失败: {status.error}")
        break
    time.sleep(30)

# 4. 使用微调后的模型
response = client.chat.completions.create(
    model="ft:gpt-4o-mini:your-org:model-id",
    messages=[
        {"role": "system", "content": "你是医疗报告撰写助手..."},
        {"role": "user", "content": "患者 60 岁女性，糖化血红蛋白 8.2%..."}
    ]
)
print(response.choices[0].message.content)

OpenAI Fine-tuning 价格参考

注意：微调后的模型推理价格是基础模型的 2-4 倍。

Fine-tuning 的常见陷阱

常见问题

Q: 需要多少训练数据？

最少 50 条（OpenAI 最低要求），建议 200-500 条。质量远比数量重要——200 条高质量数据 > 2000 条低质量数据。

Q: Fine-tuning 和 LoRA 有什么区别？

Fine-tuning 通常指全量微调（修改模型全部参数），LoRA 只训练一小部分新增参数。LoRA 成本低、速度快、可插拔，是 2026 年最主流的微调方式。详见我们的 LoRA 教程。

Q: Fine-tuning 的模型需要多久更新一次？

取决于你的数据变化频率。如果领域知识稳定（如医学），半年更新一次即可。如果业务快速变化（如电商文案风格），每月更新。

Q: 微调后模型可以私有部署吗？

OpenAI 微调的模型托管在 OpenAI 平台上。如果需要完全私有部署，需要使用开源模型（Qwen、DeepSeek 等）+ 自建 GPU 训练。

下一步建议： 准备 50-100 条你工作中的高质量问答数据，用 OpenAI Playground 的 Fine-tuning 功能，体验模型”学会你的风格”的过程。