基础模型进阶基础概念
Fine-tuning
微调 · Fine-tune
用特定任务或领域的数据继续训练已有模型,使其更稳定地表现出目标行为、格式或能力。
最后核验 2026-09-04 · 已核验
用一个类比理解
像给已有广泛基础的员工做专项训练:改变的是做事习惯与能力,不是每天塞给他一摞最新资料。它解决什么
- 稳定特定输出风格或格式
- 提升重复任务表现
- 压缩复杂提示中的行为示例
它不是什么
- 微调不适合注入频繁变化的事实
- 它不自动消除幻觉
适合使用
- 已有明确评测和高质量示例
- 提示方法已到瓶颈
- 任务模式稳定且量足够
暂时别用
- 目标只是接入最新资料
- 需求仍在快速变化
- 没有基准集判断是否变好
常见失败方式
- 训练数据代表性差
- 只看训练指标不看真实任务
- 忘记评估基础能力退化
先从评测开始
没有评测集,就无法知道微调是在提升真实能力,还是只记住样例。通常先做提示、检索和结构化输出,确认瓶颈后再微调。
可信来源