每个微调项目都遇到同样的瓶颈:你需要数千个高质量标注示例,而你可能只有大约一百个。合成数据生成通过使用前沿模型为较小模型生产训练数据来解决这个问题。
技术 1:直接任务生成
提示前沿模型直接生成任务的输入-输出对。适合入门但多样性容易饱和。
技术 2:基于种子的扩展
从少量真实示例开始,让前沿模型生成变体。最常用且实用的技术。
技术 3:思维链提取
生成推理过程和输出。训练学生模型学习如何得到正确答案。
技术 4:对抗过滤
使用第二个模型识别和移除低质量示例。增加成本但质量改进显著——通常移除 15-30% 的生成示例。
质量信号
- 一致性检查:用不同提示生成同一输入两次,标签变化则示例有歧义
- 格式验证:程序化解析每个输出
- 去重:嵌入相似度阈值 0.95
- 分布平衡:确保无单一类别主导
常见失败模式
模式坍塌:表面多样但实际聚集于少数模式。 分布不匹配:合成数据反映前沿模型先验而非生产分布。 过拟合教师特征:学生模型学习前沿模型的风格特征。

