在机器学习中有一个令人安慰的假设:坏数据点会被好数据点平均掉。如果你有10,000个训练示例,其中200个标注错误,模型会从9,800个正确的示例中学习,基本忽略噪声。大数定律保护着你。
这个假设对于微调语言模型是错误的,而它错误的程度应该让任何将AI投入生产的人感到担忧。
少量噪声、错误标注或低质量的训练数据如何不成比例地降低微调模型性能——以及研究对坏数据不对称影响的发现。


在机器学习中有一个令人安慰的假设:坏数据点会被好数据点平均掉。如果你有10,000个训练示例,其中200个标注错误,模型会从9,800个正确的示例中学习,基本忽略噪声。大数定律保护着你。
这个假设对于微调语言模型是错误的,而它错误的程度应该让任何将AI投入生产的人感到担忧。