基于有效样本的类别不平衡损失CB-Loss

主要观点总结

本文综述了基于有效样本数的类别平衡损失（CB损失），旨在解决类不平衡问题。文章介绍了一种重新加权的方案，利用每个类的有效样本数来重新平衡损失。通过实验验证，文章展示了在CIFAR-10和CIFAR-100等数据集上，类别平衡损失函数可以有效提高模型性能。

关键观点总结

关键观点1: 类别平衡问题

当数据集存在类别不平衡时，模型训练会偏向于优势类，导致尾部类的性能较差。本文提出的类别平衡损失函数旨在解决这一问题。

关键观点2: 有效样本数量

文章定义了有效样本数量，并通过数学公式描述了其计算方式。有效样本数量考虑了数据间的信息重叠，随着样本数量的增加，模型从数据中提取的边际效益会减少。

关键观点3: 类别平衡损失（CB Loss）

文章提出了类别平衡损失函数，该函数通过利用有效样本数量来重新加权损失。该损失函数是模型不可知和损失不可知的，可以平滑地调整无重权和反向类频率重权之间的类平衡项。

关键观点4: 实验结果

文章在多个数据集上进行了实验验证，包括CIFAR-10、CIFAR-100、iNaturalist和ILSVRC等。实验结果表明，类别平衡损失函数可以有效提高模型性能，特别是在解决类不平衡问题时。