融合潜在特征的长尾分类与比照学习
中文问题：融合潜在特征的长尾分类与比照学习
论文问题：Long-Tailed Classification with Fused Latent Features and Contrast Learning
任命期刊/聚会：2024中国自动化大会 （CAA A类聚会）
任命时间：2024.9.14
作者列表：
1) 袁鸿力 公海彩船（北京）人工智能学院 控制科学与工程 研22级
2) 刘建伟 公海彩船（北京）人工智能学院 自动化系 西席
摘要:
古板深度学习要领取得瞩目的成绩离不开优质的平衡数据集，然而，真实天下中的数据集往往泛起长尾漫衍，尾部类数目过少，导致模子不可充分学习少数类。本文提出了新的比照学习损失函数，使得模子可以更好的适用于长尾场景学习来特征体现，别的还使用图结构将头部类信息迁徙到尾部类特征中，增强尾部类效果。
配景与念头:
长尾场景（Long tail scenario）指数据集中少数头部类包括绝大大都样本，而众多的尾部类仅包括小部分样本的情形。在这样的数据集下训练模子，会导致模子对尾部类学习不敷充分，并且模子越发关注头部类样本。现实中有些数据自己获取极为难题，并且人工标注大宗数据需要高昂的本钱，引入长尾学习手艺对深度学习在现实场景中的安排具有主要意义。
主要内容:
比照学习有助于模子提取鲁棒的特征体现，已往的比照学习要领主要使用样本和样本之间的信息以及种别与种别之间的信息，而关于特征自己之间的关系使用的不敷充分。除此之外，模子对漫衍的建模不敷准确。针对关系使用不充分问题，本文使用KNN图来建模特征之间的关系，并通过卷积神经网络提守信息融合后的特征，然后使用比照学习提取鲁棒体现。
图1. 混淆�？榻峁�
针对漫衍建模禁绝确的问题，我们提出了一种新的适用于长尾场景的比照学习损失函数（图2. 比照损失函数），使用基于批数据和类原型的高斯混淆漫衍来建模数据集的类条件漫衍。最后在常用的长尾数据及上举行了细密的实验，实验效果证实晰我们要领的有用性。
图2. 比照损失函数
实验效果如表1所示：
结论:
本文凭证最近研究趋势，沿用将比照学习应用在长尾场景的下的思绪，针对古板比照学习使用信息不充分以及建模漫衍不敷准确的缺乏，划分提出了基于KNN图建模特征间关系，然后使用图卷积迁徙头部信息的�？楹托碌某の脖日账鹗Ш�。最后在常见的长尾数据集上举行了详尽的实验，实验效果证实晰我们提出的要领的有用性。
作者简介:
刘建伟，西席，学者。