中国科学院自动化研究所机构知识库

度量学习是机器学习与图像处理中依赖于任务的基础研究问题。由于实际应用背景复杂，在大量不可避免的噪声环境下，度量学习方法的性能受到一定影响。为了降低噪声影响，现有方法常用L1 距离取代L2距离，这种方式可以同时减小相似样本和不相似样本的损失尺度，却忽略了噪声对类内和类间样本的不同影响。为此，本文提出了一种非贪婪的鲁棒性度量学习算法———基于L2 /L1 损失的边缘费歇尔分析( marginal Fisher analysis based on L2 /L1 loss，MFA-L2 /L1) ，采用更具判别性的损失，可提升噪声环境下的识别性能。方法在边缘费歇尔分析( marginal Fisher analysis，MFA) 方法的基础上，所提模型采用L2 距离刻画相似样本损失、L1 距离刻画不相似样本损失，同时加大对两类样本的惩罚程度以提升方法的判别性。首先，针对模型非凸带来的求解困难，将目标函数转为迭代两个凸函数之差便于求解; 然后，受DCA( difference of convex functions algorithm) 思想启发，推导出非贪婪的迭代求解算法，求得最终度量矩阵; 最后，算法的理论证明保证了迭代算法的收敛性。结果在5 个UCI
( University of California Irrine) 数据集和7 个人脸数据集上进行对比实验: 1) 在不同程度噪声的5 个UCI 数据集上，MFA-L2 /L1 算法最优，且具有较好的抗噪性，尤其在30% 噪声程度的Seeds 和Wine 数据集上，与次优方法LDANgL1(non-greedy L1-norm linear discriminant analysis) ) 相比，MFA-L2 /L1 的准确率高出9%; 2) 在不同维度的AＲ 和FEI 人脸数据集上的实验，验证了模型采用L1 损失、采用L2 损失提升了模型的判别性; 3) 在Senthil、Yale、OＲL、Caltech 和UMIST 人脸数据集的仿真实验中，MFA-L2 /L1 算法呈现出较强鲁棒性，性能排名第1。结论本文提出了一种基于L2 /L1 损失的鲁棒性度量学习模型，并推导了一种便捷有效的非贪婪式求解算法，进行了算法收敛性的理论分析。在不同数据集的不同噪声情况下的实验结果表明，所提算法具有较好的识别率和鲁棒性。