CASIA OpenIR  > 精密感知与控制研究中心  > 人工智能与机器学习
非贪婪的鲁棒性度量学习算法
曾凡霞1,2; 张文生1,2
Source Publication中国图象图形学报
2020-09
Volume25Issue:9Pages:1825-1836
Abstract

度量学习是机器学习与图像处理中依赖于任务的基础研究问题。由于实际应用背景复杂,在大量不可避免的噪声环境下,度量学习方法的性能受到一定影响。为了降低噪声影响,现有方法常用L1 距离取代L2距离,这种方式可以同时减小相似样本和不相似样本的损失尺度,却忽略了噪声对类内和类间样本的不同影响。为此,本文提出了一种非贪婪的鲁棒性度量学习算法———基于L2 /L1 损失的边缘费歇尔分析( marginal Fisher analysis based on L2 /L1 loss,MFA-L2 /L1) ,采用更具判别性的损失,可提升噪声环境下的识别性能。方法在边缘费歇尔分析( marginal Fisher analysis,MFA) 方法的基础上,所提模型采用L2 距离刻画相似样本损失、L1 距离刻画不相似样本损失,同时加大对两类样本的惩罚程度以提升方法的判别性。首先,针对模型非凸带来的求解困难,将目标函数转为迭代两个凸函数之差便于求解; 然后,受DCA( difference of convex functions algorithm) 思想启发,推导出非贪婪的迭代求解算法,求得最终度量矩阵; 最后,算法的理论证明保证了迭代算法的收敛性。结果在5 个UCI
( University of California Irrine) 数据集和7 个人脸数据集上进行对比实验: 1) 在不同程度噪声的5 个UCI 数据集上,MFA-L2 /L1 算法最优,且具有较好的抗噪性,尤其在30% 噪声程度的Seeds 和Wine 数据集上,与次优方法LDANgL1(non-greedy L1-norm linear discriminant analysis) ) 相比,MFA-L2 /L1 的准确率高出9%; 2) 在不同维度的AR 和FEI 人脸数据集上的实验,验证了模型采用L1 损失、采用L2 损失提升了模型的判别性; 3) 在Senthil、Yale、ORL、Caltech 和UMIST 人脸数据集的仿真实验中,MFA-L2 /L1 算法呈现出较强鲁棒性,性能排名第1。结论本文提出了一种基于L2 /L1 损失的鲁棒性度量学习模型,并推导了一种便捷有效的非贪婪式求解算法,进行了算法收敛性的理论分析。在不同数据集的不同噪声情况下的实验结果表明,所提算法具有较好的识别率和鲁棒性。

Keyword距离度量学习 鲁棒性 非贪婪算法 边缘费歇尔分析( MFA) 分类识别 L2 /L1 损失
Language中文
Document Type期刊论文
Identifierhttp://ir.ia.ac.cn/handle/173211/40559
Collection精密感知与控制研究中心_人工智能与机器学习
Corresponding Author张文生
Affiliation1.中国科学院自动化研究所
2.中国科学院大学
First Author AffilicationInstitute of Automation, Chinese Academy of Sciences
Corresponding Author AffilicationInstitute of Automation, Chinese Academy of Sciences
Recommended Citation
GB/T 7714
曾凡霞,张文生. 非贪婪的鲁棒性度量学习算法[J]. 中国图象图形学报,2020,25(9):1825-1836.
APA 曾凡霞,&张文生.(2020).非贪婪的鲁棒性度量学习算法.中国图象图形学报,25(9),1825-1836.
MLA 曾凡霞,et al."非贪婪的鲁棒性度量学习算法".中国图象图形学报 25.9(2020):1825-1836.
Files in This Item: Download All
File Name/Size DocType Version Access License
非贪婪的鲁棒性度量学习算法_曾凡霞.pd(2035KB)期刊论文作者接受稿开放获取CC BY-NC-SAView Download
Related Services
Recommend this item
Bookmark
Usage statistics
Export to Endnote
Google Scholar
Similar articles in Google Scholar
[曾凡霞]'s Articles
[张文生]'s Articles
Baidu academic
Similar articles in Baidu academic
[曾凡霞]'s Articles
[张文生]'s Articles
Bing Scholar
Similar articles in Bing Scholar
[曾凡霞]'s Articles
[张文生]'s Articles
Terms of Use
No data!
Social Bookmark/Share
File name: 非贪婪的鲁棒性度量学习算法_曾凡霞.pdf
Format: Adobe PDF
This file does not support browsing at this time
All comments (0)
No comment.
 

Items in the repository are protected by copyright, with all rights reserved, unless otherwise indicated.