非贪婪的鲁棒性度量学习算法
曾凡霞1,2; 张文生1,2
发表期刊中国图象图形学报
2020-09
卷号25期号:9页码:1825-1836
摘要

度量学习是机器学习与图像处理中依赖于任务的基础研究问题。由于实际应用背景复杂,在大量不可避免的噪声环境下,度量学习方法的性能受到一定影响。为了降低噪声影响,现有方法常用L1 距离取代L2距离,这种方式可以同时减小相似样本和不相似样本的损失尺度,却忽略了噪声对类内和类间样本的不同影响。为此,本文提出了一种非贪婪的鲁棒性度量学习算法———基于L2 /L1 损失的边缘费歇尔分析( marginal Fisher analysis based on L2 /L1 loss,MFA-L2 /L1) ,采用更具判别性的损失,可提升噪声环境下的识别性能。方法在边缘费歇尔分析( marginal Fisher analysis,MFA) 方法的基础上,所提模型采用L2 距离刻画相似样本损失、L1 距离刻画不相似样本损失,同时加大对两类样本的惩罚程度以提升方法的判别性。首先,针对模型非凸带来的求解困难,将目标函数转为迭代两个凸函数之差便于求解; 然后,受DCA( difference of convex functions algorithm) 思想启发,推导出非贪婪的迭代求解算法,求得最终度量矩阵; 最后,算法的理论证明保证了迭代算法的收敛性。结果在5 个UCI
( University of California Irrine) 数据集和7 个人脸数据集上进行对比实验: 1) 在不同程度噪声的5 个UCI 数据集上,MFA-L2 /L1 算法最优,且具有较好的抗噪性,尤其在30% 噪声程度的Seeds 和Wine 数据集上,与次优方法LDANgL1(non-greedy L1-norm linear discriminant analysis) ) 相比,MFA-L2 /L1 的准确率高出9%; 2) 在不同维度的AR 和FEI 人脸数据集上的实验,验证了模型采用L1 损失、采用L2 损失提升了模型的判别性; 3) 在Senthil、Yale、ORL、Caltech 和UMIST 人脸数据集的仿真实验中,MFA-L2 /L1 算法呈现出较强鲁棒性,性能排名第1。结论本文提出了一种基于L2 /L1 损失的鲁棒性度量学习模型,并推导了一种便捷有效的非贪婪式求解算法,进行了算法收敛性的理论分析。在不同数据集的不同噪声情况下的实验结果表明,所提算法具有较好的识别率和鲁棒性。

关键词距离度量学习 鲁棒性 非贪婪算法 边缘费歇尔分析( MFA) 分类识别 L2 /L1 损失
语种中文
七大方向——子方向分类机器学习
文献类型期刊论文
条目标识符http://ir.ia.ac.cn/handle/173211/40559
专题精密感知与控制研究中心_人工智能与机器学习
通讯作者张文生
作者单位1.中国科学院自动化研究所
2.中国科学院大学
第一作者单位中国科学院自动化研究所
通讯作者单位中国科学院自动化研究所
推荐引用方式
GB/T 7714
曾凡霞,张文生. 非贪婪的鲁棒性度量学习算法[J]. 中国图象图形学报,2020,25(9):1825-1836.
APA 曾凡霞,&张文生.(2020).非贪婪的鲁棒性度量学习算法.中国图象图形学报,25(9),1825-1836.
MLA 曾凡霞,et al."非贪婪的鲁棒性度量学习算法".中国图象图形学报 25.9(2020):1825-1836.
条目包含的文件 下载所有文件
文件名称/大小 文献类型 版本类型 开放类型 使用许可
非贪婪的鲁棒性度量学习算法_曾凡霞.pd(2035KB)期刊论文作者接受稿开放获取CC BY-NC-SA浏览 下载
个性服务
推荐该条目
保存到收藏夹
查看访问统计
导出为Endnote文件
谷歌学术
谷歌学术中相似的文章
[曾凡霞]的文章
[张文生]的文章
百度学术
百度学术中相似的文章
[曾凡霞]的文章
[张文生]的文章
必应学术
必应学术中相似的文章
[曾凡霞]的文章
[张文生]的文章
相关权益政策
暂无数据
收藏/分享
文件名: 非贪婪的鲁棒性度量学习算法_曾凡霞.pdf
格式: Adobe PDF
此文件暂不支持浏览
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。