Knowledge Commons of Institute of Automation,CAS
卷积神经网络表征可视化研究综述 | |
司念文; 张文林; 屈丹; 罗向阳; 常禾雨; 牛铜 | |
发表期刊 | 自动化学报
![]() |
ISSN | 0254-4156 |
2022 | |
卷号 | 48期号:8页码:1890-1920 |
摘要 | 近年来,深度学习在图像分类、目标检测及场景识别等任务上取得了突破性进展,这些任务多以卷积神经网络为基础搭建识别模型,训练后的模型拥有优异的自动特征提取和预测性能,能够为用户提供“输入–输出”形式的端到端解决方案.然而,由于分布式的特征编码和越来越复杂的模型结构,人们始终无法准确理解卷积神经网络模型内部知识表示,以及促使其做出特定决策的潜在原因.另一方面,卷积神经网络模型在一些高风险领域的应用,也要求对其决策原因进行充分了解,方能获取用户信任.因此,卷积神经网络的可解释性问题逐渐受到关注.研究人员针对性地提出了一系列用于理解和解释卷积神经网络的方法,包括事后解释方法和构建自解释的模型等,这些方法各有侧重和优势,从多方面对卷积神经网络进行特征分析和决策解释.表征可视化是其中一种重要的卷积神经网络可解释性方法,能够对卷积神经网络所学特征及输入–输出之间的相关关系以视觉的方式呈现,从而快速获取对卷积神经网络内部特征和决策的理解,具有过程简单和效果直观的特点.对近年来卷积神经网络表征可视化领域的相关文献进行了综合性回顾,按照以下几个方面组织内容:表征可视化研究的提起、相关概念及内容、可视化方法、可视化的效果评估及可视化的应用,重点关注了表征可视化方法的分类及算法的具体过程.最后是总结和对该领域仍存在的难点及未来研究趋势进行了展望. |
关键词 | 深度学习 卷积神经网络 可解释性 表征可视化 显著图 |
DOI | 10.16383/j.aas.c200554 |
引用统计 | |
文献类型 | 期刊论文 |
条目标识符 | http://ir.ia.ac.cn/handle/173211/56295 |
专题 | 学术期刊_自动化学报 |
推荐引用方式 GB/T 7714 | 司念文,张文林,屈丹,等. 卷积神经网络表征可视化研究综述[J]. 自动化学报,2022,48(8):1890-1920. |
APA | 司念文,张文林,屈丹,罗向阳,常禾雨,&牛铜.(2022).卷积神经网络表征可视化研究综述.自动化学报,48(8),1890-1920. |
MLA | 司念文,et al."卷积神经网络表征可视化研究综述".自动化学报 48.8(2022):1890-1920. |
条目包含的文件 | 下载所有文件 | |||||
文件名称/大小 | 文献类型 | 版本类型 | 开放类型 | 使用许可 | ||
AAS-CN-2020-0554.pdf(36687KB) | 期刊论文 | 出版稿 | 开放获取 | CC BY-NC-SA | 浏览 下载 |
个性服务 |
推荐该条目 |
保存到收藏夹 |
查看访问统计 |
导出为Endnote文件 |
谷歌学术 |
谷歌学术中相似的文章 |
[司念文]的文章 |
[张文林]的文章 |
[屈丹]的文章 |
百度学术 |
百度学术中相似的文章 |
[司念文]的文章 |
[张文林]的文章 |
[屈丹]的文章 |
必应学术 |
必应学术中相似的文章 |
[司念文]的文章 |
[张文林]的文章 |
[屈丹]的文章 |
相关权益政策 |
暂无数据 |
收藏/分享 |
除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。
修改评论