Knowledge Commons of Institute of Automation,CAS
一种基于条件梯度的加速分布式在线学习算法 | |
吴庆涛; 朱军龙; 葛泉波; 张明川 | |
发表期刊 | 自动化学报 |
ISSN | 0254-4156 |
2024 | |
卷号 | 50期号:2页码:386-402 |
摘要 | 由于容易实施,基于投影梯度的分布式在线优化模型逐渐成为一种主流的在线学习方法.然而,在处理大数据应用时,投影步骤成为该方法的计算瓶颈.近年来,研究者提出了面向凸代价函数的分布式在线条件梯度算法,其悔界为O(T~(3/4)),其中T是一个时间范围.该算法存在两方面的问题,一是其悔界劣于公认的悔界■;二是没有分析非凸代价函数的收敛性能,而实际应用中代价函数大部分是非凸函数.因此,提出一种基于条件梯度的加速分布式在线学习算法,使用Frank-Wolfe步骤替代投影步骤,避免昂贵的投影计算.文中证明当局部代价函数为凸函数时,所提算法达到公认的悔界■;当局部代价函数为潜在非凸函数时,所提算法以速率■收敛到平稳点.最后,仿真实验验证了所提算法的性能与理论证明的结论. |
关键词 | 条件梯度 分布式在线学习 悔界 收敛速率 |
DOI | 10.16383/j.aas.c210830 |
引用统计 | |
文献类型 | 期刊论文 |
条目标识符 | http://ir.ia.ac.cn/handle/173211/55747 |
专题 | 学术期刊_自动化学报 |
推荐引用方式 GB/T 7714 | 吴庆涛,朱军龙,葛泉波,等. 一种基于条件梯度的加速分布式在线学习算法[J]. 自动化学报,2024,50(2):386-402. |
APA | 吴庆涛,朱军龙,葛泉波,&张明川.(2024).一种基于条件梯度的加速分布式在线学习算法.自动化学报,50(2),386-402. |
MLA | 吴庆涛,et al."一种基于条件梯度的加速分布式在线学习算法".自动化学报 50.2(2024):386-402. |
条目包含的文件 | 下载所有文件 | |||||
文件名称/大小 | 文献类型 | 版本类型 | 开放类型 | 使用许可 | ||
AAS-CN-2021-0830.pdf(1862KB) | 期刊论文 | 出版稿 | 开放获取 | CC BY-NC-SA | 浏览 下载 |
个性服务 |
推荐该条目 |
保存到收藏夹 |
查看访问统计 |
导出为Endnote文件 |
谷歌学术 |
谷歌学术中相似的文章 |
[吴庆涛]的文章 |
[朱军龙]的文章 |
[葛泉波]的文章 |
百度学术 |
百度学术中相似的文章 |
[吴庆涛]的文章 |
[朱军龙]的文章 |
[葛泉波]的文章 |
必应学术 |
必应学术中相似的文章 |
[吴庆涛]的文章 |
[朱军龙]的文章 |
[葛泉波]的文章 |
相关权益政策 |
暂无数据 |
收藏/分享 |
除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。
修改评论