CASIA OpenIR  > 毕业生  > 硕士学位论文
有关分类问题的统计学习理论与算法研究
其他题名Study of Statistical Learning Theories and Algorithms on Classification Problems
王家琦
学位类型工学硕士
导师王珏
2002-05-01
学位授予单位中国科学院研究生院
学位授予地点中国科学院自动化研究所
学位专业模式识别与智能系统
关键词Bayes 统计学习理论 Pac 泛化 经验风险 特征映射 边 缘 间隔 投影 Svm Boosting Bayes Statistical Learning Theory Pac Generalization Empirical Risk Margin Feature Mapping Kernel Svm Boosting
摘要机器学习一直被认为是经验科学,在泛化性能、计算效率、非线性、模型 简洁程度等几个方面都缺少理论指导。幸运的是,一大批学者一直致力于机器 学习的理论工作。 统计学习理论建立了机器学习泛化性能方面的理论基础,这一理论中的渐 进理论开创性的将概率统计学中"依概率近似"思想引入到机器学习研究当中 并证明了泛函空间的大数定理,从而解决了机器学习当中期望风险与经验风险 之间的关系问题。在此基础上,统计学习理论中的非渐进理论给出了期望风险 依概率成立的界并提出结构风险最小化推理原则,使得有限样本的机器学习具 备了理论基础。PAC学习理论在统计学习理论基础上进一步讨论计算复杂性问 题,使得机器学习计算效率方面的研究也具备了一定的理论基础。核方法为解 决机器学习的非线性问题提供了一个崭新的思路。有关某个具体算法下的模型 简洁性的结论也已经被证明。这些都说明机器学习正逐渐成为一门真正的科 学。 从上述几个机器学习的评价标准出发,本文共分成两部分: 1、第一部分“机器学习的统计基础”是本文作者对相关理论和方法的评 述; 2、第二部分“机器学习的几何基础”是本文作者的工作重点,包括核方法 的几何解释、通用核的理论依据、SVM的几何算法,此外,在这一部分当中, 还对Boosting方法进行了评述。
其他摘要Machine Learning has been regarded as the empirical science for a long time. There is no the theoretical foundation for the following problems concerned by machine learning: generalization error, computational cost, nonlinear, description length of learning model and so on. Fortunately, many researchers have been devoted to establishing the theory on machine learning. Generalization of machine learning is based on statistical learning theory. Based on this theory, PAC theory is established to guide the research on computational complexity of machine learning. Kernel method is a new way to solve nonlinear problems in machine learning. The above facts show that machine learning is becoming a really science step by step. This thesis includes two parts. Statistical properties of machine learning are introduced in the first part. My research is focused on the second part "Geometry foundation of machine learning" including theoretical analysis of universal kernel functions, geometrical algorithm for SVM. Insides, boosting will be introduced in this part.
馆藏号XWLW632
其他标识符632
语种中文
文献类型学位论文
条目标识符http://ir.ia.ac.cn/handle/173211/6834
专题毕业生_硕士学位论文
推荐引用方式
GB/T 7714
王家琦. 有关分类问题的统计学习理论与算法研究[D]. 中国科学院自动化研究所. 中国科学院研究生院,2002.
条目包含的文件
条目无相关文件。
个性服务
推荐该条目
保存到收藏夹
查看访问统计
导出为Endnote文件
谷歌学术
谷歌学术中相似的文章
[王家琦]的文章
百度学术
百度学术中相似的文章
[王家琦]的文章
必应学术
必应学术中相似的文章
[王家琦]的文章
相关权益政策
暂无数据
收藏/分享
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。