导读:本文包含了负相关学习算法论文开题报告文献综述及选题提纲参考文献，主要关键词:负相关学习,误差-分歧分解,AdaBoost-SVM,集成学习
负相关学习算法论文文献综述
洪铭,汪鸿翔,刘晓芳,柳培忠[1]（2018）在《采用负相关学习的SVM集成算法》一文中研究指出为了平衡集成学习中多样性与准确性之间的关系,并提高决策分类器的泛化能力,提出一种基于负相关学习和AdaBoost算法的支持向量机(SVM)集成学习方法.将负相关学习理论融合到AdaBoost-SVM的训练过程中,利用负相关学习理论计算基分类器间的相关性,并根据相关性的值自适应调整基分类器的权重,进而得到加权后的决策分类器.在UCI数据集中进行仿真,结果表明:相较于传统的负相关集成学习算法和AdaBoost-SVM算法,所提出的方法分类准确率更高,泛化能力更好.(本文来源于《华侨大学学报(自然科学版)》期刊2018年06期）
谢苏超[2]（2017）在《基于负相关算法的在线学习资源编列研究》一文中研究指出作为当前教育技术领域研究的热点,在线学习颠覆了传统的学习方式,个性化的在线学习也逐渐引起国内外学者的关注。但其中在线学习资源的编列仍然缺乏有效的机制,学习者特征、学习资源特征的设置与量化也不够完善。在此背景下,本文将在线学习资源编列视为约束优化问题,将改进的负相关算法应用于在线学习资源编列过程,提出了基于负相关算法的在线学习资源编列机制。本文主要围绕在线学习资源编列机制的研究和实现展开,分析了学习者利用在线学习平台进行个性化学习的困境,指出学习资源编列的必要性。同时,梳理了协同过滤算法和智能优化算法在学习资源编列问题中的研究文献,探索了学习者特征和学习资源特征参数表达,构建了在线学习资源编列问题模型,引入格雷码,改进负相关算法的编码机制,实现了改进负相关算法的在线学习资源编列,并利用仿真实验进行了有效性验证,结果证明基于负相关算法的在线学习资源编列机制是有效的。本文的创新点主要包括:(1)对在线学习环境进行分析,在学习者特征中加入了学习者态度参数,丰富了在线学习问题模型参数表达,使学习者和学习资源特征参数描述更加合理。(2)对负相关算法进行改进,引入格雷码编码机制,使改进后的算法适应在线学习资源特征要求。(3)利用改进后的负相关算法解决学习资源资编列问题,提出了基于负相关算法的个性化学习资源编列机制。(本文来源于《浙江工业大学》期刊2017-03-01）
孙文[3]（2017）在《基于负相关增量学习的声纹识别算法研究》一文中研究指出声纹识别是当前生物特征识别的一个热门方向,并且在相关领域得到了广泛的应用。但是在大量的应用场景下,训练数据无法一次性获得,并且语音信号容易随着说话人的身心状态以及录音环境产生易变性,这时传统的批量式的机器学习方式显得难以适应。本文旨在使用增量学习的方法来研究声纹识别,实现在上述场景下依然能保持较高的识别率。本文使用基于负相关学习(Negative Correlation Learning,NCL)的增量学习算法作为声纹的识别模型,在已有的相关算法中,大小固定的FSNCL(Fixed Size NCL)容易对已学过的知识产生遗忘,增长式的GNCL(Growing NCL)整体泛化性能不佳,基于选择性集成的SNCL(Selective NCL)精度较高但训练时间过长。本文对SNCL算法从模型训练和模型选择两个方面进行了改进。首先,NCL算法以BP网络作为基础并进行了修改,使得个体网络在训练的过程中误差向负相关方向变化,增加了网络之间的差异性,但是忽略的网络本身在训练过程中容易出现隐藏层节点个数不易确定,训练时间过长,容易产生过拟合等问题,本文针对这些问题对NCL算法进行了改进,使得网络结构自适应变化,并将其与Bagging算法相结合,在文中简称为ANCLBag算法,该算法避免了纯手动设定隐藏节点个数,在训练过程中减少了迭代次数,同时,与Bagging算法相结合后,两者分别在训练集生成和网络训练方面对整个集成产生影响,使得个体网络之间的差异进一步增加,并且保证了整体的泛化性能。随后,本文在该算法的基础上进行了增量学习的研究。在研究增量学习的过程中,文章借鉴了SNCL的框架,并对其模型选择的方法进行修改,使用基于分簇和排序的选择性集成方法,在该方法中同时考虑了模型的准确性和差异性,提出一种新的SANCLBag算法,实验表明该算法的泛化性能略高于SNCL,在时间复杂度方面则明显优于后者。最后,将该模型应用到声纹识别中,实现了一个能够对语音信号进行预处理、特征提取、模型增量训练和模式识别的声纹识别模型,实验表明该模型具有较高的识别准确率,并且能有效地解决增量学习的问题。(本文来源于《哈尔滨工程大学》期刊2017-01-01）
万伦军[4]（2014）在《基于梯度提升模型的负相关学习算法的研究与应用》一文中研究指出论文的第一个工作是关于集成学习的研究。在机器学习领域,我们把具备从经验知识中学习能力的系统或者模型叫做学习器。一般来说训练出一个学习能力较弱的模型比训练出一个学习能力较强的模型所要耗费的代价小得多。集成学习是一类特殊的机器学习方法,其思想是不直接训练一个强学习器,而是通过组合一批弱学习器来得到一个学习能力强的集成学习器。集成学习算法性能好坏主要取决于两个因素：基学习器自身的性能好坏以及基学习器之间的差异性。目前常用的集成学习算法包括Bagging、Boosting等,在提升每个基学习器性能的同时,其实也是在以一种隐性的方式维持了基学习器之间的差异性,从而使得最终的集成学习器的性能达到最佳。负相关学习(Negative correlation learning,NCL)是一种常用于神经网络集成的集成学习算法,它是把基学习器之间的差异性作为一个显性的度量标准引入到神经网络的损失函数中去,进而影响神经网络的训练。通过调整影响因子可以权衡基神经网络之间的性能与多样性,以谋求获得一个性能最优的集成神经网络模型。我们借鉴NCL的思路,提出了一种新的集成学习算法。NCL最早提出是使用神经网络作为基学习器,而且目前有关NCL的研究大多数还是采用神经网络作为基学习模型,主要原因是神经网络具有一个显性的损失函数,而且训练神经网络的BP算法是一种采用梯度下降方法来最小化该损失函数的优化算法。我们比较了神经网络与另外一种常用的学习模型：梯度提升模型(gradient boosting machine, GBM)之间的相似性,提出可以用GBM代替神经网络来实践负相关学习的思想,设计出一种新的集成学习算法：GB-NCL。论文给出了GB-NCL算法的设计思路以及详细的步骤,并且通过实验比较了GB-NCL与原始基于神经网络的NCL算法以及梯度提升算法的分类性能。实验结果表明GB-NCL算法相比于这两种算法,拥有更好的性能。论文的第二个工作是基于GB-NCL算法设计并实现了一种新的用于解决高光谱遥感图像分类问题的分类算法：RCASSL。高光谱遥感图像分类的特点是标记样本少,未标记的样本多,而且人工标记遥感图像的像素点属于什么地物类别的成本比较大。前人的做法主要有两种：第一种,利用主动学习算法,从大量未标记样本中挑选出最值得标记的像素点让人类专家来标记其所属的地物类别。这种方法的特点是新增训练样本的质量高(类标号百分百正确),但是数量少。第二种,利用半监督学习算法,用已训练出来的分类器赋予一些未标记样本类标号,并将其视为真实可用的样本,添加到训练集中,我们称之为“伪标记”样本。这类算法可以大大提高训练样本数量但是无法保证新增的伪标记样本的类标号一定正确。数量多,质量不好,这是半监督学习算法的特点。我们提出不妨将主动学习与半监督学习结合,并且引入一套“伪”标记样本验证的机制,对通过半监督学习引入进来的伪标记样本进行校验,将不合格的伪标记样本剔除出去,从而既能够获得足够多的训练样本,又能够保证训练样本集的质量。拥有了更大更完备的训练集,训练出来的分类器也就自然会有更佳的性能。根据这种想法我们在论文中针对高光谱遥感分类设计了RCASSL算法。RCASSL在训练分类器的时候不仅采用带标记的样本,而且使用半监督学习引入的伪标记样本。我们采用GB-NCL算法校验半监督学习方法引入的伪标记样本,提升伪标记样本集的质量。我们在高光谱遥感数数据集上对比了RCASSL算法、MCLU-ECBD算法以及RCASSL-NoPLV算法。MCLU-ECBD算法是一种常用的主动学习算法。RCASSL-NoPLV算法是去除掉伪标记样验证环节的RCASSL算法。实验的结果表明,在引入相同多的标记样本情况下,RCASSL算法的分类性能最强。RCASSL与MCLU-ECBD的对比结果说明结合半监督学习可以提升主动学习算法的性能,RCASSL与RCASSL-NoPLV的对比结果说明我们采用GB-NCL算法实现的伪标记验证机制的有效性。(本文来源于《中国科学技术大学》期刊2014-04-01）
谷雨,赵佳枢,杨柽[5]（2006）在《基于负相关学习的支持向量机集成算法》一文中研究指出提出一种基于负相关学习理论的支持向量机集成方法,该方法能有效解除各支持向量机之间的相关性,使得集成个体有较大的差异。并采用了演化策略对支持向量机的核函数和相关参数自适应地进行选择。仿真实验表明,该方法不仅能有效地解决支持向量机模型选择的难题,而且能以很小的代价显着提高学习系统的泛化能力。(本文来源于《微电子学与计算机》期刊2006年03期）
负相关学习算法论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
作为当前教育技术领域研究的热点,在线学习颠覆了传统的学习方式,个性化的在线学习也逐渐引起国内外学者的关注。但其中在线学习资源的编列仍然缺乏有效的机制,学习者特征、学习资源特征的设置与量化也不够完善。在此背景下,本文将在线学习资源编列视为约束优化问题,将改进的负相关算法应用于在线学习资源编列过程,提出了基于负相关算法的在线学习资源编列机制。本文主要围绕在线学习资源编列机制的研究和实现展开,分析了学习者利用在线学习平台进行个性化学习的困境,指出学习资源编列的必要性。同时,梳理了协同过滤算法和智能优化算法在学习资源编列问题中的研究文献,探索了学习者特征和学习资源特征参数表达,构建了在线学习资源编列问题模型,引入格雷码,改进负相关算法的编码机制,实现了改进负相关算法的在线学习资源编列,并利用仿真实验进行了有效性验证,结果证明基于负相关算法的在线学习资源编列机制是有效的。本文的创新点主要包括:(1)对在线学习环境进行分析,在学习者特征中加入了学习者态度参数,丰富了在线学习问题模型参数表达,使学习者和学习资源特征参数描述更加合理。(2)对负相关算法进行改进,引入格雷码编码机制,使改进后的算法适应在线学习资源特征要求。(3)利用改进后的负相关算法解决学习资源资编列问题,提出了基于负相关算法的个性化学习资源编列机制。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
负相关学习算法论文参考文献
[1].洪铭,汪鸿翔,刘晓芳,柳培忠.采用负相关学习的SVM集成算法[J].华侨大学学报(自然科学版).2018
[2].谢苏超.基于负相关算法的在线学习资源编列研究[D].浙江工业大学.2017
[3].孙文.基于负相关增量学习的声纹识别算法研究[D].哈尔滨工程大学.2017
[4].万伦军.基于梯度提升模型的负相关学习算法的研究与应用[D].中国科学技术大学.2014
[5].谷雨,赵佳枢,杨柽.基于负相关学习的支持向量机集成算法[J].微电子学与计算机.2006
标签：负相关学习; 误差-分歧分解; AdaBoost-SVM; 集成学习;