导读:本文包含了核映射深度论文开题报告文献综述及选题提纲参考文献,主要关键词:深度神经网络,深度学习,核映射,卷积神经网络
核映射深度论文文献综述
张婷[1](2018)在《深度神经网络的核映射结构和跨连结构研究》一文中研究指出经过十余年的快速发展,深度学习受到了越来越多的关注。深度学习是指各种训练深度神经网络的方法的总和。基于这些方法,深度神经网络能够从大量的复杂数据中学习到合适且有效的特征,在用来解决实际问题时常常能够取得极佳的效果。这是深度学习受到了学术界和工业界普遍青睐的根本原因。本文的主要工作包括两个基本方面:深度核映射结构和深度跨连结构。深度核映射结构旨在利用深度神经网络解决支持向量机的核学习问题,深度跨连结构旨在利用跨层连接提升深度神经网络的学习性能。深度核映射结构在理论上能够通过一个显式的深度神经网络逼近任意的核映射,跳出了利用基本核的线性或非线性组合来进行核学习的传统思路,有望克服核学习的根本困难。深度跨连结构可以利用拼接和融合的方法把不同尺度的特征集成起来,对改善深度神经网络的性能具有重要意义。事实上,使用了跨连结构的残差网络和密连网络,分别在CVPR 2016和CVPR 2017被评为最佳论文,说明跨连结构的重要性已在深度学习领域获得共识。本文取得的主要创新性研究成果概括如下:1.提出了深度神经映射支持向量机模型,用于克服核学习的困难。该模型利用深度神经网络逼近核映射的思想,使用深度神经网络表示核映射将原始输入映射到特征空间,然后在特征空间使用支持向量机进行分类。与传统的由核函数诱导的隐式函数不同,该模型是一种新的通用的支持向量机模型,其中核映射实际上是由深度网络表示的显式函数。而且,该模型使用对比散度和梯度下降两阶段学习方法联合训练自适应核映射,无需使用核技巧。实验结果证实了深度神经映射支持向量机优于神经支持向量机和径向基函数支持向量机,表明了它的有效性。2.提出了跨连卷积神经网络模型,用于拼接两尺度特征提升学习性能。该模型是一个8层的网络结构,包含输入层、6个由卷积层和池化层交错构成的隐含层、1个全连接层和输出层,其中允许第2个池化层跨过两个隐含层直接与全连接层相连。10个人脸数据集上的性别分类实验表明,跨连卷积神经网络的准确率均不低于传统卷积神经网络。3.提出了跨连卷积神经网络的拼接框架,用于拼接多尺度特征提升学习性能。该框架使用二值跨连指示符表达不同的拼接情况,利用带有固定权值的跨层连接将不同的卷积层和池化层直接连接到全连接层,最后将全连接层连接到输出层。在性别分类、纹理分类、数字识别和物体识别四个任务上的实验证实,跨连卷积神经网络优于传统的卷积神经网络。另外,在不同的池化机制、激活函数、优化方法、初始化方法、核的数量和大小的情况下具有更好的稳定性。而且,跨连卷积神经网络可以获得与残差网络和GoogLeNet可比较的结果,以及比密连网络、多尺度CNN和DeepID好的结果。4.提出了跨连卷积神经网络的融合框架,用于融合多尺度特征提升学习性能。该框架利用加权跨连的思想,将不同的卷积层和池化层直接连接到具有固定节点数的全连接层,然后将全连接层连接到输出层。在性别分类、纹理分类、数字识别和物体识别四个任务上的实验证实,跨连卷积神经网络优于传统的卷积神经网络。另外,在不同的池化机制、激活函数、初始化方法和遮挡块的情况下的稳定性更好。而且,跨连卷积神经网络可以获得与残差网络可比较的结果,以及比GoogLeNet、密连网络、多尺度CNN、DeepID和CS-CNN好的结果。(本文来源于《北京工业大学》期刊2018-07-09)
王强,吕政,王霖青,王伟[2](2019)在《基于深度去噪核映射的长期预测模型》一文中研究指出针对最小二乘支持向量机核函数结构较浅对其长期预测模型精度的限制,采用深度学习中逐层特征提取的思想,提出基于深度去噪核映射的最小二乘支持向量机长期预测模型.该模型通过深度核网络的逐层变换,将样本数据映射到深度特征空间,从而有效提高其长期预测的精度.此外,为了提高模型对含高噪声数据的拟合性能,将去噪算法融入深度核网络的训练过程中,并通过反向传播算法对核网络参数进行整体微调.标准数据集及实际工业数据的仿真实验结果表明,所提方法能够有效提取数据中蕴含的特征信息,提高预测模型的精度.(本文来源于《控制与决策》期刊2019年05期)
李玉鉴,张婷,胡海鹤[3](2016)在《基于多层感知器的深度核映射支持向量机》一文中研究指出为改善支持向量机的性能,从深度学习的角度研究核学习的方法,提出了基于多层感知器的深度核映射支持向量机模型(deep kernel mapping support vector machine,DKMSVM)以及相应的学习算法.该模型首先通过多层感知器学习一个从原始输入空间到合适维度空间的核映射代替传统意义上的核函数,然后直接在合适维度空间使用支持向量机进行分类,而不是采用核技巧进行求解.实验结果验证了DKMSVM的有效性.(本文来源于《北京工业大学学报》期刊2016年11期)
核映射深度论文开题报告
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
针对最小二乘支持向量机核函数结构较浅对其长期预测模型精度的限制,采用深度学习中逐层特征提取的思想,提出基于深度去噪核映射的最小二乘支持向量机长期预测模型.该模型通过深度核网络的逐层变换,将样本数据映射到深度特征空间,从而有效提高其长期预测的精度.此外,为了提高模型对含高噪声数据的拟合性能,将去噪算法融入深度核网络的训练过程中,并通过反向传播算法对核网络参数进行整体微调.标准数据集及实际工业数据的仿真实验结果表明,所提方法能够有效提取数据中蕴含的特征信息,提高预测模型的精度.
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
核映射深度论文参考文献
[1].张婷.深度神经网络的核映射结构和跨连结构研究[D].北京工业大学.2018
[2].王强,吕政,王霖青,王伟.基于深度去噪核映射的长期预测模型[J].控制与决策.2019
[3].李玉鉴,张婷,胡海鹤.基于多层感知器的深度核映射支持向量机[J].北京工业大学学报.2016