导读:本文包含了一阶优化论文开题报告文献综述及选题提纲参考文献，主要关键词:机器学习,支持向量机,非凸,方差减少
一阶优化论文文献综述
陶秉墨[1]（2019）在《一阶随机优化算法求解有限和函数的研究》一文中研究指出以支持向量机等为代表的结构风险最小化问题是机器学习领域中的一类重要问题。这类问题具有通用的结构,也就是目标函数都是有限和函数加上一个正则化项的形式。基于梯度下降的一阶算法是目前解决这类问题的常用算法。在有限和函数规模过大的情况下找到高效的求解算法是一个重要的研究问题。自适应随机梯度下降算法作为一个随机梯度下降算法的改进,在迭代选取样例的过程中根据一个特定的分布p,并且给出了一种有效的停机准则。新的停机准则可以使得支持向量机模型的样例规模过大时能够在较早期停止迭代。当正负样例不平衡时,由于分布p的存在,可以调整分布使得算法较好的适应非平衡数据。对于有限和函数非凸并且正则化项非光滑的情形,带有加速正则化项的基于方差减少的随机梯度下降算法在求解时分两步来进行处理。第一步处理非凸的有限和部分。该算法能够有效利用目标函数的非凸参数,使得每次迭代时目标函数从非凸函数转化为强凸函数再进行求解。该算法对于加速正则化项的改进很好的处理了原目标函数与带有加速正则化项的新的目标函数之间的差异问题,从而使得求解带有正则化项的新问题所得的近似局部最小解仍旧是原问题的近似局部最小解。第二步,对于非光滑的正则化项无法求导的问题,该算法采用近端梯度算子来处理。根据所提出算法梯度估计的方差界,可以给出了为了求得满足E[||Fη(x)||2]≤ε的自变量所需要的迭代次数的估计。进而可以得出算法的计算复杂度为O(n+n/ε)。数值实验证明了所提出算法的有效性。(本文来源于《河北大学》期刊2019-05-01）
孙加亮,田强,胡海岩[2]（2018）在《旋转薄板的拓扑优化——最大化一阶频率》一文中研究指出旋转薄板在工程中有很多应用,比如风力机叶片、直升机旋翼、自旋太阳帆等。在离心力的作用下,旋转薄板会沿着轴向拉伸,继而其弯曲刚度会大幅增加。随着转速的增加,旋转薄板的固有模态会变得更加复杂,在此情况下,利用结构拓扑优化技术,最大化其一阶频率显得更具挑战性,同时也具有重要的学术与工程意义。本文研究了基于绝对节点坐标方法描述的旋转薄板的频率拓扑优化,考虑了不同转速下薄板的轴向变形对其固有模态及最大化一阶频率优化结果的影响。首先,我们采用绝对节点坐标方法的薄板单元建立经历大变形与大转动的旋转薄板的动力学分析模型,在其动平衡构型处,采用小变形假设进行模态分析。该模型得到的质量矩阵为常矩阵。其次,当转速不为零时,旋转薄板的频率优化问题是一个"prestress"问题,于是,我们采用伴随变量法推导了单重特征值和双重特征值的灵敏度。最后,我们采用移动可变形组件来描述薄板的拓扑结构,其优点是可以大幅减小设计变量的个数。同时,为了防止在最大化一阶频率优化时,所有的组件均移动到转轴附近,我们在设计域中也布置了一些非结构质量,并考虑了不同形状的非结构质量对优化结果的影响。(本文来源于《2018年全国固体力学学术会议摘要集（上）》期刊2018-11-23）
陈再毅[3]（2018）在《机器学习中的一阶优化算法收敛性研究》一文中研究指出由于具有对目标函数的假设较弱,收敛速度快和易于实现等特点,一阶优化算法被广泛应用于求解机器学习模型参数。然而传统的一阶优化算法在实现时会遇到各种各样的问题。一方面,随着数据规模的爆发式增长和深度神经网络等机器学习模型中参数规模不断增加,传统的确定性数值优化算法有计算量过大的问题。另一方面,数值优化领域中讨论的一阶算法分析往往基于最坏计算复杂度。由于实际当中最坏情况往往不会出现,实际中传统的随机梯度下降等方法在求解过程中可能浪费大量的迭代。为此,机器学习领域的研究者们提出了ADAGRAD等针对凸问题的随机自适应算法,这些方法通过利用随机梯度的历史信息来自适应地更新步长,在实际应用中通常有更好的性能。但是,目前大量的机器学习任务(如深度神经网络)的目标函数为非凸函数,在非凸情况下大部分上述算法在理论层面尚缺乏收敛性保证。综上,研究实用、收敛速度更快的优化算法是机器学习理论中的一个重要挑战。为此,本文重点研究能同时提升理论收敛速度和实际表现的一阶优化算法,具体包括四个方面:1)研究了 KL不等式在非凸矩阵秩最小化问题上的应用,证明了当目标函数满足KL性质时关于奇异值的非凸规范化项可被传统的近邻映射算法求解,给出了近邻映射的闭形式,并证明当函数的可微部分的梯度是利普斯西连续时,算法有O(1/ε)的渐进计算复杂度;2)提出了求解满足强凸和局部误差界条件的问题的强自适应随机优化算法(SADAGRAD),证明了该算法具有关于随机次梯度范数的自适应计算复杂度,且复杂度在最坏情况下分别为O(1/ε)和O(1/ε2(1-α)),其中α ∈[0,1)为函数的局部误差界常数。当随机梯度稀疏时,SADAGRAD可以有效降低计算复杂度,并减少优化变量规模对算法效率的影响;3)提出了阶段化的一阶优化算法框架,该算法框架通过把求解非凸问题转化为递归求解凸问题,将自适应算法等成熟的凸优化方法扩展到非凸优化当中。可以证明在该算法框架下,大量成熟的凸优化算法求解非凸问题时可以达到目前最优的收敛速度;4)最后,针对非凸问题提出了阶段化加速的方差减小随机梯度下降法(Stagewise-Katyusha),当 μ-weakly convex 的目标函数由 n 个 L-smooth 的函数和一些相对简单的项组成时,该算法在条件数L/μ≥4n/3时可以达到算法复杂度的下界,且比在该条件下取得最优计算复杂度的其它算3法内存开销更低。(本文来源于《中国科学技术大学》期刊2018-11-03）
徐长成,胡鹏[4]（2018）在《基于Optistruct动力电池箱盖一阶频率结构优化》一文中研究指出基于Optistruct软件,重点讲解了基于动力电池箱盖一阶频率结构优化的过程,并对优化前后动力电池箱盖数据进行了对比。动力电池箱盖是动力电池包的重要组成部分,其性能直接关系到动力电池包的安全。动力电池箱是动力电池系统最底层结构,作为动力电池模组与电气系统的直接载体,在动力电池、电气系统安全工作和防护方面起着至关重要的作用;动力电池箱主要包括上下箱体、模组(含固定件)、底盘连接(本文来源于《汽车工艺师》期刊2018年05期）
张淑清,刘子玥,何泓运,任爽,张立国[5]（2018）在《基于多变量加权一阶局域混沌预测模型优化及应用》一文中研究指出鉴于实际应用中多变量因素对混沌预测的影响,提出了多变量时间序列相空间重构方法,以此为基础建立多变量加权一阶局域混沌预测模型。引入等概率符号化极大联合熵求取延迟时间、最小香农熵法求取嵌入维数,实现多变量混沌预测模型子序列重构;对实际序列采用区间邻近点法确定预测中心点的邻近点,避免产生伪邻近点;最后用关联分析确定观测变量。将该模型应用于短期电力负荷预测,分析气温等影响因素与电力负荷的相关程度,引入气温时间序列作为另一观测变量,实验证明相对于单变量预测方法提高了预测精度。(本文来源于《计量学报》期刊2018年01期）
高斌,刘歆,袁亚湘[6]（2017）在《正交约束优化问题的一阶算法》一文中研究指出带有正交约束的矩阵优化问题在材料计算、统计及数据分析等领域中有着广泛的应用.由于正交约束的可行域是Stiefel流形,一直以来流形上的优化方法是求解这一问题的主要方法.近年来,随着实际应用问题所要求的变量规模的扩大,传统的流形优化方法在计算上的劣势显现出来,而一些迭代简单、收敛快的新算法逐渐被提出.通过收缩方法、非收缩可行方法、不可行方法叁个类别分别来介绍求解带有正交约束的矩阵优化问题的最新算法.通过分析这些方法的主要特性,以及应用问题的要求,对这类问题算法设计的研究进行了展望.(本文来源于《运筹学学报》期刊2017年04期）
陈少利[7]（2017）在《全变分模型图像复原的一阶前向后向优化算法研究》一文中研究指出图像噪声和图像模糊往往影响了图像的后期处理,例如图像分割、特征提取、目标跟踪等。因此有效的去除图像噪声与去模糊的图像复原成为数字图像处理领域的关键问题。由于全变分模型能够很好的保留图像边缘信息从而获得更好的图像复原效果。于是本文着重研究全变分模型下的图像复原算法。根据有界变分图像处理,将全变分图像复原问题分解为两个凸函数的最小化问题,解决此类问题,可通过一阶和二阶方法,由于二阶方法迭代计算量较大,因而不适用于求解大规模数据的图像复原问题。而一阶方法的求解仅仅涉及到梯度和目标函数值信息,因此算法的计算量小、迭代效率较高,适用于求解大规模的实际问题。因此本文研究全变分图像复原的一阶方法。基于以上介绍,本文的主要研究内容为一下几点:首先,本文应用前向后向分裂算法求解全变分图像复原模型,针对该算法的固定步长限制了算法的收敛速率的不足之处,提出一种自适应步长选择的快速前向后向分裂算法。该算法将前向后向分裂算法结合了Barzilai-Borwein自适应步长选择算子。在算法进行迭代时,更新选择步长因子,从而获得更快的算法收敛效果。数值实验表明,自适应步长快速前向后向分裂算法不仅提高了算法的收敛速率,同时提高了图像复原的质量。其次,对改进的快速前向后向分裂算法做进一步研究,发现采用了Barzilai-Borwein谱步长进行更新的新算法在数值实验中并不总能保证算法的严格收敛,针对该问题,将非单调线性搜索的思想引入到改进快速前向后向分裂算法中,提出了一个非单调线性搜索快速前向后向分裂算法,避免了算法进入局部最优。从而使得算法在运算精度和时间复杂度上达到最优。数值实验表明的算法的有效性。最后,通过对快速前向后向分裂算法的深入研究,实验表明目标函数呈现一定的“震荡”现象,即目标函数值增加,因此减缓了目标函数的收敛。研究发现该算法对判定因子的选择具有很强的敏感性。据此,本文提出了自适应重启动快速前向后向分裂算法。通过加入判定因子,适时重启算法,从而使目标函数呈现单调下降现象。数值实验表明,自适应重启动前向后向改进算法加快了算法的收敛,减少了目标函数的震荡,提高了算法对于图像去噪和图像去模糊的复原质量。(本文来源于《南京邮电大学》期刊2017-10-26）
李雪[8]（2017）在《稀疏约束优化问题的一阶必要条件》一文中研究指出最优化是运筹学的一个重要组成部分.稀疏约束优化问题作为最优化理论的一个重要分支,在应用数学、统计学以及计算机科学等领域发挥着巨大作用.具体应用于压缩感知、噪音处理、图像处理等各个方面.而大部分工作主要集中在求解线性方程的稀疏解问题.之后,人们发现可将稀疏优化的发展理论及其算法适用于更广泛的一类优化问题上,即在稀疏约束条件下研究非线性模型.本文主要研究有限维空间中的稀疏约束优化问题.首先给出稀疏约束集的极限法锥以及交第一象限和交凸多面体的极限法锥,之后根据极限法锥的刻画给出稀疏约束优化问题的一阶必要性条件.(本文来源于《哈尔滨师范大学》期刊2017-05-01）
冷雪[9]（2017）在《稀疏约束优化的一阶和二阶必要条件》一文中研究指出方向度量次正则性、混合正则/次正则性作为最优化理论的重要性质,对优化可行性问题的稳定性及最优性条件的分析有着重要作用.本文借助变分分析的知识探究了集值映射方向度量次正则性、混合正则/次正则性的一阶和二阶充分条件,并借助此条件得到了稀疏约束优化问题的一阶和二阶必要条件,同时给出了稀疏集合方向法锥的计算方法和结果。(本文来源于《哈尔滨师范大学》期刊2017-05-01）
彭细荣,隋允康[10]（2016）在《应力约束拓扑优化的内力一阶近似方法》一文中研究指出为解决应力约束下结构拓扑优化问题中应力近似显式计算量大、效率低的问题,提出采用内力一阶近似的方式对应力约束进行近似处理。并与满应力方法(即内力零阶近似)、应力倒变量一阶近似两种方法进行应力近似好坏及优化求解效率等对比。为更清晰地比较不同应力近似方法在优化求解过程中的设计变量、目标函数及约束等迭代历史,采用变量连接技术减少应力约束拓扑优化算例的设计变量数目。拓扑优化结果表明:采用内力一阶近似的方式对应力约束进行近似处理较其它两种应力近似方式效果更好,优化迭代次数最少,求解效率最高,得到的最优结构最轻。(本文来源于《机械强度》期刊2016年05期）
一阶优化论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
旋转薄板在工程中有很多应用,比如风力机叶片、直升机旋翼、自旋太阳帆等。在离心力的作用下,旋转薄板会沿着轴向拉伸,继而其弯曲刚度会大幅增加。随着转速的增加,旋转薄板的固有模态会变得更加复杂,在此情况下,利用结构拓扑优化技术,最大化其一阶频率显得更具挑战性,同时也具有重要的学术与工程意义。本文研究了基于绝对节点坐标方法描述的旋转薄板的频率拓扑优化,考虑了不同转速下薄板的轴向变形对其固有模态及最大化一阶频率优化结果的影响。首先,我们采用绝对节点坐标方法的薄板单元建立经历大变形与大转动的旋转薄板的动力学分析模型,在其动平衡构型处,采用小变形假设进行模态分析。该模型得到的质量矩阵为常矩阵。其次,当转速不为零时,旋转薄板的频率优化问题是一个"prestress"问题,于是,我们采用伴随变量法推导了单重特征值和双重特征值的灵敏度。最后,我们采用移动可变形组件来描述薄板的拓扑结构,其优点是可以大幅减小设计变量的个数。同时,为了防止在最大化一阶频率优化时,所有的组件均移动到转轴附近,我们在设计域中也布置了一些非结构质量,并考虑了不同形状的非结构质量对优化结果的影响。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
一阶优化论文参考文献
[1].陶秉墨.一阶随机优化算法求解有限和函数的研究[D].河北大学.2019
[2].孙加亮,田强,胡海岩.旋转薄板的拓扑优化——最大化一阶频率[C].2018年全国固体力学学术会议摘要集（上）.2018
[3].陈再毅.机器学习中的一阶优化算法收敛性研究[D].中国科学技术大学.2018
[4].徐长成,胡鹏.基于Optistruct动力电池箱盖一阶频率结构优化[J].汽车工艺师.2018
[5].张淑清,刘子玥,何泓运,任爽,张立国.基于多变量加权一阶局域混沌预测模型优化及应用[J].计量学报.2018
[6].高斌,刘歆,袁亚湘.正交约束优化问题的一阶算法[J].运筹学学报.2017
[7].陈少利.全变分模型图像复原的一阶前向后向优化算法研究[D].南京邮电大学.2017
[8].李雪.稀疏约束优化问题的一阶必要条件[D].哈尔滨师范大学.2017
[9].冷雪.稀疏约束优化的一阶和二阶必要条件[D].哈尔滨师范大学.2017
[10].彭细荣,隋允康.应力约束拓扑优化的内力一阶近似方法[J].机械强度.2016