导读:本文包含了无导数算法论文开题报告文献综述及选题提纲参考文献，主要关键词:非线性单调方程组,共轭梯度法,无导数投影法,全局收敛
无导数算法论文文献综述
刘金魁,杜祥林[1]（2018）在《非线性单调方程组的叁项无导数投影算法》一文中研究指出本文讨论了一种求解非线性单调方程组问题的叁项无导数投影算法,并在适当的条件下证明了算法的全局收敛性和R-线性收敛速度.由于无需利用任何导数信息,该算法适合求解大规模的非线性单调方程组问题.数值比较表明该算法是有效的.(本文来源于《数学进展》期刊2018年04期）
卢晓宁[2]（2018）在《无导数优化的信赖域算法研究》一文中研究指出在国防工程建设、工农业生产等领域存在着大量的无导数优化问题,网格自适应直接搜索算法、单纯形法和信赖域方法等是求解无导数优化问题的有效方法。其中,信赖域方法求解无导数优化问题具有较好的实验效果,成为目前较为活跃的研究领域之一。Conejo等人提出了一种有效的无导数信赖域算法(TRDF),但它忽略了更新模型和初始增广Lagrange乘子之间的关系,增加了乘子更新的计算量。本文针对上述算法的不足之处,结合已有的信赖域算法提出两种改进的算法。基于传统的信赖域算法框架,建立约束障碍函数,利用进步栏阈法(PB策略)筛选出插值点集中性质较好的迭代点。同时修正子问题的初始增广Lagrange乘子,提出一种改进TRDF算法,并证明了改进算法的收敛性。不同维数测试问题的数值实验结果表明,改进算法有效减少了求解优化问题的迭代次数,缩短了迭代时间。基于TRDF算法框架,提出一种基于PB策略的修正无导数信赖域算法。该算法采用增广Lagrange函数法求解信赖域子问题,然后对得出的子问题最优解进行推测式线搜索。然后,利用PB策略对探测搜索得到的点列进行筛选,找到满足一定约束条件且使目标函数值充分下降的点作为下一步迭代的迭代点。不同维数测试问题的数值实验结果表明,该算法能有效减少求解优化问题的迭代次数,缩短迭代时间,验证了算法的高效性。(本文来源于《西安电子科技大学》期刊2018-04-01）
卢晓宁,刘红卫,杨善学,刘泽显,刘梅[3]（2018）在《带一般约束无导数优化问题的改进信赖域算法》一文中研究指出通过建立约束违和函数,利用进步栏阈法(PB策略)筛选出插值点集中性质较好的迭代点,同时修正子问题的初始增广Lagrange乘子,提出一种改进的无导数信赖域(TRDF)算法,并证明了改进算法的收敛性.针对不同维数测试问题的数值试验结果表明,改进算法有效降低了求解二次插值模型的迭代次数和迭代时间.(本文来源于《吉林大学学报(理学版)》期刊2018年02期）
张一梦[4]（2017）在《基于子空间方法的无导数优化算法研究》一文中研究指出本文研究求解无约束优化问题的子空间算法,在每次迭代的过程中,我们构造一个子空间,由此可以将一个高维无约束优化问题转化到低维子空间进行求解。目前,大多数的优化方法都依赖问题的导数信息,然而在实际应用中,很多优化问题的导数不易求得甚至完全不可得,那么解决此类问题就需要运用无导数优化算法。首先,本文构造了叁种多项式插值模型:线性函数插值模型、不含交叉项二次多项式函数插值模型和完全二次多项式函数插值模型;其次,本文介绍了两种近似牛顿方向的选择方式;最后,根据子空间维数的不同,本文介绍了叁种子空间无导数优化算法:第叁章给出两类二维子空间无导数优化算法,即由近似梯度,上一次迭代方向张成的二维子空间无导数优化算法和由近似牛顿方向,上一次迭代方向张成的二维子空间无导数优化算法,并给出数值试验;第四章给出由近似梯度、上一次迭代方向和近似牛顿方向张成的叁维子空间无导数优化算法和由近似梯度、上一次迭代方向、近似牛顿方向和一个随机方向张成的四维子空间无导数优化算法,并给出数值试验。通过数值试验结果表明,首先,由近似牛顿方向、上一次迭代方向张成的二维子空间无导数优化算法比由近似梯度、上一次迭代方向张成的二维子空间无导数优化算法迭代次数少;其次,叁维子空间无导数优化算法比二维子空间无导数优化算法在迭代次数上有了明显减少,四维子空间无导数优化算法比叁维子空间无导数优化算法在迭代次数上也有减少,但并不显着;再次,对于维数相同的子空间算法,基于线性函数插值的子空间算法、基于不含交叉项二次多项式函数插值的子空间算法和基于完全二次多项式函数插值的子空间算法,在迭代次数上依次减少,有效率依次变高;另外,在子空间算法中,用二次多项式函数插值方法得出的近似牛顿方向去替代牛顿方向和用拟牛顿方向近似代替牛顿方向相对比,前者的迭代次数更少,效率更高。本文还将叁类无导数子空间优化算法与已有的无导数算法进行了实验对比,数值实验结果表明,基于子空间方法的无导数优化算法是十分有效的。(本文来源于《北京邮电大学》期刊2017-12-24）
石志娟[5]（2017）在《Lipschitz函数优化的一个无导数算法》一文中研究指出为研究Lipschitz函数极小化问题,本文使用了一个线性搜索的无导数方法,即CS-DFNP算法.由于目标函数和约束函数可能是非光滑的,传统的基于梯度概念的优化理论和方法不再适用于此类优化问题,所以文中使用了 Clarke-Jahn广义方向导数来研究问题的稳定点.文章首先对只含有部分边界约束的问题进行了理论分析研究,并证明了 CS-DFNP算法对于此类问题会产生Clarke-Jahn稳定点.对于包含复杂的不等式约束函数的优化问题,在满足一定合理的假设条件基础下,我们使用精确罚函数法将其进行处理,并根据已有的关于精确罚函数的研究成果,理论上证明了算法的有效性.其中,在使用罚函数法时,我们仅仅只对非线性的不等式约束进行惩罚,而对于边界约束不作处理.这样也会减少不必要的误差,从而提高算法的精确性.最后,文章选取两个例子,一个是光滑的约束问题,另外一个是非光滑的优化问题.实验结果表明,算法在误差允许的范围内是可行的.对于光滑的无约束问题,初始值的选择对于实验结果影响不大,但对于后者,其影响较为明显.算法在选取稠密方向序列时,选择的是Halton序列.这种序列是基于某种特定的方法算出来的,它们之间的偏差比较小,在某种程度上可以看作是随机的.我们将产生的序列进行了单位化处理,这样也能更好地对步长进行处理.在进行实验时,可以发现参数的选择对于算法的时效和准确性有较大的影响,我们通过不断的实验尽量选取相对较优的参数.总体来说,CS-DFN算法是可行的,但还有许多可以改进的地方.(本文来源于《厦门大学》期刊2017-06-30）
刘二涛[6]（2017）在《无导数全局优化算法研究》一文中研究指出全局优化算法一直是最优化理论与算法学科中十分重要的分支,按照算法构造的不同,处理全局问题的算法一般可以分成确定性和随机性两类算法.如填充函数法、打洞函法等就是常见的确定性全局优化算法,遗传算法是典型的随机性算法之一.另外,由Csendes提出的多起点聚类全局优化算法(GLOBAL)也是一种随机性算法,该算法通过全局优化阶段和局部优化阶段的交互实现了全局寻优的目的.其自身对目标函数的要求相对较低,能以相对较弱的统计参数给出算法的理论分析并可以有效的解决黑盒问题及导数信息不可得的优化问题.因而,对于工程中出现的一系列复杂的、无法得到显式目标函数的全局优化问题,GLOBAL算法具备明显的优势.在全局优化阶段中有关样本点的选取和“吸引域”的确定以及局部阶段的算法选取是该算法的主要核心问题.因此,如何协调改善全局阶段和局部阶段,使得该算法在一定精度下尽可能的减少计算成本一直是国内外学者所关注的问题.本文旨在学习研究GLOBAL算法的执行过程及实现原理,针对其处理无导数问题所存在的不足,提出一些针对性的改进方案.所做工作概述如下:在全局优化阶段,给出一种有效样本点集T的混合选取策略用以改善原来的选取方法,新的选取策略充分利用了样本点之间的距离和函数值信息.另外,结合单纯形梯度和插值的相关知识,提出一种基于单纯形梯度方向的局部无导数优化方法,从而实现了对局部优化阶段的改进.为进一步减小计算成本,在该局部优化算法的线搜索过程中,构造一种刻画二次插值极小点估值必要性的度量方法,最后给出了收敛性理论分析.通过对一些典型的全局优化问题的测试,并与C-GRASP和DTS(APS)算法的实验结果对比.表明以上改进有效的改善了算法的效率和稳定性,尤其针对“窄谷”类函数,大大减少了函数估值次数.考虑到非单调技术在处理复杂的非线性问题时不依赖具有缺省步长的局部特性,并且有助于跳出函数局部极小点.基于一种非单调无导数线搜索策略,提出一种非单调的无导数局部优化方法,并对其进行了理论分析.结合多起点聚类全局优化算法的全局优化阶段,进而给出了一种基于非单调的多起点聚类全局优化算法.数值实验表明,基于非单调线搜索的多起点聚类全局优化算法在估值次数方面较原算法有了很大的改善,能够快速的找到全局最优解.(本文来源于《西安电子科技大学》期刊2017-06-01）
刘加会[7]（2017）在《无导数优化的直接搜索算法研究》一文中研究指出大多数优化方法都依赖于求解问题的导数信息,但是在实际应用中,许多优化问题的导数信息不易求得甚至完全不可得到。这种情况下,一些利用导数信息的高精度计算方法就不能够使用,无导数优化算法就是一类不依赖求解问题导数信息的方法,直接搜索算法作为无导数优化算法中一类重要的优化方法,在科学和工程计算中应用广泛。本文主要对直接搜索算法中的Coope-Price算法框架进行研究,对其框架中存在的一些不足和缺陷进行相应的优化改进。基于Coope-Price算法框架,本文提出了两种新的直接搜索算法,结合相关理论分析了新算法的收敛性,并通过数值实验验证了算法的有效性和可行性。本文的主要内容如下:对直接搜索算法中四种主要的直接搜索框架(GPS算法框架、GSS算法框架、Coope-Price算法框架、MADS算法框架)进行了具体的论述,并对比分析了不同算法之间的关系。介绍了两种常用的无导数数值算法优劣的比较方法,并对两种方法进行了详细的描述,对其使用方法给出具体的说明。基于Coope-Price直接搜索算法框架提出了两种新的直接搜索算法。其一,基于中心单纯形梯度给出了一种新的共轭梯度下降方向,同时并对网格单元框计算中的正基方向进行了旋转和重新计算,提出一种基于中心单纯形梯度的直接搜索共轭梯度法;其二,结合无导数中的自适应BB(Barzilai-Borwein)步长,对Coope-Price算法框架中网格步长的更新策略做出调整,提出一种新的网格步长参数更新策略,有效改善了在一些情况下网格步长下降过快的问题。同时结合对自适应BB(Barzilai-Borwein)步长优势,给出了与之相对应的正基更新策略,提出一种基于自适应BB步长的直接搜索共轭梯度法。进一步从理论上证明了两种算法的收敛性,并利用数值实验的方法对算法进行验证,从实验结果上对新的算法做出了对比分析,验证了新提出的两种算法的有效性和可行性。(本文来源于《西安电子科技大学》期刊2017-06-01）
孙强,吕巍[8]（2015）在《一个部分有界约束非线性优化问题的无导数算法》一文中研究指出在文献(Liuzzi G,Lucidi S,Sciandrone M.Sequential penalty derivative-free methods for nonlinear constrained optimization.SIAM Journal on Optimization,2010,20:2614-2635)提出的求解非线性有界约束优化问题的算法DFL(derivative-free line search algorithm)的基础上,提出了一个求解含有部分有界变量约束的非线性优化问题的无导数算法PDFA(penalty derivative-free line search algorithm).假设目标函数以及约束函数的导数由于某种原因无法得到,并且部分变量有界.与DFL不同的是,PDFA无需估计无界变量的上下界,并且沿简单边界的一组新正基进行线性搜索.证明了算法的收敛性,并用这两种算法对5个算列进行了数值计算,结果表明PDFA是有效可行的.(本文来源于《应用数学与计算数学学报》期刊2015年04期）
张小利[9]（2015）在《无导数最优化中的模式搜索算法研究》一文中研究指出模式搜索算法属于最优化领域中的无导数优化范畴,是针对最优化问题中目标函数无导数信息可以利用而设计的只利用函数值信息的算法。模式搜索算法的特点是直观,简洁,是其它优化算法失效时优先考虑的算法。其缺点是由于算法设计只利用目标函数的函数值信息,无法利用有效的函数曲率信息,而导致大多数同类算法的运行效率较慢。为了使模式搜索算法得到更快的收敛速度,更好的数值结果,基于经典的模式搜索以及子空间技巧,本文引入了一个参数M,通过控制成功迭代以后的延伸搜索,充分利用当前迭代点附近的下降信息。使算法尽可能的利用已经获得的局部信息。具体是在找到的下降方向上为了得到更好的解我们最多进行M步搜索。我们测试了不同的数值,实验数据证明当M?2时,算法效果最好。本文的第二部分工作是将上述方法推广到简单有界约束的最优化问题,同样利用子空间搜索技巧,提出了一种改进的无导数最优化算法,具体是算法不在同一方向上进行充分搜索,而是当算法在当前迭代点搜寻两个不同的下降方向,然后对这两个方向进行复合,形成搜索子空间,然后在复合方向上利用延伸压缩等技巧进行搜索。最后,本文根据算法进行了大量的数值实验,结果表明,我们提出的改进算法具有较高的运算效率。(本文来源于《河北大学》期刊2015-06-01）
杨潇[10]（2014）在《界约束非线性最小二乘问题的无导数算法》一文中研究指出在物理、生物、经济、工程结构、电路设计、航天航空等领域中的很多非线性最小二乘问题如同一个“黑匣子”一样,我们很难得到具体的函数表达式,只能通过做实验等方法来取得函数值,想获得其导数值更是几乎不可能。本文针对这类特殊的问题,在Powell的无导数算法的基础上,充分利用最小二乘问题本身的特殊结构,采用函数逼近的方法并通过信赖域技巧来进行算法设计。我们通过截断共轭梯度法来求得步长,同时通过投影算子把其投在可行域内。此外,我们还专门设计了治疗步骤来不断地调整逼近模型,减小误差,使算法更加有效。当误差累积到一定程度时,则通过补救步骤来重新选择插值点集并重建模型。本算法的优点在于能够克服拟牛顿法的缺陷,有效处理存在白噪声的问题,也特别适用于那些目标函数值的计算成本很高的问题。我们在有或无白噪声的情况下将算法与Matlab中的无导数算法进行了比较;此外,我们还在真正“黑匣子”的状态下,通过CUTEst测试环境进行了实验,检验算法的效率。(本文来源于《上海交通大学》期刊2014-12-01）
无导数算法论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
在国防工程建设、工农业生产等领域存在着大量的无导数优化问题,网格自适应直接搜索算法、单纯形法和信赖域方法等是求解无导数优化问题的有效方法。其中,信赖域方法求解无导数优化问题具有较好的实验效果,成为目前较为活跃的研究领域之一。Conejo等人提出了一种有效的无导数信赖域算法(TRDF),但它忽略了更新模型和初始增广Lagrange乘子之间的关系,增加了乘子更新的计算量。本文针对上述算法的不足之处,结合已有的信赖域算法提出两种改进的算法。基于传统的信赖域算法框架,建立约束障碍函数,利用进步栏阈法(PB策略)筛选出插值点集中性质较好的迭代点。同时修正子问题的初始增广Lagrange乘子,提出一种改进TRDF算法,并证明了改进算法的收敛性。不同维数测试问题的数值实验结果表明,改进算法有效减少了求解优化问题的迭代次数,缩短了迭代时间。基于TRDF算法框架,提出一种基于PB策略的修正无导数信赖域算法。该算法采用增广Lagrange函数法求解信赖域子问题,然后对得出的子问题最优解进行推测式线搜索。然后,利用PB策略对探测搜索得到的点列进行筛选,找到满足一定约束条件且使目标函数值充分下降的点作为下一步迭代的迭代点。不同维数测试问题的数值实验结果表明,该算法能有效减少求解优化问题的迭代次数,缩短迭代时间,验证了算法的高效性。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
无导数算法论文参考文献
[1].刘金魁,杜祥林.非线性单调方程组的叁项无导数投影算法[J].数学进展.2018
[2].卢晓宁.无导数优化的信赖域算法研究[D].西安电子科技大学.2018
[3].卢晓宁,刘红卫,杨善学,刘泽显,刘梅.带一般约束无导数优化问题的改进信赖域算法[J].吉林大学学报(理学版).2018
[4].张一梦.基于子空间方法的无导数优化算法研究[D].北京邮电大学.2017
[5].石志娟.Lipschitz函数优化的一个无导数算法[D].厦门大学.2017
[6].刘二涛.无导数全局优化算法研究[D].西安电子科技大学.2017
[7].刘加会.无导数优化的直接搜索算法研究[D].西安电子科技大学.2017
[8].孙强,吕巍.一个部分有界约束非线性优化问题的无导数算法[J].应用数学与计算数学学报.2015
[9].张小利.无导数最优化中的模式搜索算法研究[D].河北大学.2015
[10].杨潇.界约束非线性最小二乘问题的无导数算法[D].上海交通大学.2014