导读:本文包含了大规模无约束论文开题报告文献综述及选题提纲参考文献,主要关键词:无约束优化,共轭梯度法,线搜索,全局收敛性
大规模无约束论文文献综述
王松华,黎勇[1](2018)在《求解大规模无约束优化问题的一种新的PRP叁项共轭梯度法》一文中研究指出提出了一种修正Polak—Ribiere—Polyak(PRP)叁项共轭梯度算法,在Yuan-Wei-Lu不精确线搜索下,求解大规模无约束优化问题.在适当的条件下,新算法具有充分下降性和信赖域特征,对于非凸函数具有全局收敛性.初步的数值实验表明,新算法比相似算法更有效.(本文来源于《广西民族大学学报(自然科学版)》期刊2018年04期)
陈钰婷[2](2016)在《求解大规模无约束优化问题的共轭梯度法》一文中研究指出对于一般的无约束优化问题而言,共轭梯度法是一类重要的数值计算方法,它介于最速下降法与牛顿法之间.共轭梯度法的优势在于它仅需利用一阶导数的信息,不但能克服最速下降法收敛慢的缺点,又能避免牛顿法需要存储和计算Hessian矩阵并求逆的不足.基于具有的上述优点,共轭梯度法在大规模优化问题中起到了不容忽视的作用.因此,共轭梯度法的研究一直是一个比较热门的研究方向.本文主要研究对传统LS共轭梯度法的修正和基于子空间技术的叁项共轭梯度法.第二章,基于传统的LS共轭梯度法,提出修正的LS法,并证明对于强凸函数,新算法在Wolfe线性搜索条件下可以达到全局收敛.进一步,在所提出算法中加入一个混合策略,则对于一般非凸函数,算法也具有全局收敛性.第叁章,结合子空间技术,提出求解大规模无约束优化问题的一种子空间叁项共轭梯度法,其搜索方向在由负梯度方向,迭代点的差和梯度差张成的子空间上选择.在这个子空间中,通过极小化目标函数的二次近似问题确定搜索方向,它在任何线性搜索条件下都具有充分下降性.在适当假设条件下,证明算法的全局收敛性.第四章,在由当前迭代点的负梯度方向和最近两次迭代的搜索方向张成的子空间上,极小化目标函数的近似子问题,进而推导出另一种子空间叁项共轭梯度法.其搜索方向不仅满足下降条件也满足Dai-Liao共轭梯度条件.在适当假设条件下,证明了算法的收敛性.本文对所提出的所有算法进行了数值实验,并利用性能图对算法的数值计算结果进行了比较分析,说明所提出算法的有效性和适用范围.(本文来源于《北华大学》期刊2016-05-01)
刘亚云[3](2015)在《解大规模部分可分无约束极小化问题的并行分块松弛方法》一文中研究指出为解决含有部分可分函数的大规模无约束极小化问题,通过添加辅助未知变量,使得无约束极小化问题转化成为含有线性约束的可分极小化问题,进而通过增广拉格朗日函数,使问题转化为无约束极小化问题.转化后问题的增广拉格朗日函数可分解成为一组部分可分的增广拉格朗日函数,利用此性质,采用并行分块松弛方法(Parallel Block Relaxation Method,PBR)来解决大规模部分可分无约束优化问题.算法过程的每一次迭代中,无约束极小化子问题都可以被并行解决,随后计算出辅助未知变量,更新拉格朗日乘子.继续迭代,使用终止准则,得出此问题的最优解.数据实验显示,并行分块松弛算法在很大程度上节省了解决大规模部分可分无约束优化问题的计算时间.(本文来源于《周口师范学院学报》期刊2015年05期)
高岩[4](2013)在《基于大规模无约束数据的书写者自适应的中文手写识别系统研究》一文中研究指出中文手写文字识别一直以来都是模式识别领域的一个热点研究方向。同时,无约束的中文手写识别由于其用户书写风格的多样性及手写样本的多变性,长期成为模式识别领域的一大难题。虽然规范的有约束的中文手写识别技术已经取得了非常大的发展,识别率已经达到98%以上,然而无约束的中文手写识别的识别率却远远低于规范的有约束的中文手写识别,识别率仅能达到93%左右。因此,使无约束的中文手写识别达到令人满意的识别性能就是一个急需解决的重要问题。现如今,诸如智能手机,个人掌上电脑,电纸书和平板电脑等带有触摸屏幕的手持电子设备非常流行和普及,这使得在这些电子设备上手写输入方法变得越来越重要。然而由于在实验室采集的手写数据非常有限而不能涵盖所有书写风格,导致在实际应用中手写识别率并不能达到令人满意的效果。尤其是对于某些特定用户,由于其特殊的书写风格,导致对这些用户的识别性能是难以接受的。针对以上的问题,本文致力于研究基于大规模无约束手写数据的书写者自适应的中文手写识别技术,这种技术采用大规模的无约束的手写数据来训练分类器,保证了训练样本中含有尽可能多的书写风格,进而满足大部分书写者的书写体验。同时,本文提出的用户自适应算法可以对特定用户的书写风格进行自适应学习,从而提高该用户的识别率,使该用户获得“越写越准”的用户体验。然而这项研究工作面临许多技术难题,包括,汉字书写风格多变的问题,汉字结构复杂并具有许多难以区分的相似字的问题,数据库的采集与整理的问题,增量学习中原始分类器词典的压缩问题,增量学习中对普通用户的识别率有所降低的问题,以及在鉴别特征空间(Discriminative Feature Space)进行增量学习的问题。本文围绕着这些难点对基于大规模无约束手写数据的书写者自适应的中文手写识别技术展开了一系列的研究,主要工作包括:1.针对中文手写单字识别技术进行了介绍和分析研究。包括手写文字的预处理、特征提取和分类器结合的算法设计等。在此基础上,本文提出了快速的手写识别系统和精确的手写识别系统。实验结果表明,本文提出的快速的手写识别系统的分类器词典大小仅为2Mb,而识别速度达到1.7ms/字。而精确的手写识别系统则可以明显的提高识别率,在SCUT-COUCH2009数据库上可以达到97.04%的识别率,而在CAISA-OLHWDB1数据库上则可达到93.57%。2.针对现如今公开的手写中文数据库手写样本数量有限,涵盖的书写风格和类别数太少的问题,本文采集和整理出了一套完整的无约束的手写数据库。该数据库涵盖类别非常广泛,包括简体单字、繁体单字、中文词组、汉语拼音、英文字母、阿拉伯数字、常用符号和联机文本行等手写数据。该数据库已完成了由190多人书写的完整的数据,字符总数超过3,600,000个。同时,该数据库是第一款公开的拥有大词汇量,高频中文词组和汉语拼音的联机中文手写体数据库,它为联机手写中文词组识别和手写拼音识别等研究领域提供了基础的数据。另外,我们还通过网络采集了大量真实的手写文字样本,总人数超过20万人次,而手写样本超过150,000,000个。这对中文手写识别的研究提供了有力的帮助。3.针对目前提出的增量的修正二次判决函数(Incremental Modified QuadraticDiscriminant Fuction, IMQDF)方法需要巨大的参数存储量,同时会降低对于普通用户书写的识别率的问题,本文提出了一种平滑压缩的IMQDF算法。这种平滑压缩算法可以大幅降低IMQDF算法所需的参数存储量,仅为原存储量的1/50,同时还可以相对提高对于该特定用户和其他普通用户的书写识别率。同时,本文还提出了一种基于特征子空间的IMQDF算法,这种算法可以快速的将MQDF分类器变换到新的子空间中,大大的降低了运算时间。4.针对目前许多先进的手写识别算法由于其运算复杂,存储量大等原因,无法在电子设备中应用的问题,本文提出并设计了一种基于云计算平台的手写识别系统。由于云服务器端的强大的计算能力以及足够大的存储空间,更加精确的手写分类器以及用户书写自适应系统等许多先进的手写识别算法得以应用其中。因此不仅可以提高普通用户的识别率,还可以使特定用户获得“越写越准”的用户体验。总之,基于大规模无约束手写数据的书写者自适应的中文手写识别技术的研究是一个涉及手写文字识别、机器学习、图像处理和增量学习等多个领域的综合研究项目。通过对特定用户的书写风格的增量学习,可以大大提高对该用户的书写样本的识别率,同时可以不降低对于其他普通用户的识别率,这可以让所有用户获得更人性化的用户体验。这些特点都说明用户自适应的中文手写识别技术将是中文手写识别的一个重要的发展方向。(本文来源于《华南理工大学》期刊2013-04-01)
侯亚亭[5](2012)在《大规模无约束优化的一类修正有限存储BFGS算法》一文中研究指出针对大规模无约束优化问题,将非单调线搜索模型用于有限存储BFGS算法,构建一种修正有限存储BFGS算法,并建立算法的全局收敛及超线性收敛性,从标准试验函数库CUTE中选择测试函数进行数值实验,结果表明了算法的有效性.(本文来源于《滨州学院学报》期刊2012年06期)
周群艳,陈俊[6](2012)在《一个解大规模无约束优化问题的全局梯度法(英文)》一文中研究指出本文提出一种新的解大规模无约束优化问题的全局收敛的梯度法.新算法沿着负梯度方向选择步长,而初始步长根据目标函数的海赛矩阵的近似数量矩阵来确定.理论上证明了新算法产生的点列的每个聚点都是稳定的,数值试验表明新算法是可靠且有效的.(本文来源于《应用数学》期刊2012年01期)
陈泽[7](2011)在《解大规模无约束优化问题的移动渐近线和共轭梯度混合算法》一文中研究指出移动渐近线模型法,是一类有竞争力的优化方法,最初用于求解工程上经常出现的结构优化问题,经过一系列的修正改进,在解大规模非线性优化问题时效果较好.共轭梯度法十分简便,是常用的解大规模非线性优化问题最有效的算法之一.本文的主要思想是将移动渐近线与共轭梯度相结合,期望获得一个有优势的混合算法.论文重新选择渐近线以及相关的参数,得到了新的移动渐近线模型,随后运用谱共轭梯度法(或BFGS预条件的共轭梯度法)的思想,提出了一个解大规模非线性优化问题的移动渐近线与共轭梯度混合的新算法.最后论文证明了新算法的全局收敛性,并进行了数值比较实验.论文共分五章.第一章简要介绍了最优化的相关问题及本文研究的问题.第二章对移动渐近线模型法和共轭梯度法的研究进展情况进行了简要介绍.第叁章给出了移动渐近线和共轭梯度混合算法搜索方向的构造原则,分析其下降性,并讨论其中的参数选取.在第四章中,我们给出了求解大规模优化问题的移动渐近线和共轭梯度混合算法步骤,证明了新算法的全局收敛性.在第五章中,我们对第四章中提出的新算法进行数值比较实验,分析数值结果,得出相关结论.最后,理论与数值实验结果表明本文提出的算法是一个值得关注的有效算法.(本文来源于《南京航空航天大学》期刊2011-12-01)
钱小燕,施庆生,刘浩,石岿然[8](2011)在《大规模无约束优化的一族LBFGS类算法(英文)》一文中研究指出尝试在有限存储类算法中利用目标函数值所提供的信息.首先利用插值条件构造了一个新的二次函数逼近目标函数,得到了一个新的弱割线方程,然后将此弱割线方程与袁[1]的弱割线方程相结合,给出了一族包括标准LBFGS的有限存储BFGS类算法,证明了这族算法的收敛性.从标准试验函数库CUTE中选择试验函数进行了数值试验,试验结果表明这族算法的数值表现都与标准LBFGS类似.(本文来源于《运筹学学报》期刊2011年03期)
周群艳[9](2011)在《解大规模无约束优化的自适应过滤信赖域法》一文中研究指出提出一种解大规模无约束优化问题的自适应过滤信赖域法。用目标函数的梯度及迭代点的信息来构造目标函数海赛矩阵的近似数量矩阵,引进了过滤技术和自适应技术,大大提高了计算效率。从理论上证明了新算法的全局收敛性,数值试验结果也表明了新算法的有效性。(本文来源于《计算机工程与应用》期刊2011年20期)
李燕[10](2010)在《求解大规模无约束优化与约束单调方程组的下降PRP共轭梯度法》一文中研究指出共轭梯度算法是求解最优化问题的有效算法,它特别适合于求解大规模的最优化问题.这一类算法的一个显着的优点是它具有较好的收敛性,而且存储量也很小.但是,大部分共轭梯度法不能保证产生下降方向,有些共轭梯度算法虽然具有下降性,但是也很强地依赖于算法所采用的线搜索.本论文研究一种基于新的共轭条件的PRP共轭梯度算法,主要讨论此方法的收敛性和数值表现.全文共分四章.第一章,我们简要地介绍了数值最优化的发展背景,本文所用到的一些记号、基本概念、定义及本文的主要结果.第二章,我们在Li, Tang和Wei的修正Ploak-Ribi`ere-Polyak(PRP)共轭梯度法的基础上[1],提出一种求解非凸极小化化问题的新方法,此方法的一个显着特点是搜索方向总保持下降,使用Armijo型线搜索我们证明此方法具有全局收敛性,并对所提算法做了大量的数值试验,结果表明我们的算法非常有效.第叁章,我们提出求解凸约束的非线性单调方程组新的PRP共轭梯度算法.该算法的优点是,可用于求解大规模非线性方程组的问题,并证明了该算法的全局收敛性.第四章,总结本文,从而使我们对求解无约束的非线性共轭梯度法有了更进一步的认识,并提出一些值得继续研究的问题.(本文来源于《河南大学》期刊2010-05-01)
大规模无约束论文开题报告
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
对于一般的无约束优化问题而言,共轭梯度法是一类重要的数值计算方法,它介于最速下降法与牛顿法之间.共轭梯度法的优势在于它仅需利用一阶导数的信息,不但能克服最速下降法收敛慢的缺点,又能避免牛顿法需要存储和计算Hessian矩阵并求逆的不足.基于具有的上述优点,共轭梯度法在大规模优化问题中起到了不容忽视的作用.因此,共轭梯度法的研究一直是一个比较热门的研究方向.本文主要研究对传统LS共轭梯度法的修正和基于子空间技术的叁项共轭梯度法.第二章,基于传统的LS共轭梯度法,提出修正的LS法,并证明对于强凸函数,新算法在Wolfe线性搜索条件下可以达到全局收敛.进一步,在所提出算法中加入一个混合策略,则对于一般非凸函数,算法也具有全局收敛性.第叁章,结合子空间技术,提出求解大规模无约束优化问题的一种子空间叁项共轭梯度法,其搜索方向在由负梯度方向,迭代点的差和梯度差张成的子空间上选择.在这个子空间中,通过极小化目标函数的二次近似问题确定搜索方向,它在任何线性搜索条件下都具有充分下降性.在适当假设条件下,证明算法的全局收敛性.第四章,在由当前迭代点的负梯度方向和最近两次迭代的搜索方向张成的子空间上,极小化目标函数的近似子问题,进而推导出另一种子空间叁项共轭梯度法.其搜索方向不仅满足下降条件也满足Dai-Liao共轭梯度条件.在适当假设条件下,证明了算法的收敛性.本文对所提出的所有算法进行了数值实验,并利用性能图对算法的数值计算结果进行了比较分析,说明所提出算法的有效性和适用范围.
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
大规模无约束论文参考文献
[1].王松华,黎勇.求解大规模无约束优化问题的一种新的PRP叁项共轭梯度法[J].广西民族大学学报(自然科学版).2018
[2].陈钰婷.求解大规模无约束优化问题的共轭梯度法[D].北华大学.2016
[3].刘亚云.解大规模部分可分无约束极小化问题的并行分块松弛方法[J].周口师范学院学报.2015
[4].高岩.基于大规模无约束数据的书写者自适应的中文手写识别系统研究[D].华南理工大学.2013
[5].侯亚亭.大规模无约束优化的一类修正有限存储BFGS算法[J].滨州学院学报.2012
[6].周群艳,陈俊.一个解大规模无约束优化问题的全局梯度法(英文)[J].应用数学.2012
[7].陈泽.解大规模无约束优化问题的移动渐近线和共轭梯度混合算法[D].南京航空航天大学.2011
[8].钱小燕,施庆生,刘浩,石岿然.大规模无约束优化的一族LBFGS类算法(英文)[J].运筹学学报.2011
[9].周群艳.解大规模无约束优化的自适应过滤信赖域法[J].计算机工程与应用.2011
[10].李燕.求解大规模无约束优化与约束单调方程组的下降PRP共轭梯度法[D].河南大学.2010