导读:本文包含了正则方向论文开题报告文献综述及选题提纲参考文献，主要关键词:随机优化,图形引导最小化,超梯度法,融合逻辑回归
正则方向论文文献综述
Qiang,LAN,Lin-bo,QIAO,Yi-jie,WANG[1]（2018）在《图引导正则最小化的随机超梯度的交替方向方法（英文）》一文中研究指出提出并比较额外梯度交替方向的几种随机变体方法,称为带拉格朗日函数(SEGL)的随机超梯度交替方向法和带增广拉格朗日函数(SEGAL)的随机超梯度交替方向法。这些方法由两个大规模凸目标函数组成,可最小化图形引导的优化问题。机器学习中一些重要应用遵循图导引优化公式等作为线性回归、逻辑回归、Lasso结构化扩展以及结构化正则化逻辑回归的原则。通过融合逻辑回归和图形引导正则化回归,在几类数据集上进行了试验。试验结果表明所提算法优于其他竞争算法,且在实际应用中,SEGAL比SEGL性能更好。(本文来源于《Frontiers of Information Technology & Electronic Engineering》期刊2018年06期）
刘知音[2]（2018）在《基于交替方向乘子算法的l_1正则化极限学习机的算法研究》一文中研究指出随着计算机性能的提升,神经网络的快速发展,选择合适的网络结构避免前馈神经网络出现的过拟合问题,求取更优的参数一直是研究的重点。针对高维度非线性系统回归以及数据分类问题,本文提出了基于交替方向乘子算法的l1正则化极限学习机算法,论文的主要研究成果如下:1.提出基于交替方向乘子算法(alternative direction method of multipliers,ADMM)的l1正则化极限学习机算法(l1-regularized-ELM),并与偏最小二乘(Partial Least Squares,PLS)结合,提出基于偏最小二乘法的l1正则化极限学习机学习算法(PLS-l1-ELM),为了提高网络模型精度,提出混合预测模型。在目标函数中加入l1正则化能产生稀疏模型,同时能够有效地避免由于隐含层结点过多而造成的过拟合问题,增强神经网络的稳定性和泛化能力。但由于加入了l1正则化惩罚项,目标函数不可微,在规定的计算复杂度下,用常规的凸优化方法很难求解最优值。本文介绍了ADMM分布式求解该凸优化问题的方法,其具有对偶分解和增广拉格朗日方法的共同特点,实验仿真表明提出的方法具有良好的性能。文章中用常微分方程(Ordinary differential equation,ODE)的方法给出了l1-regularized-ELM 的收敛性证明。为了进一步提高预测模型的鲁棒性和精确度,本文提出了混合预测模型,即在先分别建立PLS,l1-regularized-ELM和PLS-l1-ELM叁个子模型后,通过主元回归分析(Principal Component Regression,PCR)将叁个子模型组合成一个混合预测模型。将PLS,l1-regularized-ELM,PLS-l1-ELM和混合预测模型分别用在航煤干点软测量中,证明了混合预测模型具有较高的建模精度。2.提出基于在线交替方向乘子方法的神经网络稀疏监督学习算法随着数据样本量越来越多,数据维度越来越大,很容易陷入“维数灾难”,而且真实数据中通常会有很多噪声或者无用的信息。如何在这些干扰信息下快速精准地获得数据模型至关重要,尤其是在线建立数学模型以及对数据进行分类是非常有意义的。我们根据递推最小二乘的思想,推导出递推形式的交替方向乘子算法,改进的交替方向乘子算法降低了算法复杂度,能够实现在线学习。实验结果表明,该算法针对具有较高维度的数据处理问题具有更好的建模效果和更高的分类精度。(本文来源于《北京化工大学》期刊2018-05-31）
孙琦[3]（2018）在《基于正则化滤波和奇异值分解的条纹模式方向估计和滤波方法研究》一文中研究指出由于光学干涉测量技术具有非接触、高灵敏度和全场测量的特点,已经被广泛应用于科学研究和工程实践中。在光学干涉成像过程中形成的条纹模式包含了被测物体形变前后的相位差,通过提取条纹模式的相位信息可以得到被测物体的测量信息。由于成像原理和外界环境等因素的影响,条纹模式受到严重的噪声影响,给条纹模式相位信息的提取带来了困难。虽然人们根据条纹模式的特殊性提出了许多用来消除噪声的方法,但是仍然不能满足工程实际对准确性的较高要求。条纹模式的滤波和相位提取一直都是国际光学测量领域中研究的热点与关键问题。定向扩散方程滤波技术通过构造沿着条纹切线和法线方向的不同扩散达到对于条纹模式的方向性滤波.本文利用定向扩散方程滤波技术的思想,在不同的条纹模式噪声背景下,提出了更准确的条纹方向估计、更鲁棒的导数计算和更合理的法线方向扩散方法,得到了更好的条纹模式滤波和方向估计结果。具体地说,本文在以下四个方面进行了创新性的研究工作。1.正则化奇异值分解技术。基于梯度的方法是一种经典的条纹方向估计技术;基于特征向量的方法是相干增强扩散滤波技术中构造扩散张量的关键步骤;迭代控制核回归方法是一种利用自适应核函数进行图像去噪的技术。本文综合了这些先进技术,提出了一种估计条纹方向的正则化奇异值分解技术,得到了较好的方向估计结果。2.基于正则化滤波的选择性二阶单向扩散方程滤波技术。选择性二阶单向扩散方程滤波技术通过直接对有噪条纹模式求导和估计条纹方向进行滤波。对于有噪的条纹模式,本文利用正则化滤波减少噪声对条纹模式的影响,构造了更鲁棒的一阶和二阶偏导数估计,得到了较好的滤波效果。3.基于正则化奇异值分解的定向扩散滤波技术。本文利用所提出的正则化奇异值分解技术得到条纹方向估计,构造沿着更准确的条纹方向的定向扩散,得到了较好的滤波效果。4.基于正则化奇异值分解和法向扩散的选择性二阶双向扩散滤波技术。本文利用选择性二阶单向扩散滤波技术构造沿着正则化奇异值分解技术估计的条纹方向的主要扩散,同时利用相干增强扩散滤波构造沿着条纹法线方向的辅助扩散,提出了双向扩散滤波技术,在不同条纹密度区域都得到了较好的滤波效果。利用本文所提出的先进方法对于电子散斑干涉技术获得的条纹模式进行了大量的实验,得到了鲁棒的条纹方向估计,并在保持条纹重要信息的同时较好地滤除了噪声,为之后的相位提取和精确测量奠定了基础,具有重要的科学价值和实践意义。本论文的研究进一步加强了计算数学和信息科学的协同创新,深化并丰富了方向估计和图像去噪技术的研究,可望进一步推广到其它图像处理的应用领域中。(本文来源于《山东大学》期刊2018-05-24）
孙圣姿,陈文标,余圣钻[4]（2018）在《基于正则化盲反卷积改进方法的特定方向运动模糊图像复原》一文中研究指出针对有关图像模糊复原算法的问题,将处理过程分为四部分:运用二维变分模态分解与自适应中值滤波去噪方法,对图像进行预处理;将模糊图像数值化,运用高频区域下稀疏先验的正则化方法对模糊核进行估计,根据评价指标对其进行准确度的检验;利用改进的全变分正则化盲反卷积算法构建点扩散函数,得到的均方误差为MSE2=8.5639×10-4,峰值信噪比为PSNR2=181.4531;对模型中的模糊核函数适当修正,力求能够将其运用到更为广泛的图像复原领域中。(本文来源于《中国新通信》期刊2018年10期）
王彦飞,樊树芳[5]（2018）在《地震时频分析的加权l_1范数稀疏正则化及交替方向乘子算法》一文中研究指出地震时频分析在地震信号处理中具有重要意义.本文研究一种基于反演的稀疏算法来对反射地震记录进行时频分析.首先使用窗口逆Fourier变换来形成正演问题,然后建立一个加权l_1范数约束的最小化模型,用于求解未知模型参数向量(Fourier频率域系数).为了实现最小化问题,本文提出应用加权交替方向乘子法(ADMM)进行求解.数值试验部分针对短时Fourier变换(STFT)、连续小波变换(CWT)和本文提出的算法进行了对比结果分析.从比较结果可以看出,本文提出的优化模型和相关算法可以得到比STFT和CWT更高分辨率的地震数据的频谱分解.(本文来源于《中国科学:数学》期刊2018年03期）
李斐,冯远静,吴烨[6]（2017）在《基于全变差空间正则化的纤维方向分布估计》一文中研究指出提高白质纤维交叉重构能力是有效提高纤维跟踪技术的前提之一,目前大多纤维重构方法都是基于白质体素的独立重构,没有考虑到纤维的连续性特征,这就促使文章从全局范围考虑提高白质纤维重构能力.文章提出了一种基于全变差空间正则化的纤维方向分布估计方法,该方法首先利用字典基分布的球面反卷积策略拟合多壳采样信号,为了能够适用于单壳和多壳采样方案,文章重新定义了广义的纤维响应函数;进而在q空间中定义基函数系数的全变差正则化约束,旨在减少不必要的方向信息,降低因噪声引起的方向偏差,以获得纤维方向的空间局部一致性.实验分别在模拟数据和实际数据下进行,分别采用单壳和多壳数据验证了文章所提方法能够以更高效的性能实现纤维方向估计,相对于其他算法显着提高了纤维的连续性.(本文来源于《系统科学与数学》期刊2017年01期）
刘鹏飞,肖亮,黄丽丽[7]（2014）在《图像方向纹理保持的方向全变差正则化去噪模型及其主优化算法》一文中研究指出正则化方法是目前解决图像去噪不适定性的一条有效途径,但对于图像中纹理细节的保持仍是棘手的问题.本文针对图像方向纹理保持的去噪问题,给出了图像方向纹理保持的方向全变差正则化去噪模型.分析和证明了方向全变差的若干等价表示性质,并基于该性质迭代构造代理泛函和B样条离散差分逼近方法,给出了一种主优化去噪算法.数值实验表明,该方法在去除噪声、抑制图像的"阶梯效应"和保持图像方向纹理等方面取得较好的效果.(本文来源于《电子学报》期刊2014年11期）
蔡盛盛,张佳维,冯大航,鲍明,王智[8]（2014）在《改进正则化正交匹配追踪波达方向估计方法》一文中研究指出针对稀疏阵列模型下匹配追踪波达方向估计方法稳定性不足的问题,提出了改进的正则化正交匹配追踪波达方向估计方法——TROMPDOA(T-transform Regularized Orthogonal Matching Pursuit Directions of Arrival Estimation).仿真表明,TROMPDOA方法在计算复杂度上与原有正交匹配追踪波达方向估计方法OMPDOA(Orthogonal Matching Pursuit Directions of Arrival Estimation)相近,但在估计稳定性上要优于OMPDOA方法,特别是在低信噪比及信号源之间的角度较近时,TROMPDOA方法比OMPDOA方法稳定性提高1倍.实验验证了TROMPDOA方法适用于单元和多元目标估计,估计精度达到1.5°.(本文来源于《声学学报》期刊2014年01期）
杨真真,杨震[9]（2013）在《压缩感知中基于快速交替方向乘子法的l_0-正则化信号重构》一文中研究指出该文将压缩感知(CS)中信号的重构问题归结为求解l0-正则化问题,针对l0-正则化问题求解比较困难,提出了快速交替方向乘子法(FADMM)。该算法首先将信号的稀疏域的l0-正则化问题通过变量分裂技术转化为约束优化问题;然后引入乘子函数,采用一步Gauss-Seidel思想,对优化问题中的变量极小化;为了加快算法的收敛速度,对变量进行了二次更新,并更新了乘子;最后进行反正交变换,实现对原始信号的重构。将FADMM应用于含噪声图像的重构,进行了仿真实验及对实验结果进行了分析。实验结果表明:FADMM具有更高的峰值信噪比(Peak Signal to Noise Ratio,PSNR)和更快速的收敛速度。(本文来源于《电子与信息学报》期刊2013年04期）
胡琳[10]（2013）在《切波在方向正则性及阈值估计中的应用》一文中研究指出切波方法是在小波基础上发展起来的一种新的多尺度表示方法,具有高度的方向敏感性.对曲线奇异性边缘的目标函数,切波具有近乎最优稀疏表示,克服了传统小波表示高维数据的不足.本文利用离散的切波系研究函数的方向正则性和一类线性逆问题的近似解.首先,为了更好地理解切波的两个应用,我们构造了一类具体的切波；研究了切波的衰减性和方向消失矩性质,分别证明了两类Holder空间两种定义的等价性.这些结果将在本文后面的讨论中用到.其次,利用切波系刻划了函数的方向正则性.结果表明：若函数沿着奇异直线具有较高正则性,而在其它方向具有较低正则性,则相应的切波系数沿该直线的法线方向衰减的慢,而远离法线方向的系数衰减的快.这一命题的逆在一定意义下也成立.这些结果细化了K.Nualtong,S.Sumetkijakan等人的工作.最后,本文利用切波阂值方法研究了统计模型Y=Kf+εW,其中(K*K∫)(?)(ξ)=(b+|ξ|2)-α∫(χξ)具体地,我们验证了叁类经典算子(Riesz分数阶积分算子,Bessel算子和Radon变换1满足上述条件;然后通过函数的切波展开和阂值方法构造了切波阂值估计器,给出它在ε2(A)空间中的收敛阶；证明当K取分数阶积分算子或Bessel算子时,这一估计器还是最优的.我们的结果推广了Colonna-Easley-Guo-Labate定理.(本文来源于《北京工业大学》期刊2013-04-01）
正则方向论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
随着计算机性能的提升,神经网络的快速发展,选择合适的网络结构避免前馈神经网络出现的过拟合问题,求取更优的参数一直是研究的重点。针对高维度非线性系统回归以及数据分类问题,本文提出了基于交替方向乘子算法的l1正则化极限学习机算法,论文的主要研究成果如下:1.提出基于交替方向乘子算法(alternative direction method of multipliers,ADMM)的l1正则化极限学习机算法(l1-regularized-ELM),并与偏最小二乘(Partial Least Squares,PLS)结合,提出基于偏最小二乘法的l1正则化极限学习机学习算法(PLS-l1-ELM),为了提高网络模型精度,提出混合预测模型。在目标函数中加入l1正则化能产生稀疏模型,同时能够有效地避免由于隐含层结点过多而造成的过拟合问题,增强神经网络的稳定性和泛化能力。但由于加入了l1正则化惩罚项,目标函数不可微,在规定的计算复杂度下,用常规的凸优化方法很难求解最优值。本文介绍了ADMM分布式求解该凸优化问题的方法,其具有对偶分解和增广拉格朗日方法的共同特点,实验仿真表明提出的方法具有良好的性能。文章中用常微分方程(Ordinary differential equation,ODE)的方法给出了l1-regularized-ELM 的收敛性证明。为了进一步提高预测模型的鲁棒性和精确度,本文提出了混合预测模型,即在先分别建立PLS,l1-regularized-ELM和PLS-l1-ELM叁个子模型后,通过主元回归分析(Principal Component Regression,PCR)将叁个子模型组合成一个混合预测模型。将PLS,l1-regularized-ELM,PLS-l1-ELM和混合预测模型分别用在航煤干点软测量中,证明了混合预测模型具有较高的建模精度。2.提出基于在线交替方向乘子方法的神经网络稀疏监督学习算法随着数据样本量越来越多,数据维度越来越大,很容易陷入“维数灾难”,而且真实数据中通常会有很多噪声或者无用的信息。如何在这些干扰信息下快速精准地获得数据模型至关重要,尤其是在线建立数学模型以及对数据进行分类是非常有意义的。我们根据递推最小二乘的思想,推导出递推形式的交替方向乘子算法,改进的交替方向乘子算法降低了算法复杂度,能够实现在线学习。实验结果表明,该算法针对具有较高维度的数据处理问题具有更好的建模效果和更高的分类精度。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
正则方向论文参考文献
[1].Qiang,LAN,Lin-bo,QIAO,Yi-jie,WANG.图引导正则最小化的随机超梯度的交替方向方法（英文）[J].FrontiersofInformationTechnology&ElectronicEngineering.2018
[2].刘知音.基于交替方向乘子算法的l_1正则化极限学习机的算法研究[D].北京化工大学.2018
[3].孙琦.基于正则化滤波和奇异值分解的条纹模式方向估计和滤波方法研究[D].山东大学.2018
[4].孙圣姿,陈文标,余圣钻.基于正则化盲反卷积改进方法的特定方向运动模糊图像复原[J].中国新通信.2018
[5].王彦飞,樊树芳.地震时频分析的加权l_1范数稀疏正则化及交替方向乘子算法[J].中国科学:数学.2018
[6].李斐,冯远静,吴烨.基于全变差空间正则化的纤维方向分布估计[J].系统科学与数学.2017
[7].刘鹏飞,肖亮,黄丽丽.图像方向纹理保持的方向全变差正则化去噪模型及其主优化算法[J].电子学报.2014
[8].蔡盛盛,张佳维,冯大航,鲍明,王智.改进正则化正交匹配追踪波达方向估计方法[J].声学学报.2014
[9].杨真真,杨震.压缩感知中基于快速交替方向乘子法的l_0-正则化信号重构[J].电子与信息学报.2013
[10].胡琳.切波在方向正则性及阈值估计中的应用[D].北京工业大学.2013