本文主要研究内容
作者（2019）在《正则风险最小化的小批量割平面法（英文）》一文中研究指出：虽然最近求解非凸问题的研究十分热门,尤其在机器学习需要可解释性模型情况下,凸优化仍然重要。求解凸问题可得到全局最优解,故而最终模型可用数学方法解释。通常为防止过度拟合,凸问题被重新描述为一个正则风险最小化问题。无论目标函数是否可微,割平面法是求解凸问题最佳方法之一。然而,割平面法及其变体无法充分应对大规模密集型数据,因为这些算法每次迭代都需访问整个数据集,大大增加了计算负担和内存成本。为解决这一问题,提出一种新的小批量割平面法。该算法通过对小批量采样数据进行计算,得到估计切割平面用于迭代,使其能处理大规模数据。此外,小批量割平面法使用"sink"算子检测和调整噪声估计以保证收敛性。在大量实际数据集上的数值实验证明了小批量割平面法有效性,收敛速度优于正则风险最小化的bundle法和普遍使用的随机梯度下降法。
Abstract
sui ran zui jin qiu jie fei tu wen ti de yan jiu shi fen re men ,you ji zai ji qi xue xi xu yao ke jie shi xing mo xing qing kuang xia ,tu you hua reng ran chong yao 。qiu jie tu wen ti ke de dao quan ju zui you jie ,gu er zui zhong mo xing ke yong shu xue fang fa jie shi 。tong chang wei fang zhi guo du ni ge ,tu wen ti bei chong xin miao shu wei yi ge zheng ze feng xian zui xiao hua wen ti 。mo lun mu biao han shu shi fou ke wei ,ge ping mian fa shi qiu jie tu wen ti zui jia fang fa zhi yi 。ran er ,ge ping mian fa ji ji bian ti mo fa chong fen ying dui da gui mo mi ji xing shu ju ,yin wei zhe xie suan fa mei ci die dai dou xu fang wen zheng ge shu ju ji ,da da zeng jia le ji suan fu dan he nei cun cheng ben 。wei jie jue zhe yi wen ti ,di chu yi chong xin de xiao pi liang ge ping mian fa 。gai suan fa tong guo dui xiao pi liang cai yang shu ju jin hang ji suan ,de dao gu ji qie ge ping mian yong yu die dai ,shi ji neng chu li da gui mo shu ju 。ci wai ,xiao pi liang ge ping mian fa shi yong "sink"suan zi jian ce he diao zheng zao sheng gu ji yi bao zheng shou lian xing 。zai da liang shi ji shu ju ji shang de shu zhi shi yan zheng ming le xiao pi liang ge ping mian fa you xiao xing ,shou lian su du you yu zheng ze feng xian zui xiao hua de bundlefa he pu bian shi yong de sui ji ti du xia jiang fa 。
论文参考文献
论文详细介绍
论文作者分别是来自Frontiers of Information Technology & Electronic Engineering的，发表于刊物Frontiers of Information Technology & Electronic Engineering2019年11期论文，是一篇关于机器学习论文,优化方法论文,梯度法论文,割平面法论文,Frontiers of Information Technology & Electronic Engineering2019年11期论文的文章。本文可供学术参考使用，各位学者可以免费参考阅读下载，文章观点不代表本站观点，资料来自Frontiers of Information Technology & Electronic Engineering2019年11期论文网站，若本站收录的文献无意侵犯了您的著作版权，请联系我们删除。
标签：机器学习论文; 优化方法论文; 梯度法论文; 割平面法论文; Frontiers of Information Technology & Electronic Engineering2019年11期论文;