导读:本文包含了变分贝叶斯算法论文开题报告文献综述及选题提纲参考文献，主要关键词:线性变参数,变分贝叶斯算法,参数估计,不确定性
变分贝叶斯算法论文文献综述
李寒霜[1]（2019）在《基于变分贝叶斯算法的线性变参数系统辨识》一文中研究指出工业领域技术的进步离不开控制与优化策略的发展,在对系统实施控制与优化的过程中,多以系统模型为基础。然而工业过程日益庞大的规模和复杂性使得建立相应的机理模型极其困难,甚至是无法实现的。由于过程数据能够包含系统运行的主要动态特性,因此基于数据驱动的建模方法为复杂工业过程的建模提供了新的解决方案。其中,线性变参数(Liner Parameter Varying,LPV)模型具有类似线性模型的简单结构,通过时变的参数便可精确描述复杂的非线性系统,获得了广泛关注。考虑到实际工业过程生产环节及生产环境的复杂多变,会导致被建模系统呈现不确定性,传统的LPV系统辨识方法忽略了这一问题,难以保证系统的辨识精度。基于此,论文主要在变分贝叶斯(Variational Bayesian,VB)算法的框架下讨论LPV系统的辨识问题,具体研究内容如下:(1)研究了VB算法框架下的LPV系统的辨识问题。针对含有不确定性的工业过程,论文提出了基于VB算法的LPV系统的辨识方法。该方法将系统的不确定性通过参数的不确定性进行刻画,即将未知参数视为随机变量,并给定参数相应的先验分布,通过迭代地最大化目标函数的下界,从而求得参数的概率分布。不仅可获得参数的点估计,同时量化了估计值的不确定程度,最终通过仿真证明了所提辨识方法的优越性。(2)进一步,研究了含未知时延的LPV系统的辨识问题。论文针对含有定常时延和分段时变时延的非线性系统,分别提出了基于VB算法的系统辨识方法。为处理系统的时延特性,该方法将未知时延当作隐变量,同时以概率分布的形式描述模型参数的不确定性,通过解析近似的推理方法,可估计得到时延及各参数的后验分布,并基于极大后验概率准则获得时延的点估计值,仿真结果表明了该方法的有效性。(3)研究了量测数据缺失下的LPV系统的辨识问题。考虑到系统的输出数据随机缺失的问题,基于VB算法推导得到LPV系统的递推辨识算法。在算法中,将缺失数据和采样数据的模型归属视为隐变量,通过引入隐变量和未知参数的联合概率分布构造出边缘似然函数的下界,反复最大化该下界函数,可估计得到缺失数据和未知参数的后验分布。该方法以概率分布迭代代替了传统辨识算法中的单点迭代,最终通过仿真验证了所提方法可以获得较高的参数估计精度。(本文来源于《江南大学》期刊2019-06-01）
华俊豪[2]（2018）在《分布式变分贝叶斯算法及其应用》一文中研究指出随着现代通信技术、嵌入式系统、分布式计算系统的蓬勃发展,传感器网络上的分布式信息处理受到了越来越广泛的关注。为实现传感器网络上更加可靠更加鲁棒的信息处理,完全去中心化的分布式处理机制逐渐被提出。在本文,我们考虑网络中的各节点使用自身采集的数据进行局部计算,并且与邻居节点进行少量的信息交换,从而实现完全去中心化的分布式信息处理。在当前的分布式信息处理的算法研究中,数据建模主要分为两种模式:频率建模和贝叶斯建模。基于频率建模的分布式算法已被广泛研究,而基于贝叶斯建模的分布式算法则相对较少。一方面是由于贝叶斯模型本身相较于非贝叶斯模型会更复杂,研究的难度更高;另一方面是由于贝叶斯模型中的参数估计和推断问题往往是非常困难的。虽然存在困难,但贝叶斯建模具有许多优点。首先,贝叶斯方法基于概率论能够对模型结构、参数和数据噪声的不确定性进行建模。其次,通过贝叶斯法则我们能够推断未知参数、调整模型、从数据中学习并作出预测。关于分布式贝叶斯学习的研究具有很高的学术和应用价值。然而在贝叶斯学习中,后验概率的计算通常存在困难。一种经典且广泛使用的近似方法是变分贝叶斯。本文针对网络上的贝叶斯学习问题,系统地研究了分布式变分贝叶斯算法及其在联合稀疏信号恢复、鲁棒卡尔曼滤波和扩展目标跟踪问题中的应用。具体地,针对贝叶斯框架下的分布式推断/估计问题,本文提出了两种通用的分布式变分贝叶斯算法,可适用于一大类共轭指数族模型。我们基于概率空间的黎曼几何,将关于概率分布的优化问题转化关于自然参数向量的优化问题。然后基于随机自然梯度和扩散策略,以及基于交替方向乘子法(ADMM),分别对优化问题进行求解。我们将这两种算法应用于贝叶斯高斯混合模型的分布式推断/估计问题中。仿真结果表明,本文提出的分布式算法具有与相对应的集中式算法相接近的性能。针对分布式联合稀疏信号恢复问题,本文提出了一种基于量化通信的联合稀疏贝叶斯学习算法。在以往的工作中,一般假设节点间的传输数据是实值的并且具有无限精度。但实际情况下,由于传感器网络具有有限的通信带宽和信道容量,对传输数据进行数字量化不可避免。本文考虑传输数据是被量化的。我们建立了一个完全层次联合稀疏贝叶斯学习模型,并提出一个新的分布式变分贝叶斯算法,其节点间仅交换量化数据。我们从理论上分析了该量化分布式算法的收敛性。仿真实验表明,量化分布式算法甚至比相对应的非量化分布式算法和集中式算法具有更好的信号恢复性能。针对分布式卡尔曼滤波问题,本文考虑了过程和量测噪声的协方差都是未知的情况,提出了一种分布式且在线的鲁棒卡尔曼滤波算法。我们引入了一个改进的状态空间模型并提出了相应的贝叶斯模型。该模型能够处理野值和重尾噪声,并且能提高卡尔曼滤波器的鲁棒性。使用此模型,我们通过变分贝叶斯方法推导了集中式的鲁棒卡尔曼滤波。然后使用ADMM方法将其扩展到分布式场景下。仿真实验表明,当测量数据或目标状态存在野值时,该分布式鲁棒卡尔曼滤波算法比标准的卡尔曼滤波算法性能好得多。针对目标跟踪问题,传统的方法一般假设目标是一个点目标。在本文,我们考虑目标是具有一定空间结构的物体,其不仅包括运动状态还包括物体的轮廓。针对传感器网络中的扩展目标跟踪问题,我们提出一种分布式贝叶斯模型。基于该模型,我们先通过变分贝叶斯方法推导了一个集中式的扩展目标跟踪算法,然后基于ADMM提出了相应的分布式算法。该算法能够同时估计扩展目标状态(运动状态和轮廓)以及量测噪声协方差。最后,仿真实验表明,该算法在扩展目标跟踪和群目标跟踪两个场景下都有上佳的性能表现。(本文来源于《浙江大学》期刊2018-04-16）
李寒霜,赵忠盖,刘飞[3]（2018）在《基于变分贝叶斯算法的线性变参数系统辨识》一文中研究指出线性变参数系统(LPV)将多阶段、非线性的过程建模转化为线性多模型的辨识问题,是解决非线性过程建模的一个有效手段。由于实际工业过程存在各种干扰因素,导致被建模系统呈现随机性及模型参数的不确定性。针对这一问题,考虑采用变分贝叶斯(VB)算法对LPV模型进行辨识。该算法首先给定参数相应的先验分布,通过最大化目标函数的下界,从而估计得到参数的后验分布。不仅可实现对参数的点估计,同时量化了估计值的不确定性。针对典型二阶过程和连续搅拌反应釜(CSTR),运用提出的算法进行仿真实验,表明了该贝叶斯估计方法的优越性。(本文来源于《化工学报》期刊2018年07期）
范涛,李志农,岳秀廷[4]（2010）在《基于变分贝叶斯算法和MLP网络的后非线性混合盲源分离方法研究》一文中研究指出传统的后非线性模型往往要求其后非线性函数是可逆的,否则无法进行源信号的分离。然而在实际中,这一要求并不完全满足。针对此不足,结合变分贝叶斯推论和多层感知器网络,提出一种改进的多层感知器后非线性模型,它通过多层感知器来模拟后非线性函数,实现对不可逆后非线性函数混合的盲分离。仿真和实验结果表明该方法是有效的。(本文来源于《振动与冲击》期刊2010年06期）
变分贝叶斯算法论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
随着现代通信技术、嵌入式系统、分布式计算系统的蓬勃发展,传感器网络上的分布式信息处理受到了越来越广泛的关注。为实现传感器网络上更加可靠更加鲁棒的信息处理,完全去中心化的分布式处理机制逐渐被提出。在本文,我们考虑网络中的各节点使用自身采集的数据进行局部计算,并且与邻居节点进行少量的信息交换,从而实现完全去中心化的分布式信息处理。在当前的分布式信息处理的算法研究中,数据建模主要分为两种模式:频率建模和贝叶斯建模。基于频率建模的分布式算法已被广泛研究,而基于贝叶斯建模的分布式算法则相对较少。一方面是由于贝叶斯模型本身相较于非贝叶斯模型会更复杂,研究的难度更高;另一方面是由于贝叶斯模型中的参数估计和推断问题往往是非常困难的。虽然存在困难,但贝叶斯建模具有许多优点。首先,贝叶斯方法基于概率论能够对模型结构、参数和数据噪声的不确定性进行建模。其次,通过贝叶斯法则我们能够推断未知参数、调整模型、从数据中学习并作出预测。关于分布式贝叶斯学习的研究具有很高的学术和应用价值。然而在贝叶斯学习中,后验概率的计算通常存在困难。一种经典且广泛使用的近似方法是变分贝叶斯。本文针对网络上的贝叶斯学习问题,系统地研究了分布式变分贝叶斯算法及其在联合稀疏信号恢复、鲁棒卡尔曼滤波和扩展目标跟踪问题中的应用。具体地,针对贝叶斯框架下的分布式推断/估计问题,本文提出了两种通用的分布式变分贝叶斯算法,可适用于一大类共轭指数族模型。我们基于概率空间的黎曼几何,将关于概率分布的优化问题转化关于自然参数向量的优化问题。然后基于随机自然梯度和扩散策略,以及基于交替方向乘子法(ADMM),分别对优化问题进行求解。我们将这两种算法应用于贝叶斯高斯混合模型的分布式推断/估计问题中。仿真结果表明,本文提出的分布式算法具有与相对应的集中式算法相接近的性能。针对分布式联合稀疏信号恢复问题,本文提出了一种基于量化通信的联合稀疏贝叶斯学习算法。在以往的工作中,一般假设节点间的传输数据是实值的并且具有无限精度。但实际情况下,由于传感器网络具有有限的通信带宽和信道容量,对传输数据进行数字量化不可避免。本文考虑传输数据是被量化的。我们建立了一个完全层次联合稀疏贝叶斯学习模型,并提出一个新的分布式变分贝叶斯算法,其节点间仅交换量化数据。我们从理论上分析了该量化分布式算法的收敛性。仿真实验表明,量化分布式算法甚至比相对应的非量化分布式算法和集中式算法具有更好的信号恢复性能。针对分布式卡尔曼滤波问题,本文考虑了过程和量测噪声的协方差都是未知的情况,提出了一种分布式且在线的鲁棒卡尔曼滤波算法。我们引入了一个改进的状态空间模型并提出了相应的贝叶斯模型。该模型能够处理野值和重尾噪声,并且能提高卡尔曼滤波器的鲁棒性。使用此模型,我们通过变分贝叶斯方法推导了集中式的鲁棒卡尔曼滤波。然后使用ADMM方法将其扩展到分布式场景下。仿真实验表明,当测量数据或目标状态存在野值时,该分布式鲁棒卡尔曼滤波算法比标准的卡尔曼滤波算法性能好得多。针对目标跟踪问题,传统的方法一般假设目标是一个点目标。在本文,我们考虑目标是具有一定空间结构的物体,其不仅包括运动状态还包括物体的轮廓。针对传感器网络中的扩展目标跟踪问题,我们提出一种分布式贝叶斯模型。基于该模型,我们先通过变分贝叶斯方法推导了一个集中式的扩展目标跟踪算法,然后基于ADMM提出了相应的分布式算法。该算法能够同时估计扩展目标状态(运动状态和轮廓)以及量测噪声协方差。最后,仿真实验表明,该算法在扩展目标跟踪和群目标跟踪两个场景下都有上佳的性能表现。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
变分贝叶斯算法论文参考文献
[1].李寒霜.基于变分贝叶斯算法的线性变参数系统辨识[D].江南大学.2019
[2].华俊豪.分布式变分贝叶斯算法及其应用[D].浙江大学.2018
[3].李寒霜,赵忠盖,刘飞.基于变分贝叶斯算法的线性变参数系统辨识[J].化工学报.2018
[4].范涛,李志农,岳秀廷.基于变分贝叶斯算法和MLP网络的后非线性混合盲源分离方法研究[J].振动与冲击.2010