贝叶斯学习框架论文-孙怡

贝叶斯学习框架论文-孙怡

导读:本文包含了贝叶斯学习框架论文开题报告文献综述及选题提纲参考文献,主要关键词:贝叶斯网络分类器,集成方法,多阶段分类

贝叶斯学习框架论文文献综述

孙怡[1](2019)在《类标签驱动的多阶段贝叶斯网络学习框架》一文中研究指出机器学习的蓬勃发展使得人工智能的研究迎来了新的春天。分类任务是机器学习最核心的任务之一。贝叶斯网络分类器(Bayesian Network Classifier,简写为BNC)凭借其训练成本低而分类精度高、可解释性强、可直接处理多分类问题等优点一直以来都是分类技术领域的研究热点。朴素贝叶斯(Naive Bayes,NB)是最早提出的BNC,它假设在给定类变量的条件下,特征之间相互独立。然而,在特征关系复杂的实际问题中,NB的条件独立性假设往往因过强而难以成立,影响了它的分类精度。树增广的朴素贝叶斯(Tree-augmented Naive Bayes,TAN)放松了NB的条件独立性假设,允许特征之间存在一阶依赖关系。k阶依赖BNC(K-dependence Bayesian Network Classifier,KDB)则更进一步,将特征之间的依赖关系扩展到了k阶。使用集成学习往往能大幅提升BNC的分类精度。机器学习领域中主要有两种集成方法:子模型独立训练的并行集成与子模型训练互相影响的序贯集成。加权的平均TAN(Weighted Averaged TAN,简写为WATAN)就是BNC并行集成的典型代表。多阶段分类是序贯集成方法的一种。它将分类器按照模型的复杂程度串行排列。后续分类器负责修正其前驱的分类结果。这样经过反复完善逐级优化形成最终的分类决策。因多阶段分类具有计算开销小、对精度提升显着、可灵活组合分类器等优点,被广泛应用于多个领域。为了纠正BNC当存在类标签的后验概率与最大后验概率接近时可能发生的误分类以提升BNC的分类精度,本文提出了类标签驱动的多阶段贝叶斯网络学习框架(Multistage Bayesian Network Learning Framework Using a Label-Driven Approach,MBLF)。MBLF将测试实例的分类流程扩展为了叁个阶段,即预处理阶段、标签过滤阶段与标签专攻阶段。在预处理阶段,一个BNC被用作通才分类器为所有类标签估算后验概率。若存在多个高后验概率的类标签,则使用后两个阶段为该测试实例重新分类。标签过滤阶段首先除去低后验概率类标签,然后使用来自高后验概率类标签的可靠信息重新学习网络结构,将通才分类器升级为优化的通才分类器。标签专攻阶段针对每一个高后验概率类标签都学习了一个专家分类器以充分表达不同类标签场景下的特征依赖关系。最后,通过将专家分类器与优化的通才分类器并行集成获得最终的分类结果。本文将MBLF应用于TAN上得到了类标签驱动的TAN(Label-driven TAN,LTAN)。在40个UCI数据集上进行的实验结果表明,LTAN的分类精度不仅显着优于经典的单结构BNC,而且比一些广受认可的集成BNC更胜一筹,更重要的是,这种精度提升没有带来过多的计算开销。从而证明了MBLF能有效地提升分类精度。(本文来源于《吉林大学》期刊2019-04-01)

陆洋[2](2013)在《学习大规模贝叶斯网络的新框架及其在构建蛋白质—蛋白质相互作用网络中的应用》一文中研究指出本文主要研究将贝叶斯模型平均法应用到大规模的贝叶斯网络的问题。目前,贝叶斯模型平均法只能应用于很小的网络,网络中节点的数目上限为几十个节点,这是由于受到超指数复杂度的限制。本文提出了一个构建大规模贝叶斯网络的新框架:LAMA,采用了分而治之的哲学思想使得大规模的贝叶斯网络学习问题成为可能。LAMA包含了叁个步骤。一般来说,LAMA首先提出了一种二阶划分策略来将大规模的网络中的节点分割成很多规模小得多的可以有重迭的团体。其次在划分后的团体内部进行基于Markov Blanket的采样和结构学习。最后,LAMA采用了一种高效的合并算法将所有划分后的团体内部结构合成一个整体。通过将LAMA和四个最主流的的大规模网络结构学习算法,如ARACNE, PC, Greedy Search和MMHC, LAMA在五个众所周知的数据集Alarm, Insurance, Win95pts, Pigs和Link上展示了令人满意的结果,我们使用precision, recall和F-score作为评价LAMA性能的指标。更重要的是,LAMA使得原来不可能的大规模的贝叶斯网络学习问题成为了可能。最后,我们将LAMA延伸,开发了LAGE。LAGE是一个以LAMA为基础实现的一个开源的构建基因调控网络(gene regulatory networks)的框架,它是由Java写成的,支持规模很大的连续的基因表达数据(gene expression data)。(本文来源于《上海交通大学》期刊2013-01-11)

卫洁[3](2012)在《MapReduce框架下的贝叶斯文本分类学习研究》一文中研究指出文本分类是信息检索与文本挖掘的重要基础。目前,虽然很多文本分类算法都成功地应用在各个领域,但单一文本分类算法容易导致构造的分类器分类性能差、泛化能力弱。集成学习算法利用多个单分类器之间的差异,有效地改善了分类器的性能和泛化能力。然而,随着网络数据规模的急剧增长,传统的集中式系统框架难以满足集成学习和海量文本数据分析处理要求的存储空间和计算能力。并行计算的出现使大规模文本数据集的集成分类学习成为可能。Google的MapReduce并行编程模型抽象度高,它封装了并行处理底层的细节问题,为程序员设计及编写并行程序提供了简易的编程框架。本文通过分析朴素贝叶斯的可加性,设计了基于MapReduce并行编程模型的TFIDF改进的贝叶斯文本分类算法,该算法利用五个MapReduce作业完成分类器的训练和测试部分。在Hadoop分布式平台上的实验表明该算法构造的分类器具有高数据容量、高效性和高性能的特点。进而通过对集成文本学习算法进行研究,结合Bagging算法的并行特点,提出了基于MapReduce的贝叶斯集成文本分类器。该分类器的训练首先用随机属性选择构建训练子集的方法破坏了朴素贝叶斯的稳定性,其次利用MapReduce框架下的贝叶斯文本分类算法作为基分类器对训练子集进行学习,并行地产生多个基分类器。分类器的测试包括利用各个基分类器并行产生中间结果和对中间结果进行不加权投票得出最终结果两个步骤。实验结果表明该算法适用于大规模文本数据集的分类学习,同时具有高效性、准确性、高可靠性和易扩展性的优点。(本文来源于《山西财经大学》期刊2012-06-13)

梁筱斌,罗飞,许玉格,周辉[4](2009)在《基于贝叶斯框架的加权LS-SVM及其学习算法》一文中研究指出为了提高最小二乘支持向量机的鲁棒性,介绍了加权最小二乘支持向量机,给出了确定加权向量的一般方法。并介绍了基于贝叶斯框架的加权LS-SVM参数的优化方法,利用它建立了加权最小二乘支持向量机。最后用一个仿真实例来说明所提出的支持向量机的学习性能,比标准LS-SVM具有更好的鲁棒性。(本文来源于《微计算机信息》期刊2009年18期)

苑进[5](2008)在《贝叶斯学习框架下非线性制造过程建模及多目标优化关键技术研究》一文中研究指出非线性过程多目标优化和建模是制造领域两个重要而联系密切的研究课题。基于机器学习和计算智能的非线性过程建模方法,仅利用离散样本数据,可以建立多响应曲面,对非线性过程本身数理机理要求不高,算法适应性强,在制造过程优化中得到广泛应用。与其他方法相比,贝叶斯框架下的机器学习方法使用概率表示所有形式的不确定性,可以在模型中包含先验知识,隐含地避免过拟合,通过贝叶斯定理实现学习和推理过程,提供基于模型解释的方差信息,同时还为模型选择提供了一套完整的理论。因此贝叶斯学习框架下的非线性过程建模及其多目标优化研究具有重要理论价值和经济意义。本文以非线性制造过程对研究对象,利用获取的含噪数据集,以小样本和实时性场合为研究切入点,从概率测度的角度,在贝叶斯统计学习框架下对非线性过程建模及多目标优化关键技术进行了深入研究。其主要研究内容和成果如下:1、论文首先采用组件描述方式,给出了面向制造过程的多目标优化系统框架。该框架包括先验知识或先验模型、过程采样与数据预处理、非线性过程建模与模型验证和基于模型的多目标优化与控制以及Pareto。多解决策。该系统化视角可用于分析比较现有优化系统,也可用于选择新组件组合成新集成系统用于特定非线性过程的多目标优化。2、依据上述系统框架,建立了一种基于相关向量机和遗传算法的混合智能方法来解决非线性制造过程中的工艺参数优化问题。基于稀疏贝叶斯学习的建模方法能够使模型具有更好的推广性,同时该建模方法有目前最稀疏的模型结构,因而更容易实现实时系统的建模要求。应用上述优化范式,本文给出了以物料分选系统优化调控为例的个案研究,实验结果证明了该混合智能方法的有效性,并且与其他的学习算法相比,在非线性系统辨识过程中,当相关向量集具备描述问题分布的能力后,即使训练样本增加,相关向量集数目仍然能够保持很好的稀疏性和稳定性。这对于需要不断给出适应度值计算的遗传算法的快速搜索过程和实时搜索近优工艺参数非常有利。3、通过扩展核方法中常用的高斯核的函数形式,提出基于自适应超球形高斯核函数相关向量机回归算法以获得更稀疏回归模型。在此类核函数中,每个相关向量对应一个问题空间上独立的超球。针对引入的新高斯核,本文提出了分阶段最大化贝叶斯证据算法用于推断相关向量机超参数。该算法能够自动根据非线性系统的响应信号的变化频率调整高斯核宽度的大小。在基准数据集上的仿真和EDM过程建模实验表明该方法能够获得比传统相关向量机更稀疏的解和更高逼近精度,因而适合实时性要求更高的非线性建模的情况。4、针对非线性过程建模中存在的小样本、脏数据的问题,以高速电火花线切割过程为应用对象,建立了一种基于高斯过程回归模型解释的可靠多目标优化方法。基于高斯过程回归的建模方法更适合制造过程建模的特点,能够使模型在小样本上具有很好的推广性,同时该建模方法有目前最好的预测精度。在可靠优化过程中,由预测响应的概率方差作为对预测不确定性的度量与高斯过程回归模型的响应一起构成了多个目标函数,从而使多目标优化的解具有一定的基于模型解释的可靠性。获得的Pareto前沿聚类后以交互的方式选出最有利的解。实验结果表明该建模方法在小样本上的模型精度、特征标度和预测模型的不确定性概率度量上有优势。并且在多目标优化过程中,通过设定可调整参数可以控制优化过程以获得更可靠的优化预测解。5、针对非线性过程建模中,存在具有专业领域专家过程知识而要建立的制造过程数据量严重不足时的矛盾,着眼于融合粗糙模糊系统和非常稀少的噪声样本,本文提出了基于模糊先验模型的分段相关性迁移插值算法,融合高斯过程回归算法对非线性过程建模以提高建模精度。在两个基准数据集和电火花线切割机床上的实验研究证明了该算法的可行性和有效性。实验结果表明即使是在非常有限的训练数据集上,结合非常粗糙的模糊先验知识仍能够大大提高预测性能。对于给定具有推广意义的模糊先验模型,基于改融合算法的高斯过程回归建模对样本的需求可大大降低并同时保持精度。由于该方法独立于模糊模型,因而也适用其他智能模型融合。6、给出了面向制造过程的非线性系统优化软件的系统架构以及各模块的功能。系统使用Matlab程序作为模型与算法程序运算的核心组件,集成于.net框架。为进一步研究与开发先进建模和优化算法提供一个良好的研究仿真平台。(本文来源于《上海大学》期刊2008-04-01)

贝叶斯学习框架论文开题报告

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

本文主要研究将贝叶斯模型平均法应用到大规模的贝叶斯网络的问题。目前,贝叶斯模型平均法只能应用于很小的网络,网络中节点的数目上限为几十个节点,这是由于受到超指数复杂度的限制。本文提出了一个构建大规模贝叶斯网络的新框架:LAMA,采用了分而治之的哲学思想使得大规模的贝叶斯网络学习问题成为可能。LAMA包含了叁个步骤。一般来说,LAMA首先提出了一种二阶划分策略来将大规模的网络中的节点分割成很多规模小得多的可以有重迭的团体。其次在划分后的团体内部进行基于Markov Blanket的采样和结构学习。最后,LAMA采用了一种高效的合并算法将所有划分后的团体内部结构合成一个整体。通过将LAMA和四个最主流的的大规模网络结构学习算法,如ARACNE, PC, Greedy Search和MMHC, LAMA在五个众所周知的数据集Alarm, Insurance, Win95pts, Pigs和Link上展示了令人满意的结果,我们使用precision, recall和F-score作为评价LAMA性能的指标。更重要的是,LAMA使得原来不可能的大规模的贝叶斯网络学习问题成为了可能。最后,我们将LAMA延伸,开发了LAGE。LAGE是一个以LAMA为基础实现的一个开源的构建基因调控网络(gene regulatory networks)的框架,它是由Java写成的,支持规模很大的连续的基因表达数据(gene expression data)。

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

贝叶斯学习框架论文参考文献

[1].孙怡.类标签驱动的多阶段贝叶斯网络学习框架[D].吉林大学.2019

[2].陆洋.学习大规模贝叶斯网络的新框架及其在构建蛋白质—蛋白质相互作用网络中的应用[D].上海交通大学.2013

[3].卫洁.MapReduce框架下的贝叶斯文本分类学习研究[D].山西财经大学.2012

[4].梁筱斌,罗飞,许玉格,周辉.基于贝叶斯框架的加权LS-SVM及其学习算法[J].微计算机信息.2009

[5].苑进.贝叶斯学习框架下非线性制造过程建模及多目标优化关键技术研究[D].上海大学.2008

标签:;  ;  ;  

贝叶斯学习框架论文-孙怡
下载Doc文档

猜你喜欢