导读:本文包含了物流元数据论文开题报告文献综述及选题提纲参考文献,主要关键词:大数据处理,Map,Reduce,Hadoop,Oozie
物流元数据论文文献综述
胡瑞[1](2018)在《交通物流大数据处理的元数据管理系统的设计与实现》一文中研究指出伴随着科学技术的发展与进步,大数据处理技术开始在很多的行业内部得到了深度的研究以及广泛的应用。本文以淮安市物流平台建设为研究对象,采用Map Reduce作为基本的结构,以Hadoop作为技术的支撑,可以为交通以及政府部门开展相关的服务,对于SaaS基础技术的应用开展大数据处理与相关工作。因为交通物流大数据处理应用开发涉及众多领域,为此如何更好地综合多数据多目标来解决问题是本文所研究的关键。同时对于Map Reduce模块含有的工作引擎以及Oozie支撑的大数据处理具有的组装流程操作,如何避免Oozie在执行的时候因为其节点间的数据依据导致执行效率低的情况,也是本文所研究的关键内容所在。对于上述的背景分析,本文利用在Map Reduce、Hadoop、Oozie等相关技术开展介绍的层面下,通过提出上下游节点模块部分并行的Map Reduce工作流程,继而优化交通物流大数据的处理模式。通过最后的测试与实际的应用我们可以看出这个系统是有效及可行的。同其他的系统比较,本文特点如下:首先是对于Map Reduce工作流程具有的利用效率较低的问题,采用Map Reduce内部具有的Reduce Task作业特征进而实现对于不同时间的操作模式,下游节点可以部分优先于上游节点工作操作,进而实现上下游节点模块可以同时的开展,使得系统的工作效率大幅度的提升。其次在原有的Hadoop基础之上,采用的是支持实现并追加输入的Map Reduce基本操作的结构。对于正在执行的Map Reduce操作就可追加输入数据,使得上下游的模块可以并行操作,为自身的工作提供保证。在原有的Oozie模块上,开展的支持上下游并行操作的Map Reduce工作模式,这个模块具有的双执行器结构,进而可以识别得到内部含有的Map Reduce作业的上下游模块开展执行并分析。通过实际的测试结果我们可以看到,对于Reduce Task数量大于集群的Reduce Slot含有的并发数的时候,通过部分的执行模式使得自身的工作效率提升的幅度在20%左右。最后是对于多决策模块具有的大数据处理问题开展研究,研究的重点是开发者提出大数据处理模块含有的集成开发操作。基于这个集成模块含有的HadoopEclipse插件,提出测试沙箱模块,使得开发人员可以在这一个环境之下实现本文的具体测试、实际部署等操作。(本文来源于《江苏大学》期刊2018-12-01)
刘东华,高昂[2](2016)在《农产品物流元数据应用规范研究》一文中研究指出从农产品物流研究元数据应用与信息资源生命周期的关系入手,引出农产品物流研究元数据应用与设计的一般原则,探讨并构建农产品物流元数据应用体系模型——构建农产品物流元数据核心集、建农产品物流元数据基本结构(包括扩展规则)及应用纲要,同时对元数据开放机制的建立以及建农产品物流元数据应用的一般流程给出建议,为物流不同环节异构数据管理平台建立具有可操作性的以物流数据为核心的农产品供应链全程数据交换模型系统应用规范。(本文来源于《标准科学》期刊2016年02期)
李欣[3](2015)在《交通物流信息平台元数据研究与应用》一文中研究指出随着物流行业的快速发展,物流信息化的要求不断提高,物流产业转型迫在眉睫,而作为提高物流信息化水平、推动物流产业转型升级的重要途径,物流信息平台的建设显得尤为重要。在物流信息平台的建设中,数据资源是关键,目前迫切的需要一种能对数据资源进行高效管理与使用的方法。本文在物流信息平台的建设中引入元数据的概念,通过制定元数据的方法实现对物流信息平台中数据资源的管理,对物流信息平台的建设和使用意义重大。本论文研究并实现了元数据在物流信息平台中的应用和元数据维护工具。首先在元数据的规范基础上制定了物流信息平台中元数据的规范,根据物流信息平台中元数据的规范研究和开发了一套元数据的管理工具,实现了对元数据的抽取、查询、存储和维护等功能,然后针对主题元数据开发了模板的应用方式,为主题元数据的录入提供了可扩展性强、易于维护的方式,最后为物流信息平台的第叁方程序开发人员提供了一个基于元数据访问物流信息平台的接口,开发人员可以根据元数据找到并访问物流信息平台中的数据资源,这个接口的实现为开发人员提供了简单、易用的开发环境。本文围绕元数据在物流信息平台中的应用,制定了元数据规范,开发了元数据管理工具,提供了应用和扩展功能,使元数据的应用能获得较好的效果。(本文来源于《长安大学》期刊2015-06-08)
张俊杰[4](2015)在《物流信息文件多维元数据索引与查询研究》一文中研究指出随着电子商务和物流产业的迅猛发展,其存储处理系统中的物流文件具有数据量大、数据更新频繁等特点,对物流文件如何快速地实现查找是物流系统迫切需要解决问题之一。物流文件中含有大量的多维元数据,现有的索引结构因没有充分利用其中元数据,而不能更有效的满足多维元数据复杂查询的要求。为此,本论文主要研究内容如下:首先,在物流文件中,根据多维元数据索引结构的需求,本文在R树节点上放入布隆过滤器(Bloom Filter)提出一种多维元数据索引结构,称为R树布隆过滤器,简称R-TBF(R-Tree and Bloom Filter)。物流文件中元数据更新频次高,为了保证索引结构的更新性能,本文接着提出R-TBF索引结构的更新机制,它由基础索引结构和更新缓存结构组成。最后用在物流文件中的多维元数据的查询实例说明我提出的索引结构与更新机制。其次,为了能够在物流信息存储系统中快速的查找到物流文件,本文采用R-TBF索引结构,建立元数据立方体(metadata cube),设计了一种基于元数据立方体的R树布隆过滤器的查询机制,英文简称R-TBFMC(Query Mechanism of R-Tree and Bloom Filter based Metadata Cube)。查询机制设计了叁个模块:R-TBFMC主模块,R-TBFMC查询模块以及R-TBFMC更新模块。同时设计了两种查询方法,分别是范围和值查询法和范围最大值查询法。最后,进行了多维元数据查询机制的实现工作,实现了多维元数据查询机制的叁个模块,以及两种查询算法——范围和值查询法和范围最大值查询法。并对提出的查询机制(基于元数据立方体的R树布隆过滤器的查询机制)的性能进行测试与分析来证实此查询机制的高效性。(本文来源于《南京邮电大学》期刊2015-05-01)
葛晖[5](2014)在《面向交通物流大数据处理的元数据管理系统》一文中研究指出在交通物流领域中,建立统一、高效的数据管理方式是降低运营成本、提高数据质量、规范物流管理的迫切需要。本文以某省交通物流云平台项目为背景,该项目包含一系列交通物流大数据处理需求,如对物流企业、应用开发商及平台数据中心的数据进行数据整合并提供统一管理。目前,在数据整合及管理的过程中,主要存在以下问题:1)业务元数据和技术元数据没有建立映射关系,无法对企业异构数据源进行统一管理;2)没有将业务元数据与技术元数据结合,指导数据整合过程;3)由于涉及到安全及隐私问题,数据整合时对企业私有数据访问困难。针对上述问题,本论文在对元数据标准SDMX信息模型、RDF数据立方词汇表以及数据整合等相关技术进行深入研究的基础上,提出了一个面向交通物流领域的业务元数据模型,建立了技术元数据与业务元数据的映射,并与ETL工具相结合,设计并实现一个面向交通物流大数据处理的元数据管理系统。测试及应用表明,该系统是可行及有效的。与其他类似系统相比,本文工作具有以下特点:1)结合SDMX信息模型及RDF数据立方词汇表,提出了一个面向交通物流领域的业务元数据模型,对交通物流领域的术语、业务实体等进行建模;同时建立并维护业务元数据与技术元数据的映射关系。2)提出了基于元数据的交通物流数据整合方法,将业务元数据应用到交通物流领域的数据整合。在用户开发数据整合任务时,利用业务元数据与技术元数据的映射,自动建立整合字段源和目标的匹配,简化了开发过程。3)设计并实现了元数据管理系统,该系统包括元数据管理工具与数据整合工具两部分。元数据管理工具提供技术元数据获取、元数据管理、元数据映射、前置机管理及系统管理功能;数据整合工具提供数据整合任务开发与数据整合任务执行功能。应用情况表明,该系统增强了数据管理能力并提高了数据整合效率。(本文来源于《上海交通大学》期刊2014-12-01)
程林钢[6](2013)在《物流元数据及其管理》一文中研究指出对物流元数据的概念进行了定界,针对元数据的现状,提出了物流元数据的存储组织模型,并根据此模型,设计了一种基于"元关系"的元数据与物流信息实体之间的同步更新机制,较好地解决了物流元数据的集成管理等问题。(本文来源于《计算机时代》期刊2013年10期)
王志英,任南,葛世伦[7](2010)在《基于元数据的船舶物流价值链信息共享机制研究》一文中研究指出船舶物流作为服务业的一种,其价值就是在实现自身价值的同时为船舶制造企业、船舶配套企业等客户创造价值,优化物流业务,降低物流成本。本文分析了船舶物流价值链的内涵,而舶物流信息资源种类多,数据量大,元数据的制定是信息共享的基础,构建了基于XML的船舶物流价值链元数据设计流程,提出了基于元数据的船舶物流价值链信息共享整体架构,以便该价值链上的各主体对各种船舶物流信息资源的发布、共享和利用。(本文来源于《制造业自动化》期刊2010年09期)
傅海洋,黄俊,刘晓晨[8](2008)在《物流元数据及其管理研究》一文中研究指出文章对物流元数据的概念进行了界定,针对元数据现状,提出了一种物流元数据存储组织模型,并根据此模型,设计一种基于"元关系"的元数据与物流信息实体之间的同步更新机制,较好地解决了物流元数据的集成管理等问题。(本文来源于《物流科技》期刊2008年10期)
吴宝山[9](2007)在《基于XML的物流元数据存储的研究》一文中研究指出XML作为一种可扩展标记语言,自描述性和半结构化的特点使得它非常适用于表达物流元数据的复杂结构。不仅如此,XML的核心作用还体现于数据的交换与共享,利用XML的样式语言来实现元数据间的转换和显示,可以满足用户的多种需求。虽然XML有诸多优势,但并没有表现在存储上,如何更为有效地存储和管理XML物流元数据已成为一个研究热点。本文首先介绍了物流元数据,包括物流元数据概念、内容、特点和作用,阐述了XML相关技术,分析比较了XML的两种模式XML Schema和XML DTD,详细说明了XML Schema描述物流元数据的优点,分析了XML文档典型的几种存储方式,并指出了它们各自的优缺点,在采用关系数据库存储方式的基础上,提出了基于XML Schema物流元数据存储涉及的关键技术,它们分别是DTD转化为XML Schema、XML Schema预处理、XML文档至关系模式映射、XML文档解析和数据装载,文中详细阐述了它们的内容。采用XML Schema描述的XML物流元数据作为数据源,选用SQL Server2000关系数据库来实现存储,实验表明能够利用关系数据库的优势,有效地实现关系模式下的物流元数据的存储。针对该存储方法存储大的物流文档效率较低的问题,本文对模式映射算法做了一定的改进,实验证明改进后的算法能更有效地存储大的物流文档。在本文的最后,针对基于XML的物流元数据存储存在的一些问题,提出今后进一步的工作。(本文来源于《安徽大学》期刊2007-04-01)
陈磊,孙济庆[10](2007)在《战略联盟中物流信息交换元数据框架研究》一文中研究指出在借鉴OAI思想的基础上,提出了从研究物流信息元数据的角度解决问题的思路,并初步提出了一种物流信息元数据基本框架及其信息模型。(本文来源于《物流技术》期刊2007年03期)
物流元数据论文开题报告
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
从农产品物流研究元数据应用与信息资源生命周期的关系入手,引出农产品物流研究元数据应用与设计的一般原则,探讨并构建农产品物流元数据应用体系模型——构建农产品物流元数据核心集、建农产品物流元数据基本结构(包括扩展规则)及应用纲要,同时对元数据开放机制的建立以及建农产品物流元数据应用的一般流程给出建议,为物流不同环节异构数据管理平台建立具有可操作性的以物流数据为核心的农产品供应链全程数据交换模型系统应用规范。
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
物流元数据论文参考文献
[1].胡瑞.交通物流大数据处理的元数据管理系统的设计与实现[D].江苏大学.2018
[2].刘东华,高昂.农产品物流元数据应用规范研究[J].标准科学.2016
[3].李欣.交通物流信息平台元数据研究与应用[D].长安大学.2015
[4].张俊杰.物流信息文件多维元数据索引与查询研究[D].南京邮电大学.2015
[5].葛晖.面向交通物流大数据处理的元数据管理系统[D].上海交通大学.2014
[6].程林钢.物流元数据及其管理[J].计算机时代.2013
[7].王志英,任南,葛世伦.基于元数据的船舶物流价值链信息共享机制研究[J].制造业自动化.2010
[8].傅海洋,黄俊,刘晓晨.物流元数据及其管理研究[J].物流科技.2008
[9].吴宝山.基于XML的物流元数据存储的研究[D].安徽大学.2007
[10].陈磊,孙济庆.战略联盟中物流信息交换元数据框架研究[J].物流技术.2007