分层存储论文-李振波

分层存储论文-李振波

导读:本文包含了分层存储论文开题报告文献综述及选题提纲参考文献,主要关键词:云存储环境下,公共资源,大数据分层存储

分层存储论文文献综述

李振波[1](2019)在《云存储环境下公共资源大数据分层存储仿真》一文中研究指出针对传统的图书馆公共资源大数据分层存储方法存在存储效率较低、执行开销较大、能耗消耗较高等问题,提出一种基于云存储环境下的公共资源大数据分层存储方法。利用组织群对大规模数据进行处理,构建云存储环境下公共资源大数据的并行处理模型,通过贝叶斯的分类原理,找到能够并行的点,根据MapReduce平台实现基于朴素贝叶斯的数据分类。在上述基础上,引入扩展哈希编码方式动态向外扩展存储节点,将内层节点的数据进行备份。通过多阈值级存储方法,使数据能够均匀的存储在多个节点,实现云存储环境下公共资源大数据分层存储。实现结果表明,所提方法能够保证对图书馆的公共资源大数据进行高效率、低成本的有效存储。(本文来源于《计算机仿真》期刊2019年10期)

皮阳[2](2019)在《Ceph分层存储优化策略研究与实现》一文中研究指出分布式存储系统Ceph不但具有高可靠性、高性能、可扩展性和数据自动均衡等特性,还结合了无中心化和无元数据寻址的先进设计思想。这些特点使得Ceph能在存储领域中备受欢迎。在分层的存储架构中,Ceph为进一步提高系统性能,将SSD存储设备池作为HDD存储设备池的缓存层。但在此分层的存储架构下,一方面,Ceph缓存存在污染问题,在系统中产生了不必要的I/O;同时,缓存池内存储节点负载不均衡的问题会影响系统性能的稳定;另一方面,客户端访问系统的延时有待进行提高。针对以上问题,论文通过分析Ceph分层存储架构相关机制,提出了优化策略,具体完成了以下工作:1.针对分层的分布式存储架构下缓存污染问题和节点负载均衡问题,提出基于缓存池的存储优化策略。该策略对集群内对象进行长时间粒度分析,更准确地判断对象的热度,根据存储对象热度进行存储池的选择,从而减少冷数据进入缓存池带来的开销;在此基础上,进一步提出了缓存池节点的负载均衡策略,该策略通过综合考虑缓存池内节点的容量、I/O性能、I/O负载等进行负载迁移,从而使得缓存池整体性能更均衡稳定。最后对本文优化策略进行了设计实现,并将其与系统原生策略进行实验对比,验证了本文所提出的优化策略可提升系统I/O性能。2.针对客户端访问存储集群带来的时延问题,提出了基于代价模型的缓存预取策略。该策略首先依据同一对象集内的对象的关联性,选取合适的对象进行预取,然后通过获得对象热度和网络传输延时建立对象的预取代价模型,从而进一步地合理选择预取的对象。对基于代价模型的缓存预取策略与原生系统进行了实验比较,结果表明,本文所提出的策略可有效降低客户端访问存储对象的时延。研究工作表明,在Ceph分层存储体系架构下,缓存池存储优化策略和基于代价模型的缓存预取策略对提高Ceph分布式存储系统的访问性能具有重要的意义。(本文来源于《重庆邮电大学》期刊2019-05-25)

蔺春华[3](2018)在《物联网感知大数据分层存储和查询技术研究》一文中研究指出如今,物联网已与我们的工作生活密不可分,随着各种感知技术的广泛应用,物联网产业快速发展,物联网的感知设备数量呈几何递增,各种感知设备动态采集信息并实时回传数据,这些海量感知数据形成物联网感知大数据,如何对物联网感知大数据进行高效的存储、查询与分析成为一个亟待解决的关键问题。物联网感知大数据除具有传统大数据的特征外,还具有频繁更新性、时空相关性、流式积累性、连续序列性和多维特性等特征,对传统的大数据技术形成了巨大的挑战。基于数据分层思想,根据现有大数据技术和理论,实现了一种对物联网感知大数据分层存储和查询系统模型IOT-HSQM(IOT-Hierarchical Storage and Query Management platform),IOT-HSQM为物联网感知大数据的近实时存储和快速查询提供了一种解决方案。主要贡献如下:1、设计并实现了IOT-HSQM系统模型,模型基于分治的思想,将感知数据的存储和查询分为微观感知数据层和中观感知数据层。微观感知数据层主要研究原始感知数据和清洗后有效数据的存储优化和查询优化;中观感知数据是微观感知数据的聚合和统计,中观感知数据层主要研究中观感知数据的存储优化和查询优化。2、设计并实现了微观感知数据层的存储和查询系统,并提出了一种基于时空分块预处理的原始感知数据存储方法TSBPS(Time-Space Block Preprocessing Storage method),该方法通过时空预分块、数据压缩、缓存批量写入等技术来大幅度提高微观感知数据的近实时存储写入的速度。3、设计并实现了中观感知数据层的存储和查询系统,并提出了一种基于历史权值缓存替换的查询方法HRPB(History-Related Priority-Based Strategy method),该方法通过更有效的识别阶段性热点数据,提高缓存命中率,提升查询性能。以2012年北京市真实历史出租车数据和基于真实数据扩充的模拟数据为实验数据,经实验证明,TSBPS较传统方法的写入速度有明显提升,最大写入速度提升了80%,平均写入速度提升了45%;中观感知数据层中HRPB查询方法比基于LRU的查询方法在识别阶段性热点数据方面更有优势,最优时缓存命中率提高了30%;基于IOT-HSQM系统模型中观感知数据层的进行查询,查询速度远高于传统查询方式。综上,IOT-HSQM系统模型在对物联网感知大数据的近实时存储和快速查询方面比传统大数据处理方式具有明显的优势,本研究对促进物联网感知大数据领域技术发展具有积极意义和实用价值。(本文来源于《北京工业大学》期刊2018-09-01)

王文明,刘云,周钰,单红伟,伊向华[4](2018)在《医院诊疗健康信息数据的分类分层存储技术研究》一文中研究指出目的:通过对医院诊疗健康信息数据的研究和处理,降低医疗信息和建设投入,提升信息系统效率。方法:对医院诊疗健康信息数据进行分类,在数据中心建设过程中结合各种数据分层技术,有针对性地对各种类型的数据进行整体考虑和分层部署,在满足各业务系统高效运行的同时实现各业务系统的高可用性,确保数据安全。结果:在同等配置的硬件基础环境下,使用分类分层存储技术能够获得更高性能的业务响应和可靠性。结论:必须基于业务系统及其数据特点有针对性地利用各种技术的组合,来确保各种诊疗健康信息数据的高效可靠存放。(本文来源于《医疗卫生装备》期刊2018年02期)

金斌,刘礼加[5](2016)在《数据中心分层存储技术探究及实践》一文中研究指出在IT运营过程中,应用系统时常会出现热点数据(如数据库发生IO性能瓶颈产生业务影响),且往往只有在问题发生后才能被动发现,并经常依靠技术人员将热点数据迁移到后端带宽更大的盘组来消除热点。近年来,随着云技术和大数据的广泛应用,数据中心的数据量呈爆发式增长,数据热点出现日益频繁,但因底层磁盘机上的冷热数据难以被有效、快速评估,导致影响业务正常运行的情况时有发生。分层存储是建立在存储池基础上发展而来的一种新(本文来源于《中国金融电脑》期刊2016年05期)

张正培[6](2016)在《分层存储技术在银行数据中心的应用探究》一文中研究指出近年来,随着固态硬盘(Solid State Drives,SSD)技术的快速发展,企业级存储性能得到了极大提高。SSD以Flash为存储介质,具有存取速度快、功耗低、抗震性好的优点,在随机小数据的访问上性能提升最为显着。与此同时,SSD也存在价格昂贵、单体容量小、使用寿命有限的缺点。相比之下,硬盘驱动器(Hard Disk Drive,HDD)容量大、成本低、寿命长。如何通过(本文来源于《中国金融电脑》期刊2016年02期)

满都呼,宋展[7](2016)在《基于分层存储理论模型的近似字符串匹配并行算法研究》一文中研究指出CUDA(Compute Unified Device Architecture)是一种重要的并行处理架构,但其具有相对复杂的线程管理机制和多重存储模块,从而使得基于CUDA的算法时间复杂度很难量化。针对这一问题,提出了一种分层存储理论模型—HMM(Hierarchical Memory Machine)模型,该模型所具有的分层存储结构可以有效地描述图形处理单元设备不同存储模块的物理特性,因此非常适用于对CUDA算法时间复杂度的量化评估。作为HMM模型的应用实例,文章提出了一种基于HMM模型的并行近似字符串匹配算法,并给出了相应算法时间复杂度的计算过程。与串行算法相比,该算法可以获得60倍以上的加速比。(本文来源于《集成技术》期刊2016年01期)

[8](2015)在《分层存储实现数字图书的高效管理》一文中研究指出数字图书馆面临新挑战 据不完全统计,到20世纪末,美、英、法、日四国,仅其国家图书馆所完成的数字馆藏,其存储量最少的约为500GB,最多的已超过3000GB;它们已经为21世纪信息时代的到来,完成了大量的准备工作。面对这种态势,我国也不甘(本文来源于《中国信息化周报》期刊2015-07-20)

李剑[9](2015)在《基于纠删码的分布式分层存储系统研究》一文中研究指出随着大数据时代的到来,数据的安全可靠存储变得愈发重要。现有的分布式存储系统常使用副本技术保证数据可靠性,同时为了提高存储的效率,会应用纠删码技术,但是这带来了巨大的修复开销,即在修复丢失数据块时会伴随着大量的磁盘I/O和网络传输。另一方面,存储系统中不同热度数据被访问的频率是不一样的,现有的存储系统常使用性能高的介质保存热数据,以降低延时、提高吞吐量。然而,在热数据上使用纠删码,修复开销将严重影响性能;在冷数据上使用副本,又会严重降低存储空间使用率。为了兼顾数据可靠性及系统性能,针对基于纠删码的分布式存储系统进行编码方法优化工作和分层存储成为研究的热点。本课题设计并实现了一个基于纠删码的分布式分层存储系统DHFS。针对现有编码方法的修复代价问题,采用了不同的编码方法和不同的编码参数选择保证数据的可靠性和修复、降级读性能。针对冷热数据,分别提供了在硬盘层和内存层的容错方案。在热数据发生丢失时,可以快速从其它节点的内存中读取数据并修复出源数据,提高了热数据的修复速度和降级读性能。测试结果表明,本系统在选择合适的编码方法和编码参数时,存储效率相对叁副本提高了约25%,修复速度相对同样参数的RS和CRS编码提高了约25%;在分层存储环境下,数据读取速度比传统高速缓存结构提高了2倍,修复的速度则基本相当。测试表明,本系统以综合使用现有纠删码技术和参数优化为基础,比基于副本存储系统更节省空间,比传统纠删码编码方法有更快的修复速度和降级读性能,还可更好发挥分层存储架构优势,提高了热点数据的访问性能和恢复速度。(本文来源于《华中科技大学》期刊2015-05-20)

何钰洁[10](2015)在《昆腾牵手DOT HILL企业级存储系统扩展分层存储产品组合》一文中研究指出昆腾公司和Dot Hill Systems公司今天宣布建立新的全球性市场合作伙伴关系,昆腾将把Dot Hill的全系列企业级磁盘存储系统集成到其分层存储产品中。昆腾通过在其横向扩展存储和数据保护产品组合中添加Dot Hill的存储阵列,进一步在要求苛刻的环境中扩展其数据生命周期管理解决方案。与此同时,Dot Hill将通过昆腾的渠道、销售和营销资源以及全球服务和支持而扩大市场。今天宣布的合作源自两(本文来源于《计算机与网络》期刊2015年08期)

分层存储论文开题报告

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

分布式存储系统Ceph不但具有高可靠性、高性能、可扩展性和数据自动均衡等特性,还结合了无中心化和无元数据寻址的先进设计思想。这些特点使得Ceph能在存储领域中备受欢迎。在分层的存储架构中,Ceph为进一步提高系统性能,将SSD存储设备池作为HDD存储设备池的缓存层。但在此分层的存储架构下,一方面,Ceph缓存存在污染问题,在系统中产生了不必要的I/O;同时,缓存池内存储节点负载不均衡的问题会影响系统性能的稳定;另一方面,客户端访问系统的延时有待进行提高。针对以上问题,论文通过分析Ceph分层存储架构相关机制,提出了优化策略,具体完成了以下工作:1.针对分层的分布式存储架构下缓存污染问题和节点负载均衡问题,提出基于缓存池的存储优化策略。该策略对集群内对象进行长时间粒度分析,更准确地判断对象的热度,根据存储对象热度进行存储池的选择,从而减少冷数据进入缓存池带来的开销;在此基础上,进一步提出了缓存池节点的负载均衡策略,该策略通过综合考虑缓存池内节点的容量、I/O性能、I/O负载等进行负载迁移,从而使得缓存池整体性能更均衡稳定。最后对本文优化策略进行了设计实现,并将其与系统原生策略进行实验对比,验证了本文所提出的优化策略可提升系统I/O性能。2.针对客户端访问存储集群带来的时延问题,提出了基于代价模型的缓存预取策略。该策略首先依据同一对象集内的对象的关联性,选取合适的对象进行预取,然后通过获得对象热度和网络传输延时建立对象的预取代价模型,从而进一步地合理选择预取的对象。对基于代价模型的缓存预取策略与原生系统进行了实验比较,结果表明,本文所提出的策略可有效降低客户端访问存储对象的时延。研究工作表明,在Ceph分层存储体系架构下,缓存池存储优化策略和基于代价模型的缓存预取策略对提高Ceph分布式存储系统的访问性能具有重要的意义。

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

分层存储论文参考文献

[1].李振波.云存储环境下公共资源大数据分层存储仿真[J].计算机仿真.2019

[2].皮阳.Ceph分层存储优化策略研究与实现[D].重庆邮电大学.2019

[3].蔺春华.物联网感知大数据分层存储和查询技术研究[D].北京工业大学.2018

[4].王文明,刘云,周钰,单红伟,伊向华.医院诊疗健康信息数据的分类分层存储技术研究[J].医疗卫生装备.2018

[5].金斌,刘礼加.数据中心分层存储技术探究及实践[J].中国金融电脑.2016

[6].张正培.分层存储技术在银行数据中心的应用探究[J].中国金融电脑.2016

[7].满都呼,宋展.基于分层存储理论模型的近似字符串匹配并行算法研究[J].集成技术.2016

[8]..分层存储实现数字图书的高效管理[N].中国信息化周报.2015

[9].李剑.基于纠删码的分布式分层存储系统研究[D].华中科技大学.2015

[10].何钰洁.昆腾牵手DOTHILL企业级存储系统扩展分层存储产品组合[J].计算机与网络.2015

标签:;  ;  ;  

分层存储论文-李振波
下载Doc文档

猜你喜欢