期刊文献+
共找到7篇文章
< 1 >
每页显示 20 50 100
基于冷热数据的MongoDB自动分片机制 被引量:4
1
作者 冯超政 蒋溢 +1 位作者 何军 马祥均 《计算机工程》 CAS CSCD 北大核心 2017年第3期7-10,17,共5页
MongoDB数据库中的自动分片(Auto-Sharding)机制仅通过数据量来进行分片迁移,会导致负载不均衡的问题。为此,提出一种基于数据冷热访问特征的Auoto-Sharding优化机制。通过朴素贝叶斯算法对数据的访问特性进行冷热数据判定,将数据分片... MongoDB数据库中的自动分片(Auto-Sharding)机制仅通过数据量来进行分片迁移,会导致负载不均衡的问题。为此,提出一种基于数据冷热访问特征的Auoto-Sharding优化机制。通过朴素贝叶斯算法对数据的访问特性进行冷热数据判定,将数据分片中热数据的所占比重作为热负载值以确定数据迁移时机,并根据数据片之间的热负载差异建立新的数据迁移策略。实验结果表明,在高并发条件下,该优化机制的数据吞吐量高于原有的AutoShading机制。 展开更多
关键词 自动分片机制 冷热数据 朴素贝叶斯 热负载 数据迁移
在线阅读 下载PDF
自适应业务场景的数据库冷热数据识别算法 被引量:2
2
作者 梁懿 陈又咏 +1 位作者 李森 王明 《现代电子技术》 2022年第7期107-111,共5页
作为数据库重要的底层技术,冷热数据识别旨在动态缓存热数据驻留内存、淘汰冷数据至外存,通过提高缓存命中率加快数据库访问响应速度。传统冷热数据识别方法如LRU、LFU主要针对时效性、频率性业务场景,当业务场景改变时,难以自适应新业... 作为数据库重要的底层技术,冷热数据识别旨在动态缓存热数据驻留内存、淘汰冷数据至外存,通过提高缓存命中率加快数据库访问响应速度。传统冷热数据识别方法如LRU、LFU主要针对时效性、频率性业务场景,当业务场景改变时,难以自适应新业务场景的冷热数据变化规律,因此缺乏灵活性。为此,提出HF-ARC算法,开展自适应业务场景的冷热数据识别。HF-ARC算法融合不同业务场景下的数据时效性与访问频率,实现了数据库冷热数据识别的自适应业务场景调优。基于Flash-DBSim系统仿真平台,分别采用局部、概率、线性三种访问模式模拟时效性、频率性、综合性业务场景。实验结果表明,HF-ARC算法根据不同业务场景冷热数据变化规律,动态调整冷热识别策略。相比非自适应识别算法,可将缓存命中率提高5%~15%;相比其他适应性算法,可将缓存命中率提高1.3%~2.5%。 展开更多
关键词 数据 冷热数据识别 自适应 系统存储 业务场景 缓存 局部性
在线阅读 下载PDF
基于擦除编码和副本复制的分布式混合存储研究 被引量:1
3
作者 付雄 宋朝阳 +1 位作者 王俊昌 邓松 《计算机科学》 北大核心 2025年第2期42-47,共6页
随着大数据技术、云计算、计算机技术和网络技术的迅猛发展,互联网数据呈爆炸性增长,海量数据的高效存储成为当前互联网技术亟待解决的问题。然而,传统的多副本冗余机制导致了巨大的存储成本,引起了研究者们对新型存储解决方案的关注。... 随着大数据技术、云计算、计算机技术和网络技术的迅猛发展,互联网数据呈爆炸性增长,海量数据的高效存储成为当前互联网技术亟待解决的问题。然而,传统的多副本冗余机制导致了巨大的存储成本,引起了研究者们对新型存储解决方案的关注。在这一背景下,提出了一种基于擦除编码和副本复制的分布式混合存储策略。该策略根据数据特性,对热数据采用副本复制以确保高可靠性和性能,而对冷数据则采用擦除编码以提高存储利用率。基于牛顿冷却定律将数据文件划分为热文件和冷文件,并引入一种自适应的数据温度识别及冷热数据自适应动态分配算法,使系统能够在运行时自动调整冷热数据的比例,然后根据实时数据冷热情况智能调整数据的存储策略,体现了系统在动态环境下的自适应性。其不仅增强了系统对动态工作负载的适应能力,也为提高分布式存储系统在实际应用中的效率和灵活性提供了新的范式。这一创新点在学术和实践层面都具有重要的推动意义。同时,通过仿真实验验证了该策略的有效性和可用性,其为分布式存储系统的优化提供了新的思路。 展开更多
关键词 数据 副本复制 擦除编码 冷热数据 存储利用率
在线阅读 下载PDF
移动设备日志结构文件系统综述
4
作者 杨梨花 董勇 +3 位作者 邬会军 谭支鹏 王芳 卢凯 《计算机研究与发展》 北大核心 2025年第1期58-74,共17页
NAND闪存(NAND flash)因为其大容量、轻便、抗震等优异特性,被广泛使用于移动设备.面向闪存特性设计的闪存友好型文件系统(flash friendly file system,F2FS)是典型的日志结构文件系统(log-structured file system,LFS),它采用日志结构... NAND闪存(NAND flash)因为其大容量、轻便、抗震等优异特性,被广泛使用于移动设备.面向闪存特性设计的闪存友好型文件系统(flash friendly file system,F2FS)是典型的日志结构文件系统(log-structured file system,LFS),它采用日志结构写机制提升了随机写性能,使用前滚恢复技术实现快速的一致性保护,经常被用作移动设备的文件系统.文件系统因碎片化和段清理问题导致性能下降,而日志结构文件系统的异地更新机制和移动应用的高并发随机同步小写模式进一步加剧了碎片化,导致I/O请求响应变慢、设备运行卡顿.首先介绍了移动设备日志结构文件系统的相关概念和内容,随后总结了日志结构文件系统碎片化和段清理问题的研究现状.一方面分析了碎片产生的原因与影响,从预防碎片产生和重整碎片2个角度总结了减少碎片的研究工作.另一方面分析了冷热数据混合对段清理的影响,从静态分类和动态分类2方面总结了冷热数据区分技术的研究现状,从管理数据分布和调整段清理时机、频率、对象2个角度总结了段清理的研究现状.最后展望了移动设备日志结构文件系统研究的主要挑战和未来研究工作. 展开更多
关键词 日志结构文件系统 移动存储 文件碎片 空闲空间碎片 段清理 冷热数据区分
在线阅读 下载PDF
基于HBase数据分类的压缩策略选择方法 被引量:8
5
作者 王海艳 伏彩航 《通信学报》 EI CSCD 北大核心 2016年第4期12-22,共11页
为解决现有的HBase数据压缩策略选择方法未考虑数据的冷热性,以及在选择过程中存在片面性和不可靠性的缺陷,提出了基于HBase数据分类的压缩策略选择方法。依据数据文件的访问频度将HBase数据划分为冷热数据,并限定具体的访问级别;在此... 为解决现有的HBase数据压缩策略选择方法未考虑数据的冷热性,以及在选择过程中存在片面性和不可靠性的缺陷,提出了基于HBase数据分类的压缩策略选择方法。依据数据文件的访问频度将HBase数据划分为冷热数据,并限定具体的访问级别;在此基础上增加评估层,综合考虑基于相邻区和统计列的选择方法,提出基于数据访问级别的压缩策略选择方法。仿真实验及结果表明,提出的压缩策略选择方法不仅节省了存储空间,还大大提高了数据查询的性能。 展开更多
关键词 数据压缩 HBASE 压缩策略选择方法 冷热数据
在线阅读 下载PDF
内存高效的持久性分布式文件系统客户端缓存DFS-Cache 被引量:3
6
作者 倪瑞轩 蔡淼 叶保留 《计算机应用》 CSCD 北大核心 2024年第4期1172-1179,共8页
为了在数据密集型工作流下有效降低缓存碎片整理开销并提高缓存命中率,提出一种持久性分布式文件系统客户端缓存DFS-Cache(Distributed File System Cache)。DFS-Cache基于非易失性内存(NVM)设计实现,能够保证数据的持久性和崩溃一致性... 为了在数据密集型工作流下有效降低缓存碎片整理开销并提高缓存命中率,提出一种持久性分布式文件系统客户端缓存DFS-Cache(Distributed File System Cache)。DFS-Cache基于非易失性内存(NVM)设计实现,能够保证数据的持久性和崩溃一致性,并大幅减少冷启动时间。DFS-Cache包括基于虚拟内存重映射的缓存碎片整理机制和基于生存时间(TTL)的缓存空间管理策略。前者基于NVM可被内存控制器直接寻址的特性,动态修改虚拟地址和物理地址之间的映射关系,实现零拷贝的内存碎片整理;后者是一种冷热分离的分组管理策略,借助重映射的缓存碎片整理机制,提升缓存空间的管理效率。实验采用真实的Intel傲腾持久性内存设备,对比商用的分布式文件系统MooseFS和GlusterFS,采用Fio和Filebench等标准测试程序,DFS-Cache最高能提升5.73倍和1.89倍的系统吞吐量。 展开更多
关键词 非易失性内存 分布式文件系统 客户端缓存 缓存碎片整理 冷热数据分组 缓存设计
在线阅读 下载PDF
基于工作负载感知的固态硬盘阵列系统的架构设计与研究 被引量:2
7
作者 张强 梁杰 +1 位作者 许胤龙 李永坤 《计算机研究与发展》 EI CSCD 北大核心 2019年第4期755-766,共12页
在RAID-0阵列中设计了一种基于冷热数据分离存储的固态硬盘阵列系统架构HA-RAID,并结合滑动窗口技术进行优化.其主要思想是,利用固定长度的滑动窗口将阵列系统中的盘划分为普通盘和热点盘,热点盘专门存放热数据,普通盘存放普通数据,且... 在RAID-0阵列中设计了一种基于冷热数据分离存储的固态硬盘阵列系统架构HA-RAID,并结合滑动窗口技术进行优化.其主要思想是,利用固定长度的滑动窗口将阵列系统中的盘划分为普通盘和热点盘,热点盘专门存放热数据,普通盘存放普通数据,且阵列中各盘的角色随着滑动窗口的移动而不断变化.在8块商用固态硬盘组成的RAID-0阵列系统上对HA-RAID予以实验分析.实验结果表明,相比于未引入冷热数据分离机制的原始RAID-0做法,HA-RAID可以将热数据相对均匀地存储到各个盘上,很好地实现了阵列系统级的负载和磨损均衡,从而将阵列中热点盘出现的比例降低到几乎为0.在真实的企业级工作负载下,相比原始RAID-0,HA-RAID减少12.01%~41.06%的平均响应时间,很好地实现了阵列系统级的I/O性能提升. 展开更多
关键词 SSD阵列架构设计 冷热数据区分 RAID-0 负载均衡 响应时间
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部