期刊文献+
共找到11篇文章
< 1 >
每页显示 20 50 100
视频服务器存储子系统的I/O优化 被引量:2
1
作者 涂碧波 李胜利 《小型微型计算机系统》 CSCD 北大核心 2003年第3期407-409,共3页
视频服务器存储子系统的 I/O性能决定了视频服务器的总体性能 .本文提出的一种新的实时磁盘调度算法(L L F- Window)能有效地服务各种编码格式的视频流 ;并对传统的 SCSI总线不均衡调度机制进行了改造 .实验结果表明 ,新的磁盘调度算法... 视频服务器存储子系统的 I/O性能决定了视频服务器的总体性能 .本文提出的一种新的实时磁盘调度算法(L L F- Window)能有效地服务各种编码格式的视频流 ;并对传统的 SCSI总线不均衡调度机制进行了改造 .实验结果表明 ,新的磁盘调度算法和改造后的 SCSI总线调度机制有效地改进了视频服务器存储子系统的 I/O性能 。 展开更多
关键词 视频服务器 存储子系统 I/o优化 实时磁盘调度 SCSI总线调度
在线阅读 下载PDF
基于统计结果的文件I/O优化
2
作者 侯昉 赵跃龙 王禹 《计算机应用研究》 CSCD 北大核心 2011年第12期4546-4549,共4页
对目前主流操作系统的文件大小分布和空间占用、网络文件服务环境下的文件读取请求和视频下载点播等典型应用进行了统计分析,总结了对交换文件、小尺寸文件和访问集中文件进行优化的必要性和可行性。基于目前已有的存储器件,提出了基于... 对目前主流操作系统的文件大小分布和空间占用、网络文件服务环境下的文件读取请求和视频下载点播等典型应用进行了统计分析,总结了对交换文件、小尺寸文件和访问集中文件进行优化的必要性和可行性。基于目前已有的存储器件,提出了基于统计结果的混合加速外存储体系结构及相应的调度算法。实验结果表明,可以缩短I/O响应时间,提高传输率,改善系统性能。 展开更多
关键词 体系结构 存储系统 I/o优化 统计结果
在线阅读 下载PDF
海洋环流模式的并行I/O优化研究
3
作者 李云龙 祝子杰 +4 位作者 孟祥飞 朱小谦 林鹏飞 刘海龙 李庚 《计算机工程与应用》 CSCD 北大核心 2024年第17期263-271,共9页
极端气象日益加剧,严重影响人类的生产生活。如何有效应对未来极端环境变化,更关乎国际竞争。因此,发展高精度高分辨率的地球系统模式推动气候变化研究至关重要。随着模式精度和分辨率的不断提高,I/O性能已成为制约模式计算效率和可扩... 极端气象日益加剧,严重影响人类的生产生活。如何有效应对未来极端环境变化,更关乎国际竞争。因此,发展高精度高分辨率的地球系统模式推动气候变化研究至关重要。随着模式精度和分辨率的不断提高,I/O性能已成为制约模式计算效率和可扩展性的瓶颈。选取典型的海洋环流模式LICOM3作为研究对象,基于天河HPC系统,详细测试和分析了模式的I/O逻辑过程,发现在3K进程规模下I/O可占整体运行时间一半以上,是限制模式计算性能的关键因素。为此,设计并实现了主要输出过程的MPI-IO并行优化方案,显著提升了模式运行效率,基本解决了模式I/O瓶颈。测试结果表明,MPI-IO并行优化方案将输出时间占比从48.58%降到2.44%,将输出带宽提升到6.21 GB/s,约是原程序的14倍。此外,进一步分析了影响并行I/O性能的因素,以期为相关工作提供参考和指导。 展开更多
关键词 并行I/o优化 海洋环流模式 MPI-Io
在线阅读 下载PDF
面向大规模集群的并行I/O用户层配置优化策略 被引量:5
4
作者 田鸿运 武林平 +3 位作者 董勇 景翠萍 罗红兵 莫则尧 《国防科技大学学报》 EI CAS CSCD 北大核心 2020年第2期23-30,共8页
影响应用I/O性能的关键因素主要有三个层次:包括应用的I/O接口实现、体系结构和文件系统组件的性能以及应用的I/O参数配置。从应用I/O配置优化的视角,分析了大规模集群并行I/O的配置调优空间,在此基础上,给出了一套大规模集群并行I/O性... 影响应用I/O性能的关键因素主要有三个层次:包括应用的I/O接口实现、体系结构和文件系统组件的性能以及应用的I/O参数配置。从应用I/O配置优化的视角,分析了大规模集群并行I/O的配置调优空间,在此基础上,给出了一套大规模集群并行I/O性能特征测试分析方法。基于该方法,在某国产超级计算集群上开展了一系列I/O测试分析来刻画系统的I/O性能特征,进而指导并行应用程序的I/O配置优化。基于优化后的配置参数,在两类典型的并行I/O场景中,针对某类生产应用程序,8192进程下的重启动数据写操作时间下降了15%,4096核的程序作业加载时间从10 min缩短到了5 s。 展开更多
关键词 并行I/o优化策略 LUSTRE文件系统 大规模集群 传输数据量 条带数
在线阅读 下载PDF
面向HYCOM的高分辨率海洋数据同化并行算法优化 被引量:2
5
作者 曹连雨 张桂赵 +2 位作者 肖俊敏 洪学海 谭光明 《计算机应用研究》 CSCD 北大核心 2021年第12期3611-3616,共6页
HYCOM(hybrid coordinate ocean model)海洋数值模式要求较高的吞吐量和相对较小的计算量,这给并行算法设计带来了巨大的挑战。针对具有高吞吐量的海洋数据同化问题,设计了一种基于区域分解的并行优化算法。首先,提出了一种灵活的文件... HYCOM(hybrid coordinate ocean model)海洋数值模式要求较高的吞吐量和相对较小的计算量,这给并行算法设计带来了巨大的挑战。针对具有高吞吐量的海洋数据同化问题,设计了一种基于区域分解的并行优化算法。首先,提出了一种灵活的文件访问方法,可以高效地从磁盘读取大量的数据,避免数据访问冲突,大幅降低磁盘寻址操作的频率。此外,设计了一种避免通信的策略,以一些额外的计算量为代价大幅减少进程间的通信量。最后,提出了一种基于管道流的通信策略,以实现无冲突的消息传递。实验结果表明,该算法与基线算法相比,总体性能提高了5倍,其中文件读取速度提升6倍,进程间的通信性能提升了2.7倍。 展开更多
关键词 数据同化 I/o优化 通信优化 并行计算 区域分解
在线阅读 下载PDF
基于Cache锁和直接缓存访问的网络处理优化方法 被引量:2
6
作者 苏文 章隆兵 +1 位作者 高翔 苏孟豪 《计算机研究与发展》 EI CSCD 北大核心 2014年第3期681-690,共10页
通过分析计算机系统网络数据处理相关程序的访存行为、局部性特点和系统交互等问题,指出在高速网络环境下传统处理器网络子系统设计存在很大缺陷,并进一步提出一种基于软硬件协同设计的优化方案.该方案具体包括改进的直接缓存访问技术... 通过分析计算机系统网络数据处理相关程序的访存行为、局部性特点和系统交互等问题,指出在高速网络环境下传统处理器网络子系统设计存在很大缺陷,并进一步提出一种基于软硬件协同设计的优化方案.该方案具体包括改进的直接缓存访问技术、关键程序的cache锁策略和相应系统互连结构及一致性协议等.实验表明,与传统方案相比,基于该方案的网络TCP传输带宽提高约48%,极限情况下UDP丢包率下降40%,传输延时降低超过10%.网络测试程序在与SPEC2000测试程序并发执行情况下,网络数据带宽提高约44%.此外还讨论了该优化方案与其他网络优化技术共同使用的基本原则和相应策略. 展开更多
关键词 网络处理 直接缓存访问 cache锁 系统互联 I o优化
在线阅读 下载PDF
大规模海洋数据同化的并行优化 被引量:4
7
作者 蔡迪 洪学海 +1 位作者 肖俊敏 谭光明 《计算机研究与发展》 EI CSCD 北大核心 2023年第5期1177-1190,共14页
海洋数据同化是一种同时利用海洋观测资料和海洋数值模式对海洋数据进行修正的有效方法,经过处理的海洋数据更加接近海洋的真实情况.在高分辨率下,基于中国科学院大气物理研究所(Institute of Atmospheric Physics,Chinese Academy of S... 海洋数据同化是一种同时利用海洋观测资料和海洋数值模式对海洋数据进行修正的有效方法,经过处理的海洋数据更加接近海洋的真实情况.在高分辨率下,基于中国科学院大气物理研究所(Institute of Atmospheric Physics,Chinese Academy of Sciences,IAP)和大气科学和地球流体力学数值模拟国家重点实验室(State Key Laboratory Modelling for Atmospheric Sciences and Geophysical Fluid Dynamics,LASG)发展的LASG/IAP气候系统海洋模式(LASG/IAP climate ocean model,LICOM)的同化并行程序往往涉及大量的文件读取、通信和计算,以往的研究虽然对这些方面进行了优化,但是由于优化只是停留在上层算法层面,没有考虑底层的文件系统以及超算集群的架构,因此优化的效果不太明显.针对以往研究存在的问题,进一步将海洋数据同化的数据特性、计算特性与所使用的超算平台的架构特性相结合,在此基础上结合时间局部性和空间局部性,提出了基于计算拓扑图的负载均衡策略、基于Lustre文件存储架构和超算集群特性的并行优化策略,以及计算、读取通信、写回3层重叠策略.最后,使用高分辨率数据集,在天河2号超算集群上对所提算法进行了测试.相比于现有算法,所提的算法在4 000核下对总体同化性能上提升了18倍.另外,还在曙光7 000超算集群上开展了测试.在4 000块DCU加速卡上,相比于已有算法,所提算法提升总体计算性能8倍左右. 展开更多
关键词 数据同化 负载均衡 I/o优化 并行优化 计算与通信重叠
在线阅读 下载PDF
重复数据删除关键技术研究进展 被引量:66
8
作者 付印金 肖侬 刘芳 《计算机研究与发展》 EI CSCD 北大核心 2012年第1期12-20,共9页
企业数据量的不断增长和数据传输率要求的不断提高,使得数据中心海量存储空间和高带宽网络传输需求成为当前网络存储领域面临的严峻挑战.利用特定应用数据集内数据高度冗余的特性,重复数据删除技术能够极大地缩减数据存储容量需求,提高... 企业数据量的不断增长和数据传输率要求的不断提高,使得数据中心海量存储空间和高带宽网络传输需求成为当前网络存储领域面临的严峻挑战.利用特定应用数据集内数据高度冗余的特性,重复数据删除技术能够极大地缩减数据存储容量需求,提高网络带宽利用率,降低企业IT运营成本.目前,重复数据删除技术已成为国内外的研究热点.首先介绍重复数据删除技术的概念、分类及其应用;阐述重复数据删除系统的体系结构和基本原理,并与传统存储系统进行对比.然后重点分析和总结重复数据删除各项关键技术的研究现状,包括数据划分方法、I/O优化技术、高可靠数据配置策略以及系统可扩展性.最后对重复数据删除技术的研究现状进行总结,并指出未来可能的研究方向. 展开更多
关键词 重复数据删除 数据缩减率 数据划分 I/o优化 高可靠 可扩展
在线阅读 下载PDF
存储系统重复数据删除技术研究综述 被引量:27
9
作者 谢平 《计算机科学》 CSCD 北大核心 2014年第1期22-30,42,共10页
目前企业对数据量不断增长的需求使得数据中心面临严峻的挑战。研究发现,存储系统中高达60%的数据是冗余的,如何缩减存储系统中的冗余数据受到越来越多科研人员的关注。重复数据删除技术利用CPU计算资源,通过数据块指纹对比能够有效地... 目前企业对数据量不断增长的需求使得数据中心面临严峻的挑战。研究发现,存储系统中高达60%的数据是冗余的,如何缩减存储系统中的冗余数据受到越来越多科研人员的关注。重复数据删除技术利用CPU计算资源,通过数据块指纹对比能够有效地减少数据存储空间,已成为工业界和学术界研究的热点。在分析和总结近10年重复数据删除技术文献后,首先通过分析卷级重删系统体系结构,阐述了重删系统的原理、实现机制和评价标准。然后结合数据规模行为对重删系统性能的影响,重点分析和总结了重删系统的各种性能改进技术。最后对各种应用场景的重删系统进行对比分析,给出了4个需要重点研究的方向,包括基于主存储环境的重删方案、基于分布式集群环境的重删方案、快速指纹查询优化技术以及智能数据检测技术。 展开更多
关键词 重复数据删除 重删率 体系结构 元数据结构 I o优化
在线阅读 下载PDF
ErlangShen:基于流水线低访问开销的图式区块链高效事务执行机制
10
作者 肖江 吴恩平 +2 位作者 张世桀 伏子豪 金海 《电子与信息学报》 EI CAS CSCD 北大核心 2024年第5期2111-2121,共11页
基于有向无环图(DAG)的图式区块链能够显著提升系统性能,已成为近年来业界的研究热点。相较于传统串行化的链式区块链,图式区块链可在单位时间内并发处理大量事务从而提升吞吐量。随着事务量的激增,图式区块链面临事务执行效率低的瓶颈... 基于有向无环图(DAG)的图式区块链能够显著提升系统性能,已成为近年来业界的研究热点。相较于传统串行化的链式区块链,图式区块链可在单位时间内并发处理大量事务从而提升吞吐量。随着事务量的激增,图式区块链面临事务执行效率低的瓶颈问题,即海量事务执行对状态数据访问的需求大幅增加,导致高昂的输入/输出(I/O)开销。实现低I/O访问主要包括两方面的全新挑战:一方面,图式区块链若直接采用传统的事务预取机制,将因执行逻辑不一致引入大量的陈旧读;另一方面,针对不同账户的状态访问会在默克尔树的高层节点中造成重复的I/O开销。为此,本文设计基于流水线的图式区块链高效事务执行机制—ErlangShen,包括Epoch粒度的状态预取机制和默克尔高层路径缓存机制来分别减少陈旧读的数量和重复的I/O开销。具体而言,ErlangShen充分分析并利用了事务访问频次的冷热特征,将访问热事务的逻辑执行与冷事务的状态预取并行化,以避免状态预取对事务执行的影响。此外,为了进一步提升事务执行的吞吐量,根据访问冷热状态事务的特性设计了定制化的并发控制方法。实验结果表明,ErlangShen机制能够减少约90%的陈旧读数量,与最新图式区块链事务处理机制Nezha相比,可将性能提升3~4倍。 展开更多
关键词 区块链 图式区块链 I/o优化 并发控制 状态树
在线阅读 下载PDF
基于重复数据删除技术的雾存储数据去冗余方案 被引量:4
11
作者 陈思佳 温蜜 陈珊 《计算机应用与软件》 北大核心 2020年第2期18-24,98,共8页
雾计算作为云中心在网络边缘的延伸,将不需要放在云端的数据直接进行存储和处理,从而可以快速响应底端设备的需求。为了解决现有方案中频繁的磁盘输入和输出(I/O),针对雾节点中存储数据的冗余问题,提出重复数据删除方案(DeFog)。利用红... 雾计算作为云中心在网络边缘的延伸,将不需要放在云端的数据直接进行存储和处理,从而可以快速响应底端设备的需求。为了解决现有方案中频繁的磁盘输入和输出(I/O),针对雾节点中存储数据的冗余问题,提出重复数据删除方案(DeFog)。利用红黑树的快速查找机制,在内存中构建数据指纹表,通过二次Hash获得索引表。固定时刻刷新内存中的指纹表保存在磁盘中,日志文件记录每次数据更新,这样在系统发生崩溃机器重启时,磁盘中的指纹表会与日志文件合并构建更新后的指纹表。通过在标准数据集中的实验与其他方案进行对比,证明了DeFog在查询效率上提高了54.1%,运行时间降低了42.1%。 展开更多
关键词 重复数据删除 雾计算 数据冗余 红黑树 索引表 内存 I/o优化
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部