期刊文献+
共找到125篇文章
< 1 2 7 >
每页显示 20 50 100
一种近似最小有效瓶颈优先的Coflow调度机制 被引量:1
1
作者 李文信 周晓波 +2 位作者 徐仁海 齐恒 李克秋 《计算机工程》 CAS CSCD 北大核心 2019年第10期19-25,32,共8页
针对先验知识未知场景下的Coflow调度问题,提出一种近似最小有效瓶颈优先的Coflow调度方法。通过结合Coflow当前大小和宽度决定Coflow的调度顺序,并区分出流大小以及短与长等特征的Coflow,从而加大调度优化的空间。实验结果表明,与先验... 针对先验知识未知场景下的Coflow调度问题,提出一种近似最小有效瓶颈优先的Coflow调度方法。通过结合Coflow当前大小和宽度决定Coflow的调度顺序,并区分出流大小以及短与长等特征的Coflow,从而加大调度优化的空间。实验结果表明,与先验知识未知场景下的Aalo方法相比,该方法可使Coflow的平均完成时间降低33.2%,相较于先验知识已知场景下的SEBF方法,Coflow平均完成时间与其仅有7.3%的性能差距。 展开更多
关键词 数据中心 并行计算 Coflow调度 流量调度 近似最小有效瓶颈优先
在线阅读 下载PDF
面向分布式数据库的算子并行优化策略 被引量:2
2
作者 刘文洁 吕靖超 《西北工业大学学报》 EI CAS CSCD 北大核心 2024年第3期453-459,共7页
随着网络技术的不断发展,数据规模呈现爆发式增长,使得传统的单机数据库逐步被分布式数据库所取代。分布式数据库采用节点协同工作方式解决了大规模数据存储问题,但由于增加了节点间通信开销,查询效率却不如单机数据库。分布式架构下,... 随着网络技术的不断发展,数据规模呈现爆发式增长,使得传统的单机数据库逐步被分布式数据库所取代。分布式数据库采用节点协同工作方式解决了大规模数据存储问题,但由于增加了节点间通信开销,查询效率却不如单机数据库。分布式架构下,存储节点的数据仅用作多备份的冗余,为系统故障时提供数据恢复,并未被利用起来改善查询效率。针对上述问题,提出了一种面向分布式数据库的算子并行优化策略,通过对关键物理算子进行拆分,将拆分后的子请求均匀分配到存储层多个节点,由多个节点并行处理,从而减少查询响应时间。上述策略已经在分布式数据库CBase上进行了应用,实验表明,提出的并行优化策略可显著缩短SQL请求查询时间,并提高系统资源利用率。 展开更多
关键词 分布式数据库 并行查询 查询优化 负载均衡 数据分区
在线阅读 下载PDF
基于流计算和大数据平台的实时交通流预测 被引量:2
3
作者 李星辉 曾碧 魏鹏飞 《计算机工程与设计》 北大核心 2024年第2期553-561,共9页
目前交通流预测实时性差,很难满足在线分析和预测任务的需求,基于此提出一种Flink流计算框架和大数据平台结合的实时交通流预测方法。基于流计算框架实时捕捉和预处理数据,包括采用Flink的transform算子对数据进行校验和处理,将处理后... 目前交通流预测实时性差,很难满足在线分析和预测任务的需求,基于此提出一种Flink流计算框架和大数据平台结合的实时交通流预测方法。基于流计算框架实时捕捉和预处理数据,包括采用Flink的transform算子对数据进行校验和处理,将处理后的数据sink到大数据的HDFS文件系统,交由下一步的大数据并行框架进行分析建模与训练,实现基于流计算和大数据平台的实时交通流预测。实验结果表明,Flink能够实时捕捉和预处理交通流数据,把数据准时无误送入分布式文件系统中,在此基础上借助大数据框架下的并行分析和建模优势,在实时性数据分析与预测方面取得了较好的效果。 展开更多
关键词 大数据 数据并行 流计算框架 实时处理 交通流预测 分布式系统 实时性分析
在线阅读 下载PDF
架构大数据:挑战、现状与展望 被引量:620
4
作者 王珊 王会举 +1 位作者 覃雄派 周烜 《计算机学报》 EI CSCD 北大核心 2011年第10期1741-1752,共12页
大数据分析相比于传统的数据仓库应用,具有数据量大、查询分析复杂等特点.为了设计适合大数据分析的数据仓库架构,文中列举了大数据分析平台需要具备的几个重要特性,对当前的主流实现平台——并行数据库、MapReduce及基于两者的混合架... 大数据分析相比于传统的数据仓库应用,具有数据量大、查询分析复杂等特点.为了设计适合大数据分析的数据仓库架构,文中列举了大数据分析平台需要具备的几个重要特性,对当前的主流实现平台——并行数据库、MapReduce及基于两者的混合架构进行了分析归纳,指出了各自的优势及不足,同时也对各个方向的研究现状及作者在大数据分析方面的努力进行了介绍,对未来研究做了展望. 展开更多
关键词 大数据 大规模可扩展 MAPREDUCE 并行数据库 深度分析
在线阅读 下载PDF
一种并行XML数据库分片策略 被引量:7
5
作者 王国仁 汤南 +2 位作者 于亚新 孙冰 于戈 《软件学报》 EI CSCD 北大核心 2006年第4期770-781,共12页
主要研究XML文档的并行数据分片策略,以便能够并行处理XML查询.为了描述XML数据分片,提出了媒介节点的概念.一组媒介节点的集合可以将一棵XML数据树分割成一棵根树和一组子树的集合:根树将在所有站点中复制;而子树集合则可以根据用户查... 主要研究XML文档的并行数据分片策略,以便能够并行处理XML查询.为了描述XML数据分片,提出了媒介节点的概念.一组媒介节点的集合可以将一棵XML数据树分割成一棵根树和一组子树的集合:根树将在所有站点中复制;而子树集合则可以根据用户查询的工作负载被均匀地分片到各个站点中.对于同一棵XML数据树,会有很多种媒介节点的集合;而不同的媒介节点集合会产生不同的数据分片结果.然后,依据各个数据分片中的用户查询工作量是否均衡,来衡量一个分片的好坏.选择一组最佳的媒介节点集合是一个NP-hard问题.为了解决此问题,设计了一组启发式优化规则.基于这一思想,提出并实现了一种基于媒介节点的XML数据分片算法WIN(workload-awareintermediarynodesdataplacementstrategy).大量实验结果证明:WIN算法的性能要优于以往的并行XML数据分片策略. 展开更多
关键词 并行数据库 XML文档 工作负载 数据分片 媒介节点
在线阅读 下载PDF
大数据管理技术研究综述 被引量:14
6
作者 张滨 陈吉荣 乐嘉锦 《计算机应用与软件》 CSCD 北大核心 2014年第11期1-5,10,共6页
大数据具有规模大、深度大、宽度大、处理时间短、硬件系统普通化、软件系统开源化等特点。传统关系型数据库在对大数据进行操作时,系统性能严重下降。因此,大数据管理技术研究成为当前研究热点。分别从并行数据库,面向大数据处理的MapR... 大数据具有规模大、深度大、宽度大、处理时间短、硬件系统普通化、软件系统开源化等特点。传统关系型数据库在对大数据进行操作时,系统性能严重下降。因此,大数据管理技术研究成为当前研究热点。分别从并行数据库,面向大数据处理的MapReduce模型,NoSQL与数据库技术的对比以及MapReduce与数据库技术相结合四个方面,对国内外的研究发展状况进行分析和评述,最后展望了未来大数据研究发展方向。 展开更多
关键词 大数据 数据库 MAPREDUCE 并行数据库系统 非关系型数据库
在线阅读 下载PDF
基于MapReduce的关系型数据仓库并行查询 被引量:9
7
作者 师金钢 鲍玉斌 +1 位作者 冷芳玲 于戈 《东北大学学报(自然科学版)》 EI CAS CSCD 北大核心 2011年第5期626-629,共4页
针对MapReduce框架与传统关系型数据库兼容性不好的问题,提出了一种基于分块结构的分布式关系数据库ChunkDB.并对MapReduce架构进行了扩展设计,使ChunkDB与MapReduce有效结合,将MapReduce的扩展性、易操作性、高并行性与关系数据库的索... 针对MapReduce框架与传统关系型数据库兼容性不好的问题,提出了一种基于分块结构的分布式关系数据库ChunkDB.并对MapReduce架构进行了扩展设计,使ChunkDB与MapReduce有效结合,将MapReduce的扩展性、易操作性、高并行性与关系数据库的索引等查询优化优势相结合.实验证明基于MapReduce的ChunkDB数据库能够为数据仓库应用提供快速高效的并行查询. 展开更多
关键词 MAPREDUCE 数据仓库 并行计算 分布式数据库 查询优化
在线阅读 下载PDF
基于降雨过程自动识别的泥石流实时预警技术 被引量:13
8
作者 何朝阳 许强 +2 位作者 巨能攀 黄健 肖洋 《工程地质学报》 CSCD 北大核心 2018年第3期703-710,共8页
本文结合对雨量数据的分析,总结了泥石流自动实时监测预警中的一些关键技术,并提出一种基于降雨过程的泥石流实时监测预警的解决方案。在泥石流的监测预警工作中,目前多采用雨强与累计雨量作为主要参数,如何正确识别一场降雨过程,对于... 本文结合对雨量数据的分析,总结了泥石流自动实时监测预警中的一些关键技术,并提出一种基于降雨过程的泥石流实时监测预警的解决方案。在泥石流的监测预警工作中,目前多采用雨强与累计雨量作为主要参数,如何正确识别一场降雨过程,对于提高监测预警的精度具有重要的意义。结合监测数据特征,本文采用詹钱登对降雨过程的划分标准,基于数据库技术实现对降雨过程的自动识别,为后续预警参数的获取提供支撑。由于受雨量计工作模式的影响,其原始数据的时间间隔是随机的,不能直接用于预警模型的计算,因此对雨量监测数据进行等时间间隔的处理。在预警流程方面,如何实现预警过程无人工干预的完全自动、实时与稳定运行,一直是预警工作中的难点,本研究中引入"系统服务"这一技术,将整套预警系统作为系统级别的后台服务运行于服务器上,能够保证整个预警过程稳定地运行,真正意义上实现了泥石流监测预警过程的自动化与实时化。本文研究成果应用于走马岭沟泥石流监测预警中,成功对2013年7月8日的泥石流事件进行预警。 展开更多
关键词 泥石流 监测数据 监测预警 数据库 系统服务
在线阅读 下载PDF
中厚板生产线的全线跟踪实现与应用 被引量:10
9
作者 矫志杰 王君 +1 位作者 何纯玉 李勇 《东北大学学报(自然科学版)》 EI CAS CSCD 北大核心 2009年第11期1617-1620,共4页
根据对中厚板生产线的工艺和对国内具体现场条件的分析,将全线跟踪功能分成位置微跟踪、过程跟踪和物料跟踪三个层次,确定了实现中厚板生产线全线跟踪功能的总体方案.由基础自动化实现位置微跟踪,并产生关键跟踪信息,由过程控制系统实... 根据对中厚板生产线的工艺和对国内具体现场条件的分析,将全线跟踪功能分成位置微跟踪、过程跟踪和物料跟踪三个层次,确定了实现中厚板生产线全线跟踪功能的总体方案.由基础自动化实现位置微跟踪,并产生关键跟踪信息,由过程控制系统实现过程跟踪和物料跟踪.设计全线跟踪功能实现的数据流,设立中心数据库作为全线跟踪数据存储和中转的手段,基于对数据表的操作实现全线的物料跟踪.将全线跟踪功能在国内多条的中厚板生产线上成功实现和应用. 展开更多
关键词 中厚板 微跟踪 过程跟踪 物料跟踪 数据流 数据库
在线阅读 下载PDF
并行数据库的改进Hash划分方法及并行Join算法 被引量:4
10
作者 陆丽娜 孟虹 +1 位作者 魏恒义 杨麦顺 《计算机研究与发展》 EI CSCD 北大核心 2000年第2期159-163,共5页
文中提出了Hash 划分的改进方法——IH 划分. IH划分为结点扩充时数据的重新划分提供了方便.在论述IH 划分的基础上,给出了基于该数据划分方法的并行Join 算法.利用已有的数据分布,文中提出的并行Join 算法提高... 文中提出了Hash 划分的改进方法——IH 划分. IH划分为结点扩充时数据的重新划分提供了方便.在论述IH 划分的基础上,给出了基于该数据划分方法的并行Join 算法.利用已有的数据分布,文中提出的并行Join 算法提高了算法的效率.最后,从理论上对以上并行算法的计算复杂性进行了分析. 展开更多
关键词 数据 并行数据库 数据划分 JOIN算法
在线阅读 下载PDF
科学计算可视化的研究现状和发展趋势 被引量:22
11
作者 唐伏良 张向明 +1 位作者 茅及愚 刘令勋 《计算机应用》 CSCD 1997年第3期8-10,共3页
科学计算可视化(VISC)作为80年代后期在计算机图形学的基础上发展起来的一种全新的计算风格,日益受到人们的重视,并在航空航天、船舶、建筑等许多领域得到越来越广泛的应用。本文阐述了VISC的发展历程,首先指出了VIS... 科学计算可视化(VISC)作为80年代后期在计算机图形学的基础上发展起来的一种全新的计算风格,日益受到人们的重视,并在航空航天、船舶、建筑等许多领域得到越来越广泛的应用。本文阐述了VISC的发展历程,首先指出了VISC的研究现状以及迄今为止所取得一些重要成果;当今可视化研究的主要方向。重点介绍了当前可视技术的热门研究的体绘制技术; 展开更多
关键词 科学计算可视化 体绘制 可视编程 计算机图形
在线阅读 下载PDF
基于瓦片金字塔模型的海量空间数据快速分发方法 被引量:8
12
作者 殷君茹 侯瑞霞 +1 位作者 唐小明 罗鹏 《吉林大学学报(理学版)》 CAS CSCD 北大核心 2015年第6期1269-1274,共6页
针对分布式并行环境下海量空间数据的快速显示和浏览问题,提出一种基于分层、分专题的海量空间数据金字塔模型及基于数据库存储方案的瓦片数据快速分发方法.对比分析了瓦片数据在文件式管理和数据库管理两种模式下的存储机制和响应流程... 针对分布式并行环境下海量空间数据的快速显示和浏览问题,提出一种基于分层、分专题的海量空间数据金字塔模型及基于数据库存储方案的瓦片数据快速分发方法.对比分析了瓦片数据在文件式管理和数据库管理两种模式下的存储机制和响应流程,并以时间跨度59年的沙尘暴观测数据为例,验证了该方法不仅能有效地组织管理海量空间数据,实现高效数据互操作,而且在多用户并发访问时,能快速响应客户端请求. 展开更多
关键词 瓦片金字塔模型 海量空间数据 数据库 分布式并行环境
在线阅读 下载PDF
一种利用并行复算实现的OpenMP容错机制 被引量:7
13
作者 富弘毅 丁滟 +1 位作者 宋伟 杨学军 《软件学报》 EI CSCD 北大核心 2012年第2期411-427,共17页
基于并行复算的故障恢复技术,将故障恢复的计算任务分配至未发生故障的结点上并行执行,从而显著缩短复算时间,有效降低故障恢复开销,提高并行程序容错性能.基于该故障恢复技术,提出了一种针对OpenMP并行程序的容错机制PR-OMP,有效解决... 基于并行复算的故障恢复技术,将故障恢复的计算任务分配至未发生故障的结点上并行执行,从而显著缩短复算时间,有效降低故障恢复开销,提高并行程序容错性能.基于该故障恢复技术,提出了一种针对OpenMP并行程序的容错机制PR-OMP,有效解决了分段复算、复算负载重分布等问题;此外,还扩展了传统编译数据流分析技术,提出了针对OpenMP并行程序的数据流分析技术,并基于该技术计算状态保存开销进行优化.设计实现了用于支持PR-OMP的编译工具GiFT-OMP,并通过实验证明了PR-OMP机制及其支持工具的有效性,评估并分析了其性能和可扩展性. 展开更多
关键词 容错 OPENMP 并行复算 数据流分析
在线阅读 下载PDF
并行数据库的查询处理并行化技术和物理设计方法 被引量:32
14
作者 李建中 《软件学报》 EI CSCD 北大核心 1994年第10期1-10,共10页
近几年,随着并行计算机系统的迅速发展,并行数据库系统已经成为一个新的数据库研究领域,引起了学术界和工业界的极大关注,很多研究成果已经出现.本文是综述并行数据库系统研究与进展情况的两篇文章之一,重点探讨目前并行数据库系... 近几年,随着并行计算机系统的迅速发展,并行数据库系统已经成为一个新的数据库研究领域,引起了学术界和工业界的极大关注,很多研究成果已经出现.本文是综述并行数据库系统研究与进展情况的两篇文章之一,重点探讨目前并行数据库系统的研究方向和问题,综述有关并行数据库的物理设计方法和查询处理并行化技术的主要研究成果. 展开更多
关键词 并行数据库 查询处理 并行化 物理设计法
在线阅读 下载PDF
一种基于平行坐标系的流转数据可视化方法 被引量:8
15
作者 张元鸣 高亚琳 +3 位作者 蒋建波 陆佳炜 徐俊 肖刚 《计算机应用与软件》 北大核心 2018年第4期55-60,116,共7页
流转数据是一种重要的数据类别,其中蕴含了较为丰富的规律性知识。如何通过数据可视化技术挖掘分析其中的知识具有重要意义。为此,提出一种基于平行坐标系的流转数据可视化方法,定义了流转数据可视化模型,将可视化过程抽象为流转数据集... 流转数据是一种重要的数据类别,其中蕴含了较为丰富的规律性知识。如何通过数据可视化技术挖掘分析其中的知识具有重要意义。为此,提出一种基于平行坐标系的流转数据可视化方法,定义了流转数据可视化模型,将可视化过程抽象为流转数据集、矩阵模型、平行坐标系可视结构三个主要模型。流转数据集是可视化的数据对象,矩阵模型是可视化的内部表示,平行坐标系结构是可视化的图形元素,并通过转换算法实现三个模型的相互映射。此外,为解决海量流转数据可视化性能瓶颈与折线重叠问题,实现了基于Spark框架的并行处理算法。该算法采用K-Means聚类思想对流转数据聚类,增强了平行坐标系的视觉效果。实验证明,所提出的可视化方法能够真实有效地可视化流转数据,同时也适用于对海量流转数据集的可视化。 展开更多
关键词 平行坐标系 流转数据 可视化模型 SPARK
在线阅读 下载PDF
基于分层排队网络模型的MCU性能预测及优化研究 被引量:10
16
作者 边学工 胡瑞敏 +1 位作者 陈军 李德仁 《计算机学报》 EI CSCD 北大核心 2004年第2期209-215,共7页
针对视频会议系统中的多点控制单元 (MCU)提出了一个基于分层排队网络模型的性能预测方法 .通过对分层排队网络模型进行扩展 ,建立了多点控制单元的分层排队模型 .设计了一个仿真程序对模型进行评价 ,仿真程序的输入即模型配置文件 .该... 针对视频会议系统中的多点控制单元 (MCU)提出了一个基于分层排队网络模型的性能预测方法 .通过对分层排队网络模型进行扩展 ,建立了多点控制单元的分层排队模型 .设计了一个仿真程序对模型进行评价 ,仿真程序的输入即模型配置文件 .该方法可以较快地从多种设计方案或硬件平台中选择满足系统性能设计目标的软件或硬件配置 .仿真结果显示 ,选择双处理器配置和采用多线程技术 ,多点控制单元的接入容量提高了 5 0 % .最后 ,多点控制单元终端接入实验证明了该方法的有效性 . 展开更多
关键词 视频会议 多点控制单元 MCU 分层排队网络 接入容量
在线阅读 下载PDF
基于Oracle的企业异构数据流整合 被引量:3
17
作者 于宝琴 王太勇 +2 位作者 郭晓军 何改云 汪文津 《计算机工程》 CAS CSCD 北大核心 2004年第24期47-48,51,共3页
以某生产制造型企业信息化工作为背景,针对企业信息化的一个瓶颈——异构数据集成问题,研究了一种低成本的数据移植方法,设计了一种新的专用ETL数据抽取工具,提出了企业最终建立数据仓库的关键技术。并通过从MySQL数据库向Oracle数据库... 以某生产制造型企业信息化工作为背景,针对企业信息化的一个瓶颈——异构数据集成问题,研究了一种低成本的数据移植方法,设计了一种新的专用ETL数据抽取工具,提出了企业最终建立数据仓库的关键技术。并通过从MySQL数据库向Oracle数据库移植数据为实例,成功验证了这种方法和工具的有效性。 展开更多
关键词 异构数据流 数据移植 数据仓库 ORACLE数据库 ETL PDM系统
在线阅读 下载PDF
基于NoSQL的RDF数据存储与查询技术综述 被引量:22
18
作者 王林彬 黎建辉 沈志宏 《计算机应用研究》 CSCD 北大核心 2015年第5期1281-1286,共6页
随着语义网的发展和RDF(resource description framework,资源描述框架)数据量的快速增长,利用NoSQL数据库存储和管理大规模RDF数据已经成为了当前的研究热点。介绍了No SQL数据库的种类划分和各类型特点,阐述了RDF数据在各类No SQL数... 随着语义网的发展和RDF(resource description framework,资源描述框架)数据量的快速增长,利用NoSQL数据库存储和管理大规模RDF数据已经成为了当前的研究热点。介绍了No SQL数据库的种类划分和各类型特点,阐述了RDF数据在各类No SQL数据库中存储结构设计和并行查询算法的研究现状,分析比较了不同方法的优缺点。最后,讨论了利用No SQL数据库管理RDF的优势,总结了现有研究的不足之处,并展望了未来的研究方向。 展开更多
关键词 资源描述框架 NOSQL数据库 数据模型 存储结构设计 RDF并行查询算法
在线阅读 下载PDF
基于数据中心的企业应用系统整合平台架构的研究和设计 被引量:5
19
作者 王柯柯 崔英志 +1 位作者 黄贤英 黄丽丰 《西南大学学报(自然科学版)》 CAS CSCD 北大核心 2009年第11期129-132,共4页
讨论了数据中心的基本功能和设计原则,并以此为基础提出了面向企业的应用系统整合平台架构,详细分析了应用系统平台集群结构.该体系有助于提高企业信息化建设的水平、保障业务数据安全、构建一体化系统平台.
关键词 数据中心 系统集群 并行数据库
在线阅读 下载PDF
电子政务系统中的数据交换和共享服务平台设计 被引量:45
20
作者 张繁 蔡家楣 《计算机工程与应用》 CSCD 北大核心 2003年第7期226-229,共4页
该文提出了一种应用于电子政务系统的数据交换和共享服务平台。先给出通用逻辑结构设计,然后通过两个具体实例阐述其应用机制。
关键词 电子政务系统 数据交换 服务平台 设计 办公自动化系统
在线阅读 下载PDF
上一页 1 2 7 下一页 到第
使用帮助 返回顶部