期刊文献+
共找到3篇文章
< 1 >
每页显示 20 50 100
基于Dijkstra算法分布式JobTracker节点模型通信方式的优化
1
作者 黄伟建 杨海龙 《河南师范大学学报(自然科学版)》 CAS 北大核心 2016年第3期154-159,共6页
针对MapReduce框架下JobTracker单点失效而引发的系统运行崩溃问题,通过建立分布式JobTracker节点模型来改善JobTracker的可靠性,并基于Dijkstra算法的单源最短路径思想对新建立模型中主从节点间的通信方式进行优化与改进,使任务节点优... 针对MapReduce框架下JobTracker单点失效而引发的系统运行崩溃问题,通过建立分布式JobTracker节点模型来改善JobTracker的可靠性,并基于Dijkstra算法的单源最短路径思想对新建立模型中主从节点间的通信方式进行优化与改进,使任务节点优先与其最近的不同机架和不同数据中心的3个控制节点进行通信.实验结果表明,分布式JobTracker节点模型能在一定程度上缓解由单JobTracker节点失效引起的作业失败问题,并且改进后的通信方式能够缓解单JobTracker节点存在的瓶颈,均衡JobTracker节点的负载. 展开更多
关键词 MAPREDUCE 通信方式 DIJKSTRA jobtracker TaskTracker
在线阅读 下载PDF
Hadoop集群部署实验的设计与实现 被引量:20
2
作者 孟永伟 黄建强 +1 位作者 曹腾飞 王晓英 《实验技术与管理》 CAS 北大核心 2015年第1期145-149,共5页
阐述了Hadoop软件框架中的两大核心技术——HDFS分布式文件系统架构和MapReduce分布式处理机制,设计了Hadoop集群部署实验的具体方案,主要包括实验目的、实验区域的划分、节点的规划等,并且以一组实验设备为例,详细说明了配置方法,给出... 阐述了Hadoop软件框架中的两大核心技术——HDFS分布式文件系统架构和MapReduce分布式处理机制,设计了Hadoop集群部署实验的具体方案,主要包括实验目的、实验区域的划分、节点的规划等,并且以一组实验设备为例,详细说明了配置方法,给出了实现过程。通过该实验能够让学生从理论和实践上掌握Hadoop有关的技术知识。 展开更多
关键词 HADOOP 集群部署 HDFS MAPREDUCE NameNode DataNode jobtrack TaskTrack
在线阅读 下载PDF
MapReduce高可用性的研究与优化 被引量:3
3
作者 黄伟建 周鸣爱 《计算机工程与设计》 CSCD 北大核心 2014年第11期4044-4048,共5页
为提高MapReduce的可用性,提出一种分布式Jobtracker节点模型的优化方案。对Hadoop的核心技术之一MapReduce编程模型中的作业调度过程进行研究分析,指出单一Jobtracker带来的性能瓶颈,提出相应的优化方案;在此基础上,建立总体设计模型,... 为提高MapReduce的可用性,提出一种分布式Jobtracker节点模型的优化方案。对Hadoop的核心技术之一MapReduce编程模型中的作业调度过程进行研究分析,指出单一Jobtracker带来的性能瓶颈,提出相应的优化方案;在此基础上,建立总体设计模型,将原MapReduce中单一的Jobtracker节点优化为具有多个Jobtracker节点的Jobtracker集群;在该模型的基础上,采用多对多的通信方法优化通信方式,以维护作业量列表的方式优化作业均衡,提高MapReduce的可用性和作业执行效率。通过测试系统的容错性和执行效率,验证了优化后模型的高可用性和高效性。 展开更多
关键词 云计算 编程模型 控制节点 高可用性 优化
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部