期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
基于反馈调度的MapReduce负载均衡分区算法研究 被引量:1
1
作者 刘寒梅 韩宏莹 《信息通信》 2015年第10期41-42,共2页
Map Reduce是一种处理大规模数据的并行计算模型,针对传统模型中reduce阶段各结点负载不均衡的问题,提出reduce阶段负载均衡分区算法。算法将map阶段产生的中间数据划分为更多的分区,减少了每个分区的工作量,引入了反馈机制来进一步提... Map Reduce是一种处理大规模数据的并行计算模型,针对传统模型中reduce阶段各结点负载不均衡的问题,提出reduce阶段负载均衡分区算法。算法将map阶段产生的中间数据划分为更多的分区,减少了每个分区的工作量,引入了反馈机制来进一步提高调度策略的性能,每次给reducetask分配都是基于反馈信息选择最优的分区,reducetask完成工作之后会继续获得新的分区,直到所有的分区都被分配完毕,实现了动态调节各reducetask的负载。通过重写Hadoop平台内核实现了算法并进行了实验分析,结果表明,该算法在不影响Map Reduce模型的情况下显著地缩短了任务的处理时间。 展开更多
关键词 MAP Reduce分区算法 负载均衡 反馈机制 HADOOP
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部