-
题名基于Hadoop的并行共享决策树挖掘算法研究
被引量：6
- 1
-
-
作者
陈湘涛
张超
韩茜
-
机构
湖南大学信息科学与工程学院
美国莱特州立大学计算机科学与工程系代顿
-
出处
《计算机科学》
CSCD
北大核心
2013年第11期215-221,共7页
-
基金
国家自然科学基金(61240046)资助
-
文摘
共享知识挖掘是指通过学习不同事物之间的共享知识,将学习到的知识应用到未知事物来加快认知未知事物。针对大数据集中串行共享知识挖掘算法效率低下的问题,结合云计算技术,提出了一种基于Hadoop的并行共享决策树挖掘算法(PSDT)。该算法采用传统的属性表结构实现并行挖掘,但其I/O操作过多,影响算法性能,为此,进一步提出了一种混合并行共享决策树挖掘算法(HPSDT)。该算法采用混合数据结构,在计算分裂指标阶段使用属性表结构,在分裂阶段采用数据记录结构。数据分析表明,HPSDT算法简化了分裂过程,其I/O操作是PSDT的0.34左右。实验结果表明,PSDT和HPSDT都具有良好的并行性和扩展性;HPSDT比PSDT性能更好,并且随着数据集的增大,HPSDT的优越性更加明显。
-
关键词
共享决策树
并行共享决策树
混合数据结构
云计算
HADOOP
-
Keywords
Shared decision tree, Parallel shared decision tree, Hybrid data structure, Cloud computing, Hadoop
-
分类号
TP311
[自动化与计算机技术—计算机软件与理论]
-
