-
题名基于深度学习的文本情感分析并行化算法
被引量:4
- 1
-
-
作者
翟东海
侯佳林
刘月
-
机构
西南交通大学信息科学与技术学院
-
出处
《西南交通大学学报》
EI
CSCD
北大核心
2019年第3期647-654,共8页
-
基金
国家自然科学基金资助项目(61540060)
科技部国家软科学研究计划资助项目(2013GXS4D150)
教育部科学技术研究重点项目(212167)
-
文摘
在训练集和测试集数据量大的情况下,半监督递归自编码(semi-supervised recursive auto encoder,Semi-Supervised RAE)文本情感分析模型会出现网络训练速度缓慢和模型的测试结果输出速率缓慢等问题.因此,提出采用并行化处理框架,在大训练集情况下,基于“分而治之”的方法,先将数据集进行分块划分并将各个数据块输入 Map 节点计算每个数据块的误差,利用缓冲区汇总所有的块误差,Reduce 节点从缓冲区读取这些块误差以计算优化目标函数;然后,调用 L-BFGS (limited-memory Broyden-Fletcher-Goldfarb-Shanno)算法调整参数,更新后的参数集再次加载到模型中,重复以上训练步骤逐步优化目标函数直至收敛,从而得到最优参数集;在测试集大的情况下,模型的初始化参数为上述步骤得到的参数集,Map 节点对各句子进行编码得到其向量表示,然后暂存在缓冲区中;最后,在 Reduce 节点中分类器利用各语句的向量表示计算各自语句的情感标签.实例验证表明:在标准语料库 MR (movie review)下本文算法精确度为 77.0%,与原始算法的精确度(77.3%)几乎相同;在大数据量训练集下,训练时间在一定程度上随着计算节点的增加而大量减少.
-
关键词
半监督递归自编码
文本情感分析
并行计算
-
Keywords
semi-supervised recursive auto encoders
text sentiment analysis
parallel computing
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-