-
题名基于神经元块级别注意力机制的LSTM关系抽取
被引量：8
- 1
-
-
作者
吴天昊
古丽拉·阿东别克
-
机构
新疆大学信息科学与工程学院
国家语言资源监测与研究少数民族语言中心哈萨克和柯尔克孜语文基地
新疆多语种信息技术实验室
-
出处
《计算机应用研究》
CSCD
北大核心
2020年第S02期76-79,共4页
-
基金
新疆大学科研基金资助项目
-
文摘
目前关系抽取方法中,传统深度学习方法存在长距离依赖问题,并且未考虑模型内部神经元特征之间的相关性。针对以上问题,提出一种基于神经元块级别注意力机制的LSTM(long short-term memory)关系抽取方法。将多特征向量相融合作为双向LSTM的输入,采用块级别注意力机制对神经元特征进行注意力计算,通过注意力概率分布对神经元特征进行更新,同时采用批标准化算法对神经元的注意力特征进行优化,获取双向LSTM模型的输出特征;最后采用句子级别注意力机制对输出特征进行注意力计算,通过softmax分类器输出分类结果。在SemEval-2010task 8关系数据集上的实验结果表明,该方法的准确率较传统深度学习方法有进一步提升。
-
关键词
关系抽取
双向LSTM
块级别注意力机制
句子级别注意力机制
批标准化算法
-
分类号
TP391.1
[自动化与计算机技术—计算机应用技术]
-
