-
题名基于规则约束的深度学习网络用于文本信息抽取
被引量:3
- 1
-
-
作者
赖娟
洪艳伟
-
机构
乐山师范学院互联网自然语言智能处理四川省高校重点实验室
乐山师范学院人工智能学院
-
出处
《计算机工程与设计》
北大核心
2021年第12期3548-3554,共7页
-
基金
四川省教育厅重点基金项目(18ZA0233)。
-
文摘
针对文本信息抽取中由于训练样本不足导致性能下降的问题,提出一种基于规矩约束的深度学习网络模型。模型分为深度学习模块、逻辑规则库和差异单元3个部分。将文本句子作为输入数据馈送到学习模块中,基于Bi-GRU网络和多头自注意力机制在多个维度上为每个单词生成一个预测向量;规则库采用带权重的逻辑规则对深度学习进行约束;差异单元利用损失函数协调学习模块与规则库之间的一致性。实验结果表明,所提模型比其它算法具有更好的性能,能够高效精确处理复杂文本。
-
关键词
信息抽取
深度学习
规则约束
Bi-GRU网络
多头自注意力机制
-
Keywords
information extraction
deep learning
rule constraint
Bi-GRU network
multi head self-attention mechanism
-
分类号
TP393
[自动化与计算机技术—计算机应用技术]
-
-
题名基于注意力机制和多任务学习的阿尔茨海默症分类
被引量:7
- 2
-
-
作者
杜丽君
唐玺璐
周娇
陈玉兰
程建
-
机构
乐山师范学院人工智能学院
电子科技大学信息与通信工程学院
-
出处
《计算机科学》
CSCD
北大核心
2022年第S01期60-65,共6页
-
基金
厅市共建智能终端四川省重点实验室开放课题基金(SCITLAB-0017)
四川省科技计划项目(2020YFG0085,2021YFG0328)
乐山市科技计划项目(19GZD044)。
-
文摘
利用深度学习实现阿尔茨海默症分类已成为近年来医学图像研究热点之一。为了解决现有模型难以有效提取医学图像特征及疾病分类辅助信息资源浪费等问题,基于深度三维卷积神经网络提出一种引入注意力机制和多任务学习的阿尔茨海默症分类方法。首先,利用改进的基础C3D网络,生成较粗糙的低级特征图;然后,将其分别输入至引入注意力机制的卷积块与普通卷积块中,前者关注MRI图像的结构特性,能获取特征图中不同像素位置特有的注意力权重,与后者输出的特征图对应相乘;最后,利用不同的全连接层来实现多任务学习,获得包含主分类任务在内的3种输出,另2种输出在训练过程中通过反向传播优化主分类任务,得到优化后的阿尔茨海默症分类结果。实验结果表明,与目前已有阿尔茨海默症分类方法相比,所提方法在ADNI数据集上的分类准确率等指标均有所提升,有助于推进后续疾病分类研究。
-
关键词
医学图像分类
阿尔茨海默症
三维卷积
注意力机制
多任务学习
-
Keywords
Medical image classification
Alzheimer’s disease
3D convolution
Attention mechanism
Multi-task learning
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-