-
题名面向双注意力网络的特定方面情感分析模型
被引量:19
- 1
-
-
作者
孙小婉
王英
王鑫
孙玉东
-
机构
吉林大学软件学院
吉林大学计算机科学与技术学院
符号计算与知识工程教育部重点实验室(吉林大学)
长春工程学院计算机技术与工程学院
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2019年第11期2384-2395,共12页
-
基金
国家自然科学基金项目(61872161,61602057,61976103)
吉林省科技发展计划项目(2018101328JC)
+3 种基金
吉林省科技厅优秀青年人才基金项目(20170520059JH)
吉林省技术攻关项目(20190302029GX)
吉林省发改委项目(2019C053-8)
吉林省教育厅科研项目(JJKH20191257KJ)~~
-
文摘
特定方面情感分析已经成为自然语言处理领域的研究热点,其通过学习文本上下文的信息判别文本中特定方面的情感极性,可以更加有效地帮助人们了解用户对不同方面的情感表达.当前,将注意力机制和神经网络相结合的模型在解决特定方面情感分析任务时大多仅考虑单一层面的注意力信息,并且卷积神经网络无法获取全局结构信息、循环神经网络训练时间过长且单词间的依赖程度随着距离增加而逐渐减弱.针对上述问题,提出一种面向双注意力网络的特定方面情感分析(dual-attention networks for aspect-level sentiment analysis,DANSA)模型.首先,引入多头注意力机制,通过对输入进行多次不同的线性变换操作,获取更全面的注意力信息,同时,多头注意力机制可以实现并行化计算,保证了DANSA的训练速度.其次,DANSA引入自注意力机制,通过计算输入中每个单词与其他所有单词的注意力得分获取全局结构信息,并且单词间的依赖程度不会受到时间和句子长度的影响.最后,融合上下文自注意力信息与特定方面单词注意力信息,共同作为特定方面情感预测的依据,最终实现特定方面情感极性的预测.相比结合注意力机制的神经网络,DANSA弥补了注意力信息单一问题,不仅可以有效获取全局结构信息,还能够实现并行化计算,大大降低了训练时间.在SemEval2014数据集和Twitter数据集上进行实验,DANSA获得了更好的分类效果,进一步证明了DANSA的有效性.
-
关键词
特定方面情感分析
自注意力机制
多头注意力机制
双注意力网络
自然语言处理
-
Keywords
aspect-based sentiment analysis(ABSA)
self-attention
multi-head attention
dual-attention networks
natural language processing(NLP)
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名双注意力密集残差收缩网络的图像去雨算法
- 2
-
-
作者
王震
牛晓伟
-
机构
重庆三峡学院电子与信息工程学院
-
出处
《电光与控制》
北大核心
2025年第3期88-93,共6页
-
基金
国家重点研发计划(2021 YFB3901400)。
-
文摘
针对现有算法对雨纹的清除不彻底并存在背景信息丢失的问题,提出一种双注意力密集残差收缩网络的图像去雨算法。该网络首先通过混合特征补偿模块收集多种尺度信息;在编码阶段使用双注意力密集残差收缩块作为编码器基础编码块,利用软阈值网络将收集的特征信息中的无用信息置零并添加空间,利用通道双注意力标注雨纹的位置信息;在解码阶段将前面不同阶段的特征信息进行聚合,通过scSE注意力机制进行空间、通道两方面激励,压缩特征信息传入解码器进行解码,最终输出去雨图像。在公开数据集Rain100H、Rain100L、Rain800和Rain12上进行实验,以Rain100H为例与其他算法相比,峰值信噪比(PSNR)提高了1.07~7.45 dB,结构相似度提高了0.021~0.139。
-
关键词
图像去雨
混合特征补偿
注意力机制
双注意力密集残差收缩网络
-
Keywords
image deraining
mixed feature compensation
attention mechanism
dual attention dense residual contraction network
-
分类号
TP273
[自动化与计算机技术—检测技术与自动化装置]
-
-
题名基于双分支注意力网络的青光眼诊断方法
- 3
-
-
作者
张旭刚
赵鲁江
江志刚
张华
-
机构
武汉科技大学冶金装备及其控制教育部重点实验室
武汉科技大学机械传动与制造工程湖北省重点实验室
-
出处
《武汉科技大学学报》
CAS
北大核心
2024年第5期384-393,共10页
-
基金
湖北省技术创新专项重大项目(2022BEC005).
-
文摘
通过分割眼底图像的视杯(OC)与视盘(OD)区域并计算二者直径之比得到的杯盘比(CDR)是诊断青光眼的一个重要指标,然而现有视杯/视盘分割方法的准确度较低,为此提出一种基于双分支注意力网络的青光眼诊断方法。首先,在图像输入主干网络前使用边界到像素方向(BPD)方法增强眼底图像的轮廓信息;其次,在网络编码器部分结合ConvNeXt的全局交互优势以及U-Net的局部处理优势,充分提取全局和局部的病理语义信息;最后,在解码器特征重建阶段采用多重注意力融合模块,通过直接和间接映射重组两个编码器和上采样模块提取的平滑和突出特征,深度挖掘目标区域信息,以提高模型对视杯/视盘区域分割的准确性。在REFUGE、DRISHTI-GS和RIM-ONEr3三个具有互补性的临床数据集上进行对比实验,验证了所设计的改进模块在提高眼底图像分割效果上的有效性,而且本文方法可有效平衡OC和OD两个目标区域的分割精度,在定量指标和可视化效果上均优于对比方法。
-
关键词
青光眼
眼底图像
视杯/视盘分割
双分支注意力网络
多重注意力融合模块
-
Keywords
glaucoma
fundus image
OC/OD segmentation
dual-branch attention network
multi-attention fusion module
-
分类号
TP391.4
[自动化与计算机技术—计算机应用技术]
-
-
题名基于rDNA-DS的多模态讽刺识别
- 4
-
-
作者
柏振
徐长波
曹少中
金子煊
侯国鹏
-
机构
北京印刷学院信息工程学院
-
出处
《计算机工程与设计》
北大核心
2025年第7期2126-2133,共8页
-
基金
北京市自然基金项目-北京市教委科技计划重点基金项目(KZ202010015021)
专业学位研究生联合培养基地建设-电子信息基金项目(21090223001)。
-
文摘
为有效解决多模态特征难以充分融合导致的推文讽刺预测准确率不高问题,提出一种基于rDNA-DS的多模态融合机制。采用RoBERTa、CLIP以及DaViT提取文本、图像属性和图像3种模态特征。通过改进的rDNA融合方法与SENet注意力通道所组成的rDNA-DS融合机制对3种模态进行融合,以文本特征为主,图像和图像属性特征为辅,合理分配通道注意力。对于Twitter数据集,实验结果表明,基于rDNA-DS融合机制,模型讽刺预测准确率达到93.81%,F1值为92.39%。将实验结果与基准模型和其它模型进行比较,验证了rDNA-DS机制可有效融合多种模态信息,在讽刺预测上取得更好的成绩。
-
关键词
多模态
情感分析
讽刺检测
推理双注意力网络
预训练模型
通道注意力
卷积神经网络
-
Keywords
multimodal
sentiment analysis
sarcasm detection
reasoning-DAN
RoBERTa
SENet
CNN
-
分类号
TP301
[自动化与计算机技术—计算机系统结构]
-