期刊文献+
共找到149篇文章
< 1 2 8 >
每页显示 20 50 100
基于卷积循环神经网络的手写汉字文本识别 被引量:3
1
作者 胡瑞朋 何春燕 +2 位作者 张伟明 赵立新 李明博 《科学技术与工程》 北大核心 2025年第4期1547-1554,共8页
为了解决卷积循环神经网络(convolutional recurrent neural networks, CRNN)手写汉字文本识别网络模型的训练参数大、文本识别率低等问题,提出一种基于注意力双向长短期记忆网络(based on attention bi-directional long short-term me... 为了解决卷积循环神经网络(convolutional recurrent neural networks, CRNN)手写汉字文本识别网络模型的训练参数大、文本识别率低等问题,提出一种基于注意力双向长短期记忆网络(based on attention bi-directional long short-term memory network, AT-BLSTM)和知识蒸馏(knowledge distillation, KD)技术的手写汉字识别方法。通过对AT-BLSTM网络的输入向量特征赋予不同的权重,使模型训练数据集更加高效、准确;通过KD技术将一个高性能的大模型获取的知识传输到一个小模型中,在确保模型准确性的同时,减少训练参数和内存占比,得到一个性能更优的轻量级训练模型。该方法通过多组实验对比,汉字识别准确率提高了6.7%,训练参数减少15.94 M。该网络模型识别准确率达到97.9%,汉字识别效果更好。 展开更多
关键词 卷积循环神经网络(CRNN) 手写汉字文本识别 注意力机制 知识蒸馏(KD)
在线阅读 下载PDF
基于自注意力层的神经网络弹道落点预测方法
2
作者 马月红 曹彦敏 +5 位作者 李超旺 赵辰 周辉 赵慧亮 王晓成 李乾 《弹箭与制导学报》 北大核心 2025年第1期53-61,共9页
针对现有的弹道落点预测方法误差大和气象变化适应不足的问题,建立了包含气象条件的弹道数据集,并提出了一种基于自注意力层的CNN-BiLSTM-BiGRU弹道落点预测方法。在所构建的组合模型中引入自注意力层和残差连接,加强模型在处理输入序... 针对现有的弹道落点预测方法误差大和气象变化适应不足的问题,建立了包含气象条件的弹道数据集,并提出了一种基于自注意力层的CNN-BiLSTM-BiGRU弹道落点预测方法。在所构建的组合模型中引入自注意力层和残差连接,加强模型在处理输入序列时动态关注不同时刻信息的能力,缓解网络中的梯度爆炸问题。采用多维时间序列数据的输入表示方法,结合历史弹道轨迹数据和目标特征等信息,减小弹道落点预测误差。仿真结果表明,基于自注意力层的CNN-BiLSTM-BiGRU网络模型的预测效果优于其他模型,射程预测的最大误差占真实值的0.156%,横偏预测的最大误差占真实值的5.904%。文中研究为弹道落点预测领域提供了重要的参考依据。 展开更多
关键词 弹道落点预测 深度学习 弹道模型 注意力层 卷积神经网络 长短期记忆网络 门控循环神经网络
在线阅读 下载PDF
基于注意力机制循环神经网络的液体火箭发动机故障检测 被引量:2
3
作者 张万旋 卢哲 +2 位作者 张箭 薛薇 张楠 《导弹与航天运载技术(中英文)》 CSCD 北大核心 2024年第2期25-31,共7页
针对液体火箭发动机主级段工作过程,采用多变量非线性时间序列分析理论,在两级注意力机制循环神经网络(Dual Stage Attention Based Recurrent Neural Networks,DA-RNN)的基础上,提出一种新型时序分析工具——卷积两级注意力机制循环神... 针对液体火箭发动机主级段工作过程,采用多变量非线性时间序列分析理论,在两级注意力机制循环神经网络(Dual Stage Attention Based Recurrent Neural Networks,DA-RNN)的基础上,提出一种新型时序分析工具——卷积两级注意力机制循环神经网络(Convolutional Dual Stage Attention Based Recurrent Neural Networks,CDA-RNN),从而建立故障趋势预测模型。通过对预测残差进行自相关性分析并定义故障置信概率,提出了故障检测量化依据。利用发生微弱故障的热试车数据进行验证,结果表明,CDA-RNN模型对非稳态工作段微弱故障多参数检测具有良好鲁棒性,该方法十分有效,具有直接应用价值。 展开更多
关键词 多变量时间序列 注意力机制 循环神经网络 卷积神经网络 自相关性分析
在线阅读 下载PDF
基于注意力卷积神经网络的视觉里程计 被引量:1
4
作者 高学金 牟雨曼 任明荣 《控制工程》 CSCD 北大核心 2024年第6期1060-1066,共7页
传统的视觉里程计(visual odometry,VO)要求图像含有大量的纹理信息,且求解过程较为复杂。针对以上问题提出基于注意力卷积神经网络的视觉里程计,对相机进行端到端的位姿估计,利用注意力机制提高模型估计轨迹的精度。首先,使用注意力-... 传统的视觉里程计(visual odometry,VO)要求图像含有大量的纹理信息,且求解过程较为复杂。针对以上问题提出基于注意力卷积神经网络的视觉里程计,对相机进行端到端的位姿估计,利用注意力机制提高模型估计轨迹的精度。首先,使用注意力-卷积神经网络(convolutional neural networks,CNN)模块提取图像特征;然后,将特征输入到门控循环单元(gated recurrent unit,GRU)学习图像的时序连接性;最后,通过全连接层降维输出相机位姿。在KITTI数据集上完成实验,并与其他方法进行对比,结果表明卷积网络中加入注意力机制可以有效提高轨迹估计的精度,且误差低于其他视觉里程计算法。 展开更多
关键词 视觉里程计 注意力机制 卷积神经网络 门控循环单元
在线阅读 下载PDF
基于多重注意力卷积神经网络双向门控循环单元的机械故障诊断方法研究 被引量:18
5
作者 程建刚 毕凤荣 +3 位作者 张立鹏 李鑫 杨晓 汤代杰 《内燃机工程》 CAS CSCD 北大核心 2021年第4期77-83,92,共8页
为解决传统机械故障诊断方法需要人工提取特征的不足,提出一种基于多重注意力卷积神经网络双向门控循环单元(multiple attention-convolutional neural networks-bidirectional gated recurrent unit,MA-CNN-BiGRU)的端到端的故障诊断... 为解决传统机械故障诊断方法需要人工提取特征的不足,提出一种基于多重注意力卷积神经网络双向门控循环单元(multiple attention-convolutional neural networks-bidirectional gated recurrent unit,MA-CNN-BiGRU)的端到端的故障诊断方法。首先将原始时域数据输入卷积神经网络(convolutional meural networks,CNN)进行初步特征提取并降维,然后将结果重组输入双向门控循环单元(bidirectional gated recurrent unit,BiGRU),可以有效地解决BiGRU对于过长序列数据处理困难的问题。采用美国凯斯西储大学开源轴承数据集进行训练,确定了最佳卷积层数和最佳样本长度约减比例分别为2和1/8。同时,通过在CNN和BiGRU中分别加入卷积注意力模块(convolutional block attention module,CBAM)和序列注意力模块(sequence attention module,SAM),进一步加强了模型对于关键信息的提取能力。最后实测柴油机故障振动信号试验表明:MA-CNN-BiGRU模型可以实现端到端的故障诊断,与变分模态分解(variational mode decomposition,VMD)核模糊C均值聚类算法(VMD-kernel fuzzy C-means clustering,VMD-KFCM)、VMD-反向传播神经网络(back propagation neural network,BPNN)和一维CNN等方法进行对比,MA-CNN-BiGRU模型的故障诊断性能更优。 展开更多
关键词 注意 故障诊断 多重注意卷积神经网络双向门控循环单元(MA-CNN-BiGRU) 端到端
在线阅读 下载PDF
基于注意力机制优化组合神经网络的电力缺陷等级确定方法 被引量:4
6
作者 程宏伟 高莲 +1 位作者 于虹 李鹏 《电测与仪表》 北大核心 2024年第1期83-90,98,共9页
为解决电力缺陷描述专业词汇较多分词准确率不佳以及单一神经网络模型自身存在不足的问题,提出了基于注意力机制优化组合神经网络的电力缺陷等级确定方法。该方法使用分布式字粒度向量对电力缺陷描述进行表示,使用由卷积神经网络和双向... 为解决电力缺陷描述专业词汇较多分词准确率不佳以及单一神经网络模型自身存在不足的问题,提出了基于注意力机制优化组合神经网络的电力缺陷等级确定方法。该方法使用分布式字粒度向量对电力缺陷描述进行表示,使用由卷积神经网络和双向长短时记忆网络组成的卷积循环神经网络对电力缺陷描述的局部特征和序列特征进行特征提取,采用注意力机制对组合神经网络得到的语义特征进行权重分配,减少关键特征的丢失,进一步增强关键信息对分类结果的影响。以云南电网公司2014年—2019年间11万条缺陷描述数据作为实验对象,文中所提方法的Acc、MF_(1)值和WF_(1)值分别为0.9275、0.9112和0.9275,验证了该方法在电力缺陷等级确定中的有效性和可行性,为电网的智能化运行提供帮助。 展开更多
关键词 卷积循环神经网络 字粒度 注意力机制 电力缺陷描述 状态评价
在线阅读 下载PDF
基于卷积神经网络和双向门控循环单元网络注意力机制的情感分析 被引量:15
7
作者 张腾 刘新亮 高彦平 《科学技术与工程》 北大核心 2021年第1期269-274,共6页
传统的情感分析方法不能获取全局特征,以及否定词、转折词和程度副词的出现影响句子极性判断。在深度学习方法基础上提出了基于卷积神经网络和双向门控循环单元网络注意力机制的短文本情感分析方法。将情感积分引入卷积神经网络,利用情... 传统的情感分析方法不能获取全局特征,以及否定词、转折词和程度副词的出现影响句子极性判断。在深度学习方法基础上提出了基于卷积神经网络和双向门控循环单元网络注意力机制的短文本情感分析方法。将情感积分引入卷积神经网络,利用情感词自身信息,通过双向门控循环网络模型获取全局特征,对影响句子极性的否定词、转折词和程度副词引入注意力机制实现对这类词的重点关注,提取影响句子极性的重要信息。实验结果表明,该模型与现有相关模型相比,有效提高情感分类的准确率。 展开更多
关键词 深度学习 双向门控循环单元(Bi-GRU) 注意力机制 卷积神经网络 情感分析
在线阅读 下载PDF
引入注意力机制时空深度神经网络的再热器温度偏差预测方法 被引量:3
8
作者 武晨雨 陶银罗 曾九孙 《中国测试》 CAS 北大核心 2024年第1期151-159,192,共10页
锅炉再热器是将低压蒸汽再进行加热至一定温度的蒸汽过热器,其稳定运行对于燃煤机组的安全和高效生产具有重要意义。在锅炉运行过程中,由于炉膛出口和水平烟道中存在残余旋转动量,造成再热器两侧出口温度产生偏差,偏差过大时有可能导致... 锅炉再热器是将低压蒸汽再进行加热至一定温度的蒸汽过热器,其稳定运行对于燃煤机组的安全和高效生产具有重要意义。在锅炉运行过程中,由于炉膛出口和水平烟道中存在残余旋转动量,造成再热器两侧出口温度产生偏差,偏差过大时有可能导致爆管事故的发生。为实现再热器温度偏差的提前预测,设计一种基于注意力机制的时空融合深度神经网络模型,分别采用卷积神经网络和门控循环神经网络提取空间和时间信息,同时引入注意力机制对各类特征进行赋权,以提升预测精度。该模型同时发挥卷积神经网络在空间信息处理和门控循环神经网络在时间信息处理方面的优势,并充分利用特征图上通道注意力机制的全局信息,解决单个模型特征信息提取不充分问题。在燃煤电厂实际数据中的应用结果表明,与其他深度学习方法相比,所提出的方法具有更高的预测精度,其均方根误差、决定系数、预测准确率分别为0.962、1.342、0.985。 展开更多
关键词 再热器温度偏差预测 卷积神经网络 门控循环神经网络 注意力机制
在线阅读 下载PDF
基于多头注意力循环卷积神经网络的电力设备缺陷文本分类方法 被引量:14
9
作者 陆世豪 祝云 周振茂 《广东电力》 2021年第6期30-38,共9页
充分利用历史电力设备缺陷描述文本可对新出现的设备故障进行快速分类,提升运维人员的检修效率,为此针对缺陷描述文本具有复杂语义等特点,提出基于多头注意力循环卷积神经网络(multi-head attention recurrent convolutional neural net... 充分利用历史电力设备缺陷描述文本可对新出现的设备故障进行快速分类,提升运维人员的检修效率,为此针对缺陷描述文本具有复杂语义等特点,提出基于多头注意力循环卷积神经网络(multi-head attention recurrent convolutional neural networks,MAT-RCNN)的电力设备缺陷分类方法。首先对电力设备缺陷描述文本进行研究,并分析部分文本分类模型的局限;然后采用分布式表示方法将词语表示为向量形式,并将多头注意力机制与优化的RCNN结合,构建基于MAT-RCNN的电力设备缺陷描述文本分类模型;最后,通过算例比较分析,证明所提方法在语义学习能力、分类效果等方面优于RNN等常规方法。 展开更多
关键词 多头注意 循环卷积神经网络 文本分类 电力设备缺陷文本 深度语义学习
在线阅读 下载PDF
基于循环卷积神经网络的实体关系抽取方法研究 被引量:4
10
作者 万静 李浩铭 +1 位作者 严欢春 张雪超 《计算机应用研究》 CSCD 北大核心 2020年第3期699-703,共5页
针对目前大多数关系抽取中对于文本语料中较长的实体共现句,往往只能获取到局部的特征,并不能学习到长距离依赖信息的问题,提出了一种基于循环卷积神经网络与注意力机制的实体关系抽取模型。将擅长处理远距离依赖关系的循环神经网络GRU... 针对目前大多数关系抽取中对于文本语料中较长的实体共现句,往往只能获取到局部的特征,并不能学习到长距离依赖信息的问题,提出了一种基于循环卷积神经网络与注意力机制的实体关系抽取模型。将擅长处理远距离依赖关系的循环神经网络GRU加入到卷积神经网络的向量表示阶段,通过双向GRU学习得到词语的上下文信息向量,在卷积神经网络的池化层采取分段最大池化方法,在获取实体对结构信息的同时,提取更细粒度的特征信息,同时在模型中加入基于句子级别的注意力机制。在NYT数据集的实验结果表明提出的方法能有效提高实体关系抽取的准确率与召回率。 展开更多
关键词 GRU 循环卷积神经网络 注意力机制 关系抽取
在线阅读 下载PDF
AM-CNN:一种基于注意力的卷积神经网络文本分类模型 被引量:17
11
作者 王吉俐 彭敦陆 +1 位作者 陈章 刘丛 《小型微型计算机系统》 CSCD 北大核心 2019年第4期710-714,共5页
目前,大多数公开的文本分类数据集是相对平衡的,但对于真实文本分布来说,通常会出现类别极端不平衡的情况,这样的数据集会对模型训练产生影响.针对该问题,论文提出了一种基于卷积神经网络和注意力机制的文本分类算法——AM-CNN(Convolut... 目前,大多数公开的文本分类数据集是相对平衡的,但对于真实文本分布来说,通常会出现类别极端不平衡的情况,这样的数据集会对模型训练产生影响.针对该问题,论文提出了一种基于卷积神经网络和注意力机制的文本分类算法——AM-CNN(Convolutional Neural Network with Attention Mechanism).算法利用循环神经网络捕捉文本的上下文信息,通过引入注意力机制得到文本类别的特征向量矩阵后运用卷积神经网络模型完成文本的分类,以降低在文本分类的训练过程中对小类别的不公平.实验结果表明,该算法对于提高文本分类的精度有较显著的效果. 展开更多
关键词 文本分类 循环神经网络 注意力机制 卷积神经网络 不平衡
在线阅读 下载PDF
基于卷积循环神经网络的关系抽取 被引量:16
12
作者 宋睿 陈鑫 +1 位作者 洪宇 张民 《中文信息学报》 CSCD 北大核心 2019年第10期64-72,共9页
关系抽取是信息抽取领域一项十分具有挑战性的任务,用于将非结构化文本转化为结构化数据。近年来,卷积神经网络和循环神经网络等深度学习模型,被广泛应用于关系抽取的任务中,且取得了不错的效果。卷积网络和循环网络在该任务上各有优势... 关系抽取是信息抽取领域一项十分具有挑战性的任务,用于将非结构化文本转化为结构化数据。近年来,卷积神经网络和循环神经网络等深度学习模型,被广泛应用于关系抽取的任务中,且取得了不错的效果。卷积网络和循环网络在该任务上各有优势,且存在一定的差异性。其中,卷积网络擅长局部特征提取,循环网络能够捕获序列整体信息。针对该现象,该文综合卷积网络抽取局部特征的优势和循环网络在时序依赖中的建模能力,提出了卷积循环神经网络(convolutional recurrent neural network,CRNN)。该模型分为三层:首先针对关系实例抽取多粒度局部特征,然后通过聚合层融合不同粒度的特征,最后利用循环网络提取特征序列的整体信息。此外,该文还探究多种聚合策略对信息融合的增益,发现注意力机制对多粒度特征的融合能力最为突出。实验结果显示,CRNN优于主流的卷积神经网络和循环神经网络,在SemEval 2010Task 8数据集上取得了86.52%的F1值。 展开更多
关键词 关系抽取 卷积神经网络 循环神经网络 聚合策略 注意力机制
在线阅读 下载PDF
基于视觉的神经网络三维动态手势识别方法综述 被引量:4
13
作者 王瑞平 吴士泓 +1 位作者 张美航 王小平 《计算机科学》 CSCD 北大核心 2024年第4期193-208,共16页
动态手势识别作为一种重要的人机交互手段而受到广泛关注,其中基于视觉的识别方式因其使用便利性和低成本的优势成为新一代人机交互的首选技术。以人工神经网络为中心,综述了基于视觉的手势识别方法研究进展,分析了不同类型人工神经网... 动态手势识别作为一种重要的人机交互手段而受到广泛关注,其中基于视觉的识别方式因其使用便利性和低成本的优势成为新一代人机交互的首选技术。以人工神经网络为中心,综述了基于视觉的手势识别方法研究进展,分析了不同类型人工神经网络在手势识别中的发展现状,调研并归纳总结了待识别数据和训练数据集的类型及特点;此外,通过开展性能对比实验,客观评估了不同类型的人工神经网络,并对结果进行了分析。最后,对调研内容进行了总结,对该领域面临的挑战和存在的问题进行了阐述,对动态手势识别技术的发展趋势进行了展望。 展开更多
关键词 动态手势识别 人机交互 人工神经网络 卷积神经网络 循环神经网络 注意力机制 混合神经网络
在线阅读 下载PDF
基于多通道循环卷积神经网络的文本分类方法 被引量:3
14
作者 陆超红 《计算机应用与软件》 北大核心 2020年第8期282-288,共7页
循环神经网络和卷积神经网络能够分别捕捉文本中的长期依赖和局部依赖,但是定长的向量表示限制了循环神经网络的特征表达能力,卷积核的大小也影响了卷积神经网络提取特征的能力。针对这些问题,提出多通道循环卷积神经网络来处理文本分... 循环神经网络和卷积神经网络能够分别捕捉文本中的长期依赖和局部依赖,但是定长的向量表示限制了循环神经网络的特征表达能力,卷积核的大小也影响了卷积神经网络提取特征的能力。针对这些问题,提出多通道循环卷积神经网络来处理文本分类。采用双向长短期记忆网络对文本进行序列建模;利用标量注意力机制和矢量注意力机制来辅助生成文本的多通道表示;最终由卷积神经网络来完成文本分类。在标准数据集上的实验验证了该框架的分类有效性以及文本多通道表示的语义丰富性。 展开更多
关键词 注意力机制 循环神经网络 卷积神经网络 多通道 文本分类
在线阅读 下载PDF
融合卷积神经网络与双向GRU的文本情感分析胶囊模型 被引量:11
15
作者 程艳 孙欢 +3 位作者 陈豪迈 李猛 蔡盈盈 蔡壮 《中文信息学报》 CSCD 北大核心 2021年第5期118-129,共12页
文本情感分析是自然语言处理领域一个重要的分支。现有深度学习方法不能更为全面地提取文本情感特征,且严重依赖于大量的语言知识和情感资源,需要将这些特有的情感信息充分利用使模型达到最佳性能。该文提出了一种融合卷积神经网络与双... 文本情感分析是自然语言处理领域一个重要的分支。现有深度学习方法不能更为全面地提取文本情感特征,且严重依赖于大量的语言知识和情感资源,需要将这些特有的情感信息充分利用使模型达到最佳性能。该文提出了一种融合卷积神经网络与双向GRU网络的文本情感分析胶囊模型。该模型首先使用多头注意力学习单词间的依赖关系、捕获文本中情感词,利用卷积神经网络和双向GRU提取文本不同粒度的情感特征,特征融合后输入全局平均池化层,在得到文本的实例特征表示的同时,针对每个情感类别结合注意力机制生成特征向量构建情感胶囊,最后根据胶囊属性判断文本情感类别。模型在MR、IMDB、SST-5及谭松波酒店评论数据集上进行实验,相比于其他基线模型具有更好的分类效果。 展开更多
关键词 文本情感分析 多头注意 卷积神经网络 双向门控循环网络 情感胶囊
在线阅读 下载PDF
基于混合神经网络和注意力机制的软件缺陷自动分派方法 被引量:16
16
作者 刘烨 黄金筱 马于涛 《计算机研究与发展》 EI CSCD 北大核心 2020年第3期461-473,共13页
软件缺陷修复是软件质量保证的一个重要环节.在互联网上开源、开放的群智化软件开发环境中,提升缺陷分派的效率和效果,有助于提高缺陷修复率并降低维护成本.目前,基于机器学习的缺陷自动分派方法已成为主流技术,但也存在特征人工构建、... 软件缺陷修复是软件质量保证的一个重要环节.在互联网上开源、开放的群智化软件开发环境中,提升缺陷分派的效率和效果,有助于提高缺陷修复率并降低维护成本.目前,基于机器学习的缺陷自动分派方法已成为主流技术,但也存在特征人工构建、文本表示能力不足等问题.近年来,鉴于深度学习在自然语言处理领域的成功应用,研究者尝试将深度学习技术引入缺陷分派任务中,使得缺陷修复者的预测效果有了显著提高.然而,不同类型的神经网络亦存在各自的局限性.针对上述问题,将缺陷自动分派任务视为文本分类问题,结合卷积神经网络、循环神经网络和注意力机制各自的优势,提出了一种基于混合神经网络和注意力机制的缺陷自动分派方法Atten-CRNN,能更有效地捕获缺陷报告的重要文本特征和序列特征,从而提供更精准的缺陷修复者推荐服务.在Eclipse和Mozilla两个大型的知名软件开源项目中进行了实证研究,在20万量级的缺陷报告上的实验结果表明:无论是否考虑注意力机制,Atten-CRNN的预测准确率要高于基于卷积神经网络和基于循环神经网络的基准模型. 展开更多
关键词 缺陷分派 文本分类 卷积神经网络 循环神经网络 注意
在线阅读 下载PDF
融合注意力机制的混合神经网络文本情感分析模型 被引量:12
17
作者 孔韦韦 田乔鑫 +2 位作者 滕金保 王照乾 常亮 《电讯技术》 北大核心 2023年第6期781-789,共9页
以往的文本情感分析模型存在忽略文本边缘信息、池化层破坏文本序列特征的问题,并且特征提取能力与识别关键信息的能力也存在不足。为了进一步提升情感分析的效果,提出了一种基于注意力机制的动态卷积神经网络(Dynamic Convolutional Ne... 以往的文本情感分析模型存在忽略文本边缘信息、池化层破坏文本序列特征的问题,并且特征提取能力与识别关键信息的能力也存在不足。为了进一步提升情感分析的效果,提出了一种基于注意力机制的动态卷积神经网络(Dynamic Convolutional Neural Network,DCNN)与双向门控循环单元(Bi-directional Gated Recurrent Unit,BiGRU)的文本情感分析模型DCNN-BiGRU-Att。首先,利用宽卷积核提取文本边缘特征,采用动态k-max池化保留了文本的相对位置序列特征。其次,构建了DCNN与BiGRU的并行混合结构,避免了部分特征损失问题,并同时保留局部特征与全局上下文信息两种特征,提高了模型的特征提取能力。最后,在特征融合之后引入注意力机制,将注意力机制的作用全局化,提高了模型识别关键信息的能力。将该模型在MR与SST-2两个公开数据集上与多个深度学习模型进行对比,其准确率分别提高了1.27%和1.07%,充分证明了该模型的合理有效性。 展开更多
关键词 文本情感分析 双向门控循环单元(BiGRU) 动态卷积神经网络(DCNN) 注意力机制 特征融合
在线阅读 下载PDF
多尺度全局自适应注意力图神经网络 被引量:1
18
作者 苟茹茹 杨文柱 +1 位作者 罗梓菲 原云峰 《计算机科学与探索》 CSCD 北大核心 2023年第12期3039-3051,共13页
针对动态多尺度图神经网络的编解码网络中存在的身体部位内部关节点间关联度不高和感受野受限制导致运动预测误差偏高的问题,提出了一种用于人体运动预测的多尺度全局自适应注意力图神经网络,降低运动预测误差。提出了一种划分骨架关节... 针对动态多尺度图神经网络的编解码网络中存在的身体部位内部关节点间关联度不高和感受野受限制导致运动预测误差偏高的问题,提出了一种用于人体运动预测的多尺度全局自适应注意力图神经网络,降低运动预测误差。提出了一种划分骨架关节点的多距离分区策略,用于提高身体部位关节点信息在时间和空间上的关联程度;提出了全局自适应注意力时空卷积神经网络,以动态地加强网络对某一动作有贡献的时空关节点的关注度;将上述两处改进集成到图卷积神经网络门控循环单元中,以增强解码网络的状态传播性能,并降低预测误差。实验表明,与最新方法相比,该方法在Human 3.6M、CMU Mocap和3DPW数据集上的预测误差都有所下降。 展开更多
关键词 运动预测 多距离分区策略 全局自适应注意 时空图卷积神经网络 门控循环单元
在线阅读 下载PDF
层次化双注意力神经网络模型的情感分析研究 被引量:3
19
作者 曾碧卿 韩旭丽 +2 位作者 王盛玉 周武 杨恒 《智能系统学报》 CSCD 北大核心 2020年第3期460-467,共8页
在篇章级的情感分类中由于篇章级文本较长,特征提取较普通句子级分析相对较难,大多方法使用层次化的模型进行篇章文本的情感分析,但目前的层次化模型多以循环神经网络和注意力机制为主,单一的循环神经网络结构提取的特征不够明显。本文... 在篇章级的情感分类中由于篇章级文本较长,特征提取较普通句子级分析相对较难,大多方法使用层次化的模型进行篇章文本的情感分析,但目前的层次化模型多以循环神经网络和注意力机制为主,单一的循环神经网络结构提取的特征不够明显。本文针对篇章级的情感分类任务,提出一种层次化双注意力神经网络模型。首先对卷积神经网络进行改进,构建词注意力卷积神经网络。然后模型从两个层次依次提取篇章特征,第一层次使注意力卷积神经网络发现每个句子中的重要词汇,提取句子的词特征,构建句子特征向量;第二层次以循环神经网络获取整个篇章的语义表示,全局注意力机制发现篇章中每个句子的重要性,分配以不同的权重,最后构建篇章的整体语义表示。在IMDB、YELP 2013、YELP 2014数据集上的实验表明,模型较当前最好的模型更具优越性。 展开更多
关键词 情感分析 注意力机制 卷积神经网络 情感分类 循环神经网络 词向量 深度学习 特征选取
在线阅读 下载PDF
基于混合神经网络的实体关系抽取方法研究 被引量:8
20
作者 葛艳 杜坤钰 +1 位作者 杜军威 陈卓 《中文信息学报》 CSCD 北大核心 2021年第10期81-89,共9页
实体关系抽取是信息抽取领域的重要研究内容,对知识库的自动构建起着至关重要的作用。针对非结构化文本实体关系抽取存在上下文环境信息难以准确表征,致使现有抽取模型准确率不能满足实际应用需求的问题,该文提出了一种新型的实体关系... 实体关系抽取是信息抽取领域的重要研究内容,对知识库的自动构建起着至关重要的作用。针对非结构化文本实体关系抽取存在上下文环境信息难以准确表征,致使现有抽取模型准确率不能满足实际应用需求的问题,该文提出了一种新型的实体关系抽取模型BiGRU-Att-PCNN。该模型是基于混合神经网络,首先,构建双向门控循环单元(BiGRU)以更好地获取文本序列中的上下文语序的相关信息;然后,采用注意力(Attention)机制来达到自动关注对关系影响力高的序列特征的目的;最后,通过采用分段卷积神经网络(PCNN),从调整后的序列中较好地学习到了相关的环境特征信息来进行关系抽取。该模型在公开的英文数据集SemEval 2010 Task 8上取得了86.71%的F_(1)值,实验表明,该方法表现出了较好的性能,为信息抽取领域实体关系的自动获取提供了新的方法支持。 展开更多
关键词 实体关系抽取 双向门控循环单元 注意力机制 分段卷积神经网络
在线阅读 下载PDF
上一页 1 2 8 下一页 到第
使用帮助 返回顶部