期刊文献+
共找到41篇文章
< 1 2 3 >
每页显示 20 50 100
基于自注意力神经网络的低信噪比光谱干涉膜厚测量
1
作者 王晨 王子政 +2 位作者 刘曌燃 姚程源 胡春光 《光学精密工程》 北大核心 2025年第9期1341-1352,共12页
为了提高薄膜厚度测量对低信噪比光谱数据的稳定性,提出了一种基于自注意力神经网络(Self-Attention-based Neural Network,SANN)的测量方法。由于传统傅里叶变换方法在信噪比降低时噪声成分可能掩盖主要干涉频率,难以准确提取厚度信息... 为了提高薄膜厚度测量对低信噪比光谱数据的稳定性,提出了一种基于自注意力神经网络(Self-Attention-based Neural Network,SANN)的测量方法。由于传统傅里叶变换方法在信噪比降低时噪声成分可能掩盖主要干涉频率,难以准确提取厚度信息,因此构建了一种以光谱数据为输入,薄膜厚度为输出的自注意力神经网络模型,利用自适应注意力机制对不同波长的光谱点赋予动态权重,以增强对低信噪比光谱数据的解析能力。采用光谱干涉膜厚测量系统采集实验数据,并通过波长偏移和光强归一化动态调整策略进行数据增强,用以扩充训练集并提高模型的泛化能力。该系统优化了基于自注意力机制的编码器层数及隐藏节点数,最终选定包含8层编码器、每层128个隐藏节点的模型。以晶圆为例进行验证,测试含有异常值的光谱数据集合,结果显示该模型在低信噪比测试集上的最大相对厚度测量误差为3.62%,证明该方法能有效抑制噪声影响,避免傅里叶变换方法中常见的异常值偏差,显著提升测量稳定性。所提方法可扩展至更广泛的薄膜测量应用中。 展开更多
关键词 干涉测量 晶圆厚度 光谱干涉式 注意力神经网络 抗噪声能力 测量稳定性
在线阅读 下载PDF
融合多尺度注意力神经网络的港口起重装备故障时序数据预测方法 被引量:1
2
作者 雷鹏 谢敬玲 +4 位作者 许洪祖 焦锋 魏立明 张忠岩 吕成兴 《机电工程》 北大核心 2025年第2期277-286,共10页
近年来,深度神经网络在轴承时序预测领域得到了广泛应用。为了进一步提升港口起重装备滚动轴承时序模型预测的准确度,以青岛港门机为例对港口起重装备关键部位的滚动轴承时序预测进行了建模,提出了一种融合改进变分模态分解的多尺度注... 近年来,深度神经网络在轴承时序预测领域得到了广泛应用。为了进一步提升港口起重装备滚动轴承时序模型预测的准确度,以青岛港门机为例对港口起重装备关键部位的滚动轴承时序预测进行了建模,提出了一种融合改进变分模态分解的多尺度注意力机制港口装备故障时序数据预测方法。首先,采用了融合非线性策略与混沌映射的改进灰狼优化算法(IGWO),自适应地确定了变分模态分解(VMD)的模态数与惩罚因子;然后,将变分模态分解得到的本征模态函数进一步作为融合多尺度注意力神经网络(FMANN)模型的时序输入,进行了多尺度通道特征融合;最后,对各个本征模态函数的预测结果进行了融合,得到了最终预测结果。研究结果表明:FMANN模型在回转机构数据集上的均方根误差(RMSE)为0.001 12,平均绝对百分比误差(MAPE)为6.396 3%,决定系数为0.999 8;相比于其他预测模型,FMANN预测效果更加拟合实际数据。FMANN模型能够准确地预测设备轴承的时序振动,有望为未来实际工业生产提供一条新思路。 展开更多
关键词 滚动轴承 故障诊断 变分模态分解 注意力机制 灰狼优化算法 融合多尺度注意力神经网络 深度可分离卷积
在线阅读 下载PDF
自适应卷积注意力与掩码结构协同的显著目标检测
3
作者 朱磊 袁金垚 +1 位作者 王文武 蔡小嫚 《电子与信息学报》 北大核心 2025年第1期260-270,共11页
显著目标检测(SOD)旨在模仿人类视觉系统注意力机制和认知机制来自动提取场景中的显著物体。虽然现有基于卷积神经网络(CNN)或Transformer的模型不断刷新该领域方法的性能,但较少研究关注以下两个问题:(1)此领域多数方法常采用逐像素点... 显著目标检测(SOD)旨在模仿人类视觉系统注意力机制和认知机制来自动提取场景中的显著物体。虽然现有基于卷积神经网络(CNN)或Transformer的模型不断刷新该领域方法的性能,但较少研究关注以下两个问题:(1)此领域多数方法常采用逐像素点的密集预测方式以获取像素显著值,然而该方式不符合基于人类视觉系统的场景解析机制,即人眼通常对语义区域进行整体分析而非关注像素级信息;(2)增强上下文信息关联在SOD任务中受到广泛关注,但通过Transformer主干结构获取长程关联特征不一定具有优势。SOD应更关注目标在适当区域内其中心-邻域差异性而非全局长程依赖。针对上述问题,该文提出一种新的显著目标检测模型,将CNN形式的自适应注意力和掩码注意力集成到网络中,以提高显著目标检测的性能。该算法设计了基于掩码感知的解码模块,通过将交叉注意力限制在预测的掩码区域来感知图像特征,有助于网络更好地聚焦于显著目标的整体区域。同时,该文设计了基于卷积注意力的上下文特征增强模块,与Transformer逐层建立长程关系不同,该模块仅捕获最高层特征中的适当上下文关联,避免引入无关的全局信息。该文在4个广泛使用的数据集上进行了实验评估,结果表明,该文提出的方法在不同场景下均取得了显著的性能提升,具有良好的泛化能力和稳定性。 展开更多
关键词 显著目标检测 卷积神经网络形式的自适应注意力 掩码注意力 特征增强
在线阅读 下载PDF
融合注意力机制和卷积神经网络的电网暂态电压稳定评估及可解释性分析 被引量:2
4
作者 张哲 秦博宇 +2 位作者 高鑫 丁涛 张逸兴 《电网技术》 EI CSCD 北大核心 2024年第11期4648-4657,I0057,I0056,共12页
提升复杂多变运行场景下电网稳定评估的时效性和准确性,提出一种融合注意力机制和卷积神经网络(convolutional neural network,CNN)的暂态电压稳定评估及可解释性分析方法。首先,采用卷积块注意力模块(convolutional block attention mo... 提升复杂多变运行场景下电网稳定评估的时效性和准确性,提出一种融合注意力机制和卷积神经网络(convolutional neural network,CNN)的暂态电压稳定评估及可解释性分析方法。首先,采用卷积块注意力模块(convolutional block attention module,CB AM)提升传统CNN的特征捕获能力,考虑模型特性和网络结构设计CBAMCNN组合模块。其次,建立基于CBAM-CNN的电网暂态电压稳定评估模型,揭示运行工况多变场景下系统关键电气量和稳定状态之间的映射关系。最后,基于沙普利值加性解释(Shapley additive explanations,SHAP)理论提出数据驱动模型评估结果的可解释性分析框架,提炼影响样本稳定状态的主导特征,评估各输入特征量对模型输出结果的贡献程度。在典型受端电网仿真系统中验证了所提稳定评估方法的准确性和可解释性分析方法的有效性。 展开更多
关键词 卷积块注意力模块-卷积神经网络 暂态电压稳定评估 沙普利值加性解释理论 可解释性分析
在线阅读 下载PDF
基于注意力卷积神经网络的焦家金矿带三维成矿预测及构造控矿因素定量分析 被引量:10
5
作者 邓浩 魏运凤 +3 位作者 陈进 刘占坤 喻姝研 毛先成 《中南大学学报(自然科学版)》 EI CAS CSCD 北大核心 2021年第9期3003-3014,共12页
焦家金矿带是我国重要的金矿产地,随着开采深度不断增加,深部找矿已成为目前工作重点,为此,从数据科学视角出发,利用深度学习技术,开展焦家矿带三维成矿预测及控矿因素定量分析工作。在建立三维地质模型和控矿指标基础上,构建引入CBAM... 焦家金矿带是我国重要的金矿产地,随着开采深度不断增加,深部找矿已成为目前工作重点,为此,从数据科学视角出发,利用深度学习技术,开展焦家矿带三维成矿预测及控矿因素定量分析工作。在建立三维地质模型和控矿指标基础上,构建引入CBAM注意力机制模块的卷积神经网络模型,从初始控矿指标中抽取具有矿化指示性的信息特征,建立焦家断裂面与矿化定位间的非线性关联关系,并与其他方法构建的成矿预测模型进行对比,验证本文方法构建的模型的准确性与可靠性。利用DeepLIFT方法解构深度网络特征,明确各控矿指标输入对网络输出的贡献,以此定量分析焦家矿带控矿因素对金成矿的影响。研究结果表明:焦家断裂距离场对成矿影响最显著,其次为坡度和坡度变化率,形态起伏度对成矿影响较弱;在矿带深部2000~3000 m圈定找矿有利靶区3处,其中,纱岭勘查区矿体深部延伸部位和曲家勘查区北段深部具有较大找矿潜力,焦家与曲家勘查区连接部位深部可能存在新的矿化富集区。 展开更多
关键词 三维成矿预测 焦家金矿带 注意力卷积神经网络 构造控矿因素分析
在线阅读 下载PDF
基于全局图注意力元路径异构网络的药物-疾病关联预测
6
作者 郁湧 杨雨洁 +2 位作者 李虓晗 高悦 于倩 《电子科技大学学报》 EI CAS CSCD 北大核心 2024年第4期576-583,共8页
提出了一个基于全局图注意力元路径异构网络模型(MHNGA)来进行药物-疾病关联预测。首先,收集整理药物和疾病数据,将已知的药物-疾病关联、药物相似性、疾病相似性构建为一个异构网络;其次,引入多个基于元路径的子图,使用图注意力神经网... 提出了一个基于全局图注意力元路径异构网络模型(MHNGA)来进行药物-疾病关联预测。首先,收集整理药物和疾病数据,将已知的药物-疾病关联、药物相似性、疾病相似性构建为一个异构网络;其次,引入多个基于元路径的子图,使用图注意力神经网络提取这些子图的邻居节点的特征,并且通过通道注意力和空间注意力机制来增强特征;最后,通过十折交叉验证的评估,MHNGA取得了93.5%的精确召回曲线下的面积和99.4%的准确率。 展开更多
关键词 异构图 药物-疾病关联 预测 注意力神经网络 元路径
在线阅读 下载PDF
用于旋转机械状态趋势预测的量子注意力循环编码解码神经网络 被引量:1
7
作者 李锋 程阳洋 +1 位作者 陈勇 汤宝平 《中国机械工程》 EI CAS CSCD 北大核心 2020年第21期2573-2582,共10页
提出了基于量子注意力循环编码解码神经网络(QAREDNN)的旋转机械状态趋势预测方法。在QAREDNN中,引入注意力机制以同时重构QAREDNN的编码器和解码器,使QAREDNN能够充分挖掘和重视重要信息,并抑制冗余信息的干扰,从而获得更好的非线性逼... 提出了基于量子注意力循环编码解码神经网络(QAREDNN)的旋转机械状态趋势预测方法。在QAREDNN中,引入注意力机制以同时重构QAREDNN的编码器和解码器,使QAREDNN能够充分挖掘和重视重要信息,并抑制冗余信息的干扰,从而获得更好的非线性逼近能力;采用量子神经元构建了一种活性值和权值由量子旋转矩阵代替的量子门限循环单元(QGRU),QGRU不仅能够更加精细地遍历解空间,还具有大量的多重吸引子,因此QGRU能代替传统编码器和解码器中的循环单元以提高QAREDNN的泛化能力和响应速度;通过引入Levenberg-Marquardt(LM)法来提高QAREDNN的量子旋转矩阵的旋转角和注意力参数的更新速度。滚动轴承状态趋势预测实例验证了该方法的有效性。 展开更多
关键词 量子注意力循环编码解码神经网络 注意力机制 量子神经 状态趋势预测 旋转机械
在线阅读 下载PDF
基于改进轻量级深度卷积神经网络的果树叶片分类及病害识别模型设计 被引量:2
8
作者 买买提·沙吾提 李荣鹏 +2 位作者 蔡和兵 赵明 梁嘉曦 《森林工程》 北大核心 2025年第2期277-287,共11页
新疆是中国重要的林果产业基地,特色林果业是区域经济发展的重要组成部分。为预防果树病害制约林果业发展,设计一款归一化注意力(normalization-based attention module,NAM)轻量级深度卷积神经网络(MobileNet-V2)果树叶片分类及病害识... 新疆是中国重要的林果产业基地,特色林果业是区域经济发展的重要组成部分。为预防果树病害制约林果业发展,设计一款归一化注意力(normalization-based attention module,NAM)轻量级深度卷积神经网络(MobileNet-V2)果树叶片分类及病害识别模型。其中融入轻量型的归一化注意力机制,提高模型对特征信息的敏感度,使模型关注显著性特征。同时,将L1正则化(L1 regularization或losso)添加到损失函数中,对权重进行稀疏性惩罚,抑制非显著性权重。试验结果表明,在叶片分类中,模型对自构建植物叶片病害识别数据集(Plant Village)、混合数据集的分类结果均表现良好,准确率分别达到97.05%、98.73%、94.91%,具有较好的泛化能力。在病害识别中,MobileNet-V2 NAM模型实现94.55%的识别准确率,高于深度卷积神经网络(AlexNet)、视觉几何群网络(VGG16)经典卷积神经网络(Convolutional Neural Networks,CNN)模型,且模型参数量只有3.56 M。MobileNet-V2 NAM在具有良好准确率同时保持了较低的模型参数量,为深度学习模型嵌入到移动设备提供技术支持。 展开更多
关键词 新疆 果树分类 病害识别 归一化注意力轻量级深度卷积神经网络(MobileNet-V2 NAM) 归一化注意力机制
在线阅读 下载PDF
基于监督对比学习和混合注意力残差网络的隔膜泵单向阀故障诊断 被引量:1
9
作者 任洪兵 彭宇明 黄海波 《机电工程》 CAS 北大核心 2024年第4期594-603,共10页
由于工业生产环境中的强噪声和其他环境激励,隔膜泵单向阀不同故障的特征呈现一定的相似性,导致传统深度学习方法对单向阀的故障状态难以准确识别。为解决这一问题,提出了一种结合监督对比学习和混合注意力残差神经网络(HA-ResNet)的隔... 由于工业生产环境中的强噪声和其他环境激励,隔膜泵单向阀不同故障的特征呈现一定的相似性,导致传统深度学习方法对单向阀的故障状态难以准确识别。为解决这一问题,提出了一种结合监督对比学习和混合注意力残差神经网络(HA-ResNet)的隔膜泵单向阀故障诊断方法。首先,将注意力机制引入了残差神经网络以提升网络的学习能力,自适应调节了重要但微弱特征权重,并以恒等变换减少了有效信息被抑制现象;其次,提出了加权“监督对比损失(SCL)+交叉熵(CE)损失”,调节单向阀不同故障状态数据之间的距离,明确了单向阀不同故障状态的分类边界与降低噪声或环境激励的干扰;最后,通过工程实测数据,对监督对比学习和HA-ResNet融合方法的有效性和稳定性进行了验证。研究结果表明:监督对比学习和HA-ResNet融合方法在隔膜泵单向阀验证集上的平均准确率达到了99.3%;与其他故障诊断方法相比,其在诊断精度和稳定性上都具有一定的优势,验证了该方法在噪声干扰条件下故障诊断的可靠性。 展开更多
关键词 隔膜泵 单向阀 故障诊断 监督对比损失 混合注意力残差神经网络 特征相似性 深度学习方法
在线阅读 下载PDF
基于改进图注意力网络的电力系统脆弱性关键环节辨识
10
作者 王长刚 王先伟 +3 位作者 曹宇 李扬 吕琪 张耀心 《电力系统保护与控制》 EI CSCD 北大核心 2024年第15期36-45,共10页
随着电网的扩大与新能源比例的增加,电网的不确定性和随机性因素增加,危及系统安全运行,寻找出电网中的脆弱性关键环节来保障电网运行时的可靠性就显得尤为重要。针对当前传统电网脆弱性关键环节辨别方法识别速度慢、难以满足电网实际... 随着电网的扩大与新能源比例的增加,电网的不确定性和随机性因素增加,危及系统安全运行,寻找出电网中的脆弱性关键环节来保障电网运行时的可靠性就显得尤为重要。针对当前传统电网脆弱性关键环节辨别方法识别速度慢、难以满足电网实际运行要求的问题,提出了基于改进图注意力网络算法(improved graph attention network,IGAT)的电网脆弱性关键环节辨识方法。首先,结合复杂网络理论和电网实际运行数据建立评价指标集。其次,利用IGAT挖掘出电网运行时的各项指标与脆弱性关键环节之间的映射关系,建立脆弱性关键环节辨识模型,并且考虑到训练准确性和效率等需求,对原始的图注意力网络进行优化。再次,通过仿真得到原始数据集,对辨识模型进行训练、验证和测试。最后,利用所述模型应用于改进的IEEE 30节点系统和实际电网中,结果表明所提方法具有可行性,且准确性和速度优于传统方法,有一定的工程利用价值。 展开更多
关键词 脆弱性关键环节 复杂网络理论 注意力神经网络 运行可靠性
在线阅读 下载PDF
基于多重注意力卷积神经网络双向门控循环单元的机械故障诊断方法研究 被引量:17
11
作者 程建刚 毕凤荣 +3 位作者 张立鹏 李鑫 杨晓 汤代杰 《内燃机工程》 CAS CSCD 北大核心 2021年第4期77-83,92,共8页
为解决传统机械故障诊断方法需要人工提取特征的不足,提出一种基于多重注意力卷积神经网络双向门控循环单元(multiple attention-convolutional neural networks-bidirectional gated recurrent unit,MA-CNN-BiGRU)的端到端的故障诊断... 为解决传统机械故障诊断方法需要人工提取特征的不足,提出一种基于多重注意力卷积神经网络双向门控循环单元(multiple attention-convolutional neural networks-bidirectional gated recurrent unit,MA-CNN-BiGRU)的端到端的故障诊断方法。首先将原始时域数据输入卷积神经网络(convolutional meural networks,CNN)进行初步特征提取并降维,然后将结果重组输入双向门控循环单元(bidirectional gated recurrent unit,BiGRU),可以有效地解决BiGRU对于过长序列数据处理困难的问题。采用美国凯斯西储大学开源轴承数据集进行训练,确定了最佳卷积层数和最佳样本长度约减比例分别为2和1/8。同时,通过在CNN和BiGRU中分别加入卷积注意力模块(convolutional block attention module,CBAM)和序列注意力模块(sequence attention module,SAM),进一步加强了模型对于关键信息的提取能力。最后实测柴油机故障振动信号试验表明:MA-CNN-BiGRU模型可以实现端到端的故障诊断,与变分模态分解(variational mode decomposition,VMD)核模糊C均值聚类算法(VMD-kernel fuzzy C-means clustering,VMD-KFCM)、VMD-反向传播神经网络(back propagation neural network,BPNN)和一维CNN等方法进行对比,MA-CNN-BiGRU模型的故障诊断性能更优。 展开更多
关键词 注意力 故障诊断 多重注意力卷积神经网络双向门控循环单元(MA-CNN-BiGRU) 端到端
在线阅读 下载PDF
基于异质信息网络表示学习与注意力神经网络的推荐算法 被引量:7
12
作者 赵金龙 赵中英 《计算机科学》 CSCD 北大核心 2021年第8期72-79,共8页
推荐系统能够有效解决信息过载等问题,得到了国内外众多学者的广泛关注。真实世界中的应用场景往往可以建模成异质信息网络,因此基于异质信息网络表示学习的推荐算法成为了近年来的研究热点。然而,当前的研究工作仍然存在异质信息提取... 推荐系统能够有效解决信息过载等问题,得到了国内外众多学者的广泛关注。真实世界中的应用场景往往可以建模成异质信息网络,因此基于异质信息网络表示学习的推荐算法成为了近年来的研究热点。然而,当前的研究工作仍然存在异质信息提取缺乏深度、节点的复杂关系发掘不充分等问题。为解决这些问题,文中提出了基于异质信息网络表示学习与注意力神经网络的推荐算法。首先,提出了保持语义关系与结构拓扑的异质信息网络表示方法;然后,设计了基于元路径的随机游走策略来获取异质信息网络中的节点序列,对序列过滤并生成用户和项目在不同元路径下的表示向量;最后,设计了基于注意力神经网络的推荐算法,将上述向量输入注意力神经网络,深入挖掘表示向量之间的关系以实现有效的推荐。在两个真实数据集上进行实验并与3种主流的算法进行比较,结果表明,所提算法在MAE与RMSE这2个推荐指标方面都有提升,最高提升了8.9%。 展开更多
关键词 异质信息网络 表示学习 元路径 注意力神经网络 推荐算法
在线阅读 下载PDF
语义引导的全局-局部图神经网络的关系抽取
13
作者 任楚岚 刘长胜 +1 位作者 邹绍强 井立志 《计算机工程与设计》 北大核心 2025年第3期705-711,共7页
为解决实体间距离过长导致关系抽取性能不佳的问题,提出一种基于上下文语义引导的全局-局部图神经网络的关系抽取方法。通过注意力增强神经网络集中不同时间步的单词的重要性和相关性,获取上下文语义引导的信息;构建全局-局部图神经网... 为解决实体间距离过长导致关系抽取性能不佳的问题,提出一种基于上下文语义引导的全局-局部图神经网络的关系抽取方法。通过注意力增强神经网络集中不同时间步的单词的重要性和相关性,获取上下文语义引导的信息;构建全局-局部图神经网络增强全局结构和局部实体之间的交互,通过改进的APPNP(approximate personalized propagation of neural predications)算法增强全局依赖关系;融合两个模块进行关系抽取。在NYT数据集上的实验结果表明,F1达到83.7%,较目前主流方法更具优势,验证了模型的有效性。 展开更多
关键词 关系抽取 上下文语义 注意力增强神经网络 神经网络 全局结构 局部实体 长距离
在线阅读 下载PDF
用于关系抽取的注意力图长短时记忆神经网络 被引量:10
14
作者 张勇 高大林 +1 位作者 巩敦卫 陶一凡 《智能系统学报》 CSCD 北大核心 2021年第3期518-527,共10页
关系抽取是信息获取中一项关键技术。句子结构树能够捕获单词之间的长距离依赖关系,已被广泛用于关系抽取任务中。但是,现有方法存在过度依赖句子结构树本身信息而忽略外部信息的不足。本文提出一种新型的图神经网络模型,即注意力图长... 关系抽取是信息获取中一项关键技术。句子结构树能够捕获单词之间的长距离依赖关系,已被广泛用于关系抽取任务中。但是,现有方法存在过度依赖句子结构树本身信息而忽略外部信息的不足。本文提出一种新型的图神经网络模型,即注意力图长短时记忆神经网络(attention graph long short term memory neural network,AGLSTM)。该模型采用一种软修剪策略自动学习对关系抽取有用的句子结构信息;通过引入注意力机制,结合句法图信息学习句子的结构特征;并设计一种新型的图长短时记忆神经网络,使得模型能够更好地融合句法图信息和句子的时序信息。与10种典型的关系抽取方法进行对比,实验验证了该模型的优异性能。 展开更多
关键词 关系抽取 句子结构树 句法图 神经网络 注意力图长短时记忆神经网络 软修剪策略 注意力机制 长短时记忆神经网络
在线阅读 下载PDF
基于风格转换注意的循环一致风格转换
15
作者 张蕊儿 边晓航 +4 位作者 刘思远 刘滨 李建武 罗俊 祁明月 《河北科技大学学报》 CAS 北大核心 2024年第3期328-340,共13页
为了解决现有艺术风格转换方法难以同时高质量保持图像内容和转换风格模式的问题,引入一种新颖的风格转换注意网络(style-transition attention network, STANet),其包含2个关键部分:一是非对称注意力模块,用于确定参考图像的风格特征;... 为了解决现有艺术风格转换方法难以同时高质量保持图像内容和转换风格模式的问题,引入一种新颖的风格转换注意网络(style-transition attention network, STANet),其包含2个关键部分:一是非对称注意力模块,用于确定参考图像的风格特征;二是循环结构,用于保存图像内容。首先,采用双流架构,分别对风格和内容图像进行编码;其次,将注意力模块无缝集成到编码器中,生成风格注意表征;最后,将模块放入不同的卷积阶段,使编码器变成交错式的,促进从风格流到内容流的分层信息传播。此外,提出了循环一致损失,强制网络以整体方式保留内容结构和风格模式。结果表明:编码器优于传统的双流架构,STANet能用于交换具有任意风格的2幅图像的风格模式,合成更高质量的风格化图像,同时更好地保留了各自的内容。提出的带有风格转换注意的风格转换循环网络,模型风格化图像的内容细节更多,在泛化到任意风格方面获得了良好的效果。 展开更多
关键词 图像内容 风格转换 风格恢复 神经注意力 循环网络
在线阅读 下载PDF
基于图注意力的异构图社交推荐网络 被引量:4
16
作者 吴相帅 孙福振 +2 位作者 张文龙 张志伟 王绍卿 《计算机应用研究》 CSCD 北大核心 2023年第10期3076-3081,3106,共7页
针对现有社交推荐算法忽视了用户潜在关联和项目之间的协作关系,提出了一个新的算法模型GATHGN(GAT based heterogeneous graph neural network),在该模型框架中对用户关联和项目关系统一建模。首先,挖掘用户显式社交关系、潜在关联关... 针对现有社交推荐算法忽视了用户潜在关联和项目之间的协作关系,提出了一个新的算法模型GATHGN(GAT based heterogeneous graph neural network),在该模型框架中对用户关联和项目关系统一建模。首先,挖掘用户显式社交关系、潜在关联关系和用户—项目关联关系,从而提取用户社交高阶特征和潜在兴趣高阶特征;而后,基于图注意力机制聚合上述两种高阶特征,逐层更新用户融合特征;最后,依据更新的用户融合特征与项目特征计算最终的推荐结果。在Yelp数据集和Flickr数据集上的实验结果表明,GATHGN的命中率与归一化折损累计增益较基线算法有显著提升。 展开更多
关键词 推荐系统 注意力神经网络 社交推荐 影响扩散
在线阅读 下载PDF
基于注意力机制的滚动轴承剩余使用寿命预测方法 被引量:7
17
作者 卢瑾 张永平 《机电工程》 CAS 北大核心 2023年第4期516-521,551,共7页
现有的轴承振动信号特征的提取方法过分依赖于专家的经验,同时在轴承的寿命预测过程中,存在因序列过长而导致的记忆力退化等问题,为此,结合卷积神经网络-注意力机制网络(CNN-attention)和基于注意力机制的Encoder-Decoder方法,提出了一... 现有的轴承振动信号特征的提取方法过分依赖于专家的经验,同时在轴承的寿命预测过程中,存在因序列过长而导致的记忆力退化等问题,为此,结合卷积神经网络-注意力机制网络(CNN-attention)和基于注意力机制的Encoder-Decoder方法,提出了一种滚动轴承剩余使用寿命(RUL)的预测模型(方法)。首先,利用快速傅里叶变换(FFT)方法,将滚动轴承的初始振动信号转换成频域幅值信号;然后,设计了一种基于注意力机制的模型:其中,利用CNN-attention进行了退化特征提取,利用基于注意力机制的Encoder-Decoder网络进行了RUL预测,并进一步在远距离信号传输中解决了循环神经网络记忆衰退的问题;最后,为了验证特征提取模型以及寿命预测模型的有效性,采用PHM 2012轴承退化数据集,通过轴承加速退化PRONOSTIA实验平台进行了实验,并将其所得结果与未采用注意力机制模型的预测结果以及其他文献方法所得结果进行了对比。实验结果表明:与其他方法相比,基于注意力机制模型的方法平均绝对误差分别降低了29.41%、32.00%、29.56%、32.34%,平均得分分别提高了0.39%、0.98%、0.82%、15.46%。研究结果表明:在轴承RUL预测方面,基于注意力机制的轴承剩余使用寿命预测模型(方法)是有效的。 展开更多
关键词 剩余使用寿命 卷积神经网络-注意力机制网络 编码器-解码器模型 退化特征提取 滚动轴承寿命预测模型 记忆力退化
在线阅读 下载PDF
基于双层注意力机制的篇章级事件真实性检测
18
作者 盛佳璇 邹博伟 +1 位作者 陈佳丽 洪宇 《中文信息学报》 CSCD 北大核心 2023年第6期128-136,共9页
自然语言文本中的事件真实性指作者对给定事件存在于客观世界中的确定性程度的描述,正确识别文本中事件的真实性,有助于对自然语言进行深层语义理解。同时,事件真实性检测对诸多自然语言处理应用,如观点检测、事件图谱构建、情感分析等... 自然语言文本中的事件真实性指作者对给定事件存在于客观世界中的确定性程度的描述,正确识别文本中事件的真实性,有助于对自然语言进行深层语义理解。同时,事件真实性检测对诸多自然语言处理应用,如观点检测、事件图谱构建、情感分析等具有重要意义。目前,大多数事件真实性检测研究集中在句子级任务上,而在同一篇章中,经常出现针对同一事件真实性表述不同的情况,此时仅在句子层面识别事件真实性可能会导致矛盾。针对该问题,该文提出了一个基于双层注意力机制的篇章级事件真实性检测方法。首先,利用预训练语言模型BERT对句子进行编码;其次,采用图注意力网络学习句子中的上下文信息与事件之间的依赖关系;最后,利用文档级注意力机制抽取不同句子序列之间的潜在关联,从事件序列集合中获取篇章级事件真实性的最终特征表示。实验结果验证了该方法的有效性,在英文和中文数据集上的实验结果显示,该文所提出方法F1值分别达到87.91%和87.92%,与目前最好系统相比,分别提升了1.40%和1.28%。 展开更多
关键词 篇章级事件真实性 注意力神经网络 文档级注意力机制
在线阅读 下载PDF
基于话题注意力和依存句法信息的文本立场分析
19
作者 康书铭 朱焱 《计算机科学》 CSCD 北大核心 2023年第S02期52-56,共5页
文本立场分析旨在从用户发表的文本中推测其对特定话题的看法,如支持、反对、中立等态度。传统的立场分析研究往往采用卷积神经网络或者长短时记忆网络等深度学习模型学习文本的基本语义信息,忽略了文本蕴含的句法结构信息。针对这一问... 文本立场分析旨在从用户发表的文本中推测其对特定话题的看法,如支持、反对、中立等态度。传统的立场分析研究往往采用卷积神经网络或者长短时记忆网络等深度学习模型学习文本的基本语义信息,忽略了文本蕴含的句法结构信息。针对这一问题,文中设计实现了基于话题注意力和依存句法的文本立场检测模型——AT-BiLSTM-GAT,在BiLSTM提取的文本上下文信息基础上,采用GAT进一步学习文本语言学层次的依存句法信息。同时设计实现一种融合上下文语义信息的话题注意力机制,采用缩放点积注意力学习立场文本中与话题相关的重要内容,在公开数据集上的对比实验证明了AT-BiLSTM-GAT模型的高效性。最后,针对立场分析研究数据集存在规模较小的问题,设计实现了一种基于WordNet同义词库与WebVectors词嵌入模型的同义词替换数据增强方案WWDA,保证了同义词替换过程的词性正确性和语义相似性,通过实验证明其可以生成更多高质量样本,提升模型的检测性能。 展开更多
关键词 立场分析 话题注意力 依存句法 注意力神经网络 数据增强
在线阅读 下载PDF
电量预测中的多分辨时序神经网络模型研究 被引量:6
20
作者 石少青 郑楷洪 +4 位作者 周尚礼 杨劲锋 张英楠 陈敏娜 张健 《山东科技大学学报(自然科学版)》 CAS 北大核心 2022年第2期117-126,共10页
精确的电量预测可以为电量生产和供电调度提供可靠的指导,不同行业的用电量数据分布特性不同,用电量的周期性也因行业周期的不同具有不同时间尺度。传统的用电量预测模型难以在拟合用电量数据周期性的同时捕捉数据的波动性,为此本研究... 精确的电量预测可以为电量生产和供电调度提供可靠的指导,不同行业的用电量数据分布特性不同,用电量的周期性也因行业周期的不同具有不同时间尺度。传统的用电量预测模型难以在拟合用电量数据周期性的同时捕捉数据的波动性,为此本研究提出了多分辨时序神经网络(MTNN)模型,根据用电量数据特性将用电量数据视为近似的周期性数据分量和波动分量的组合,从多时频分辨率的角度对用电量数据进行多尺度分解,在不同时频尺度下预测用电量数据分量,然后通过组合预测分量实现用电量预测任务。具体而言,为捕捉数据周期性,首先使用集成经验模态分解方法(EEMD)对用电量数据分解,得到不同时间尺度的模态分量(IMF),使用LSTM预测高阶IMF分量;对于低阶IMF分量,设计了多阶时频注意力神经网络计算低阶IMF分量的预测值,最后组合多个IMF分量的预测值得到电量预测结果。实验结果表明,与常用的电量预测模型相比,MTNN能更好地捕捉电量数据的变化规律,提高电量预测的精度。 展开更多
关键词 电量预测 多分辨分析 时序神经网络 时频神经注意力
在线阅读 下载PDF
上一页 1 2 3 下一页 到第
使用帮助 返回顶部