期刊文献+
共找到9,114篇文章
< 1 2 250 >
每页显示 20 50 100
联合Transformer注意力机制的PM_(2.5)浓度预测网络研究 被引量:7
1
作者 刘恩海 付英健 +3 位作者 张智 李妍 赵娜 张军 《安全与环境学报》 CAS CSCD 北大核心 2023年第10期3760-3768,共9页
应用深度学习技术进行PM_(2.5)浓度预测方法的研究,提出联合Transformer注意力机制的循环预测网络。模型的核心是多头注意力-长短期记忆网络(MH-LSTM),通过构建统一记忆单元捕捉时空特征关联。MH-LSTM单元使用LSTM联合Transformer注意... 应用深度学习技术进行PM_(2.5)浓度预测方法的研究,提出联合Transformer注意力机制的循环预测网络。模型的核心是多头注意力-长短期记忆网络(MH-LSTM),通过构建统一记忆单元捕捉时空特征关联。MH-LSTM单元使用LSTM联合Transformer注意力机制对时间变化和全局空间特征统一建模形成记忆信息。记忆信息“之”字流向跨越堆叠的MH-LSTM模块,高层记忆信息辅助下一时刻低层记忆信息的获取。应用该模型结合河北省生态环境监测中心提供的PM_(2.5)浓度数据开展预报试验,结果表明,相对于卷积LSTM网络(ConvLSTM)、预测循环神经网络(PredRNN)、双重记忆网络(MIM),该模型预测的平均绝对误差分别减小了18.13%、10.23%、9.62%,实现了同时捕捉PM_(2.5)浓度的时空相关性,具有更优预测性能。 展开更多
关键词 环境学 PM_(2.5)浓度预测 transformer注意力机制 时空建模
在线阅读 下载PDF
面向CNN和Transformer的自注意力机制自适应性提示学习
2
作者 杨鹏跃 王锋 魏巍 《小型微型计算机系统》 北大核心 2025年第1期16-22,共7页
随着大规模预训练模型对视觉领域中的一般性数据的深入研究,当将其应用于特定下游任务时,若模型只训练分类头方法则极其依赖于预训练模型且效果一般;而全面微调预训练模型也因模型参数过大而变得不切实际;另外如VPT等视觉提示学习方法... 随着大规模预训练模型对视觉领域中的一般性数据的深入研究,当将其应用于特定下游任务时,若模型只训练分类头方法则极其依赖于预训练模型且效果一般;而全面微调预训练模型也因模型参数过大而变得不切实际;另外如VPT等视觉提示学习方法在图像数据集具有很大的数据多样性时,每个数据集的通用提示在向原始预训练数据分布转变时会带来极大的挑战.基于以上的种种挑战,本文提出一种新的提示学习方法,即在输入空间中添加特定任务的自注意力机制提示块,并在增强通道间的竞争条件下,引入极小的参数量进行预训练模型的自适应性调整,最终实现将视觉领域中具有一般性的特征信息应用于特定的视觉任务.实验以CNN和Transformer代表性的网络为基础模型并选取CIFAR、Tiny ImageNet等数据集,结果表明本文提出的方法相比常见的微调方法在平均准确率上提高了0.55%、1.86%. 展开更多
关键词 模型的微调 数据多样性 提示学习 注意力机制提示块 自适应性调整
在线阅读 下载PDF
Transformer结构与注意力机制融合的无人机图像小目标识别方法
3
作者 王国帅 黄贻望 +2 位作者 刘建晓 毛志 刘声 《南京大学学报(自然科学版)》 北大核心 2025年第2期214-222,共9页
目前无人机(Unmanned Aerial Vehicle,UAV)航拍图像中存在较多密集和尺寸较小的实例,识别效果往往较差.针对此问题,在YOLOv5的骨干网络中使用带有Transformer结构的C3TR模块替换原有的C3(CSP Bottleneck with 3 Convolutions)模块来增... 目前无人机(Unmanned Aerial Vehicle,UAV)航拍图像中存在较多密集和尺寸较小的实例,识别效果往往较差.针对此问题,在YOLOv5的骨干网络中使用带有Transformer结构的C3TR模块替换原有的C3(CSP Bottleneck with 3 Convolutions)模块来增强骨干网络的特征提取能力,之后,在SPPF层后加入CA(Coordinate Attention)模块来增强模型对小目标区域的关注度.其次,在颈部网络中使用ConvNeXtBlock模块替换C3模块,ConvNeXtBlock的深层卷积能够进一步增强对小目标细节的识别,提高目标检测的准确性.最后,使用ECIoU损失函数替换CIoU损失函数来进一步提升模型的收敛速度和精度.实验结果表明,在VisDrone2019公开数据集上,与基线模型YOLOv5l相比,改进模型的mAP_(0.5)和mAP_(0.5∶0.95)分别提升9.5%和6.3%,和其他模型相比也有比较好的效果. 展开更多
关键词 无人机 YOLOv5 小目标 transformer 注意力机制
在线阅读 下载PDF
基于Transformer模型与注意力机制的差分密码分析
4
作者 肖超恩 李子凡 +2 位作者 张磊 王建新 钱思源 《计算机工程》 北大核心 2025年第1期156-163,共8页
基于差分分析的密码攻击中,通常使用贝叶斯优化方法验证部分解密的数据是否具有差分特性。目前,主要采用基于深度学习的方式训练1个差分区分器,但随着加密轮数的增加,差分特征的精确度会呈现线性降低的趋势。为此,结合注意力机制和侧信... 基于差分分析的密码攻击中,通常使用贝叶斯优化方法验证部分解密的数据是否具有差分特性。目前,主要采用基于深度学习的方式训练1个差分区分器,但随着加密轮数的增加,差分特征的精确度会呈现线性降低的趋势。为此,结合注意力机制和侧信道分析,提出了一种新的差分特性判别方法。根据多轮密文间的差分关系,基于Transformer训练了1个针对SPECK32/64算法的差分区分器。在密钥恢复攻击中,借助前一轮的密文对待区分密文影响最大特性,设计了新的密钥恢复攻击方案。在SPECK32/64算法的密钥恢复攻击中,采用26个选择明密文对,并借助第20轮密文对将第22轮65536个候选密钥范围缩小至17个以内,完成对最后两轮子密钥的恢复攻击。实验结果表明,该方法的攻击成功率达90%,可以有效应对加密轮数增多造成的密文差分特征难以识别的问题。 展开更多
关键词 transformer模型 注意力机制 差分区分器 SPECK32/64算法 密钥恢复攻击
在线阅读 下载PDF
融合梯度预测和无参注意力的高效地震去噪Transformer 被引量:1
5
作者 高磊 乔昊炜 +2 位作者 梁东升 闵帆 杨梅 《计算机科学与探索》 北大核心 2025年第5期1342-1352,共11页
压制随机噪声能够有效提升地震数据的信噪比(SNR)。近年来,基于卷积神经网络(CNN)的深度学习方法在地震数据去噪领域展现出显著性能。然而,CNN中的卷积操作由于感受野的限制通常只能捕获局部信息而不能建立全局信息的长距离连接,可能会... 压制随机噪声能够有效提升地震数据的信噪比(SNR)。近年来,基于卷积神经网络(CNN)的深度学习方法在地震数据去噪领域展现出显著性能。然而,CNN中的卷积操作由于感受野的限制通常只能捕获局部信息而不能建立全局信息的长距离连接,可能会导致细节信息的丢失。针对地震数据去噪问题,提出了一种融合梯度预测和无参注意力的高效Transformer模型(ETGP)。引入多头“转置”注意力来代替传统的多头注意力,它能在通道间计算注意力来表示全局信息,缓解了传统多头注意力复杂度过高的问题。提出了无参注意力前馈神经网络,它能同时考虑空间和通道维度计算注意力权重,而不向网络增加参数。设计了梯度预测网络以提取边缘信息,并将信息自适应地添加到并行Transformer的输入中,从而获得高质量的地震数据。在合成数据和野外数据上进行了实验,并与经典和先进的去噪方法进行了比较。结果表明,ETGP去噪方法不仅能更有效地压制随机噪声,并且在弱信号保留和同相轴连续性方面具有显著优势。 展开更多
关键词 地震数据去噪 卷积神经网络 transformer 注意力模块 梯度融合
在线阅读 下载PDF
基于时变滤波经验模态分解-重构和独立自注意力机制的iTransformer超短期负荷预测方法
6
作者 范士雄 李东琦 +3 位作者 郭剑波 王铁柱 马士聪 赵泽宁 《电网技术》 北大核心 2025年第6期2436-2445,I0077,I0078,共12页
准确的负荷预测对电力系统安全稳定运行至关重要。为了进一步提高负荷预测的精准度,将数据处理和模型改进的方法相融合,提出了一种基于时变滤波经验模态分解(time-varying filter empirical mode decomposition,TVF-EMD)-重构和独立自... 准确的负荷预测对电力系统安全稳定运行至关重要。为了进一步提高负荷预测的精准度,将数据处理和模型改进的方法相融合,提出了一种基于时变滤波经验模态分解(time-varying filter empirical mode decomposition,TVF-EMD)-重构和独立自注意力(stand-alone self-attention,SASA)机制的iTransformer超短期负荷预测方法。首先,针对超短期负荷数据的非平稳和非线性特性,采用TVF-EMD对负荷数据进行分解,得到若干本征模态函数(intrinsic mode function,IMF),通过样本熵(sample entropy,SE)按熵值的大小将IMF分量进行重组;其次,对iTransformer神经网络进行改进,引入一种独立自注意力机制替换iTransformer编码器中的自注意力机制,有效提升了模型捕捉不同变量的依赖关系的能力;最后,将重组后的分量输入到基于独立自注意力机制的iTransformer中进行预测,将得到的结果进行叠加得到最终的预测值。以我国某地区220k V变电站高压侧的实际有功负荷数据集为例进行验证并与现有主流模型进行对比,结果表明该文采用的预测方法具有更好的预测性能。 展开更多
关键词 超短期负荷预测 时变滤波经验模态分解 样本熵 itransformer模型 注意力机制
在线阅读 下载PDF
一种双向注意力的多模态Transformer活产预测网络
7
作者 简献忠 贺林涛 +1 位作者 郭强 张武文 《小型微型计算机系统》 北大核心 2025年第8期1935-1941,共7页
针对现有的多模态活产预测模型中,由于输入比例失衡、互补模态间信息融合不足、囊胚图像差异性小以及数据集类不平衡等带来的模型预测性能不高的问题,本文提出了一种双向注意力的多模态Transformer活产预测模型.首先,该模型使用多模态... 针对现有的多模态活产预测模型中,由于输入比例失衡、互补模态间信息融合不足、囊胚图像差异性小以及数据集类不平衡等带来的模型预测性能不高的问题,本文提出了一种双向注意力的多模态Transformer活产预测模型.首先,该模型使用多模态增强模块平衡了各模态输入的比例,并提高了各模态特征的辨识度;其次,通过多模态双向注意力模块挖掘模态内与模态间的内在关联性,有效获取了细粒度的互补模态特征;最后,通过引入焦点损失函数解决数据集类不平衡的问题.在Blastocyst数据集上进行实验,实验结果表明:提出模型的准确率、精确率、召回率、F1值以及AUC指标分别达到了77.11%、74.51%、76.16%、75.33%和75.66%,与现有先进的多模态活产预测模型相比,预测性能更佳. 展开更多
关键词 活产预测 深度学习 多模态 双向注意力机制
在线阅读 下载PDF
基于全局残差注意力和门控特征融合的CNN-Transformer去雾算法
8
作者 李海燕 乔仁超 +1 位作者 李海江 陈泉 《东北大学学报(自然科学版)》 北大核心 2025年第1期26-34,共9页
为解决现有图像去雾算法因缺乏全局上下文信息、处理分布不均匀的雾时效果差且复用细节信息时引入噪声的缺陷,提出了基于全局残差注意力和门控特征融合的CNN-Transformer去雾算法.首先,引入全局残差注意力机制编码模块自适应地提取非均... 为解决现有图像去雾算法因缺乏全局上下文信息、处理分布不均匀的雾时效果差且复用细节信息时引入噪声的缺陷,提出了基于全局残差注意力和门控特征融合的CNN-Transformer去雾算法.首先,引入全局残差注意力机制编码模块自适应地提取非均匀雾区的细节特征,设计跨维度通道空间注意力优化信息权重.然后,提出全局建模Transformer模块加深编码器的特征提取过程,设计带有并行卷积的Swin Transformer捕捉特征之间的依赖关系.最后,设计门控特征融合解码模块复用图像重建所需的纹理信息,滤除不相关的雾噪声,提高去雾性能.在4个公开数据集上进行定性和定量实验,实验结果表明:所提算法能够有效地处理非均匀雾区域,重建纹理细腻且语义丰富的高保真无雾图像,其峰值信噪比和结构相似性指数都优于经典对比算法. 展开更多
关键词 图像去雾 全局残差注意力机制 CNN-transformer架构 门控特征融合 图像重建
在线阅读 下载PDF
EFormer:基于分频和广注意力的高效Transformer医学图像配准模型
9
作者 黄星宇 王丽会 +3 位作者 唐堃 程欣宇 张健 叶晨 《计算机科学》 北大核心 2025年第7期151-160,共10页
医学图像配准对于多种后处理步骤至关重要。目前基于卷积和Transformer的单流或双流网络架构能够实现良好的配准性能,但在配准性能与计算效率之间仍然难以取得平衡。为了解决这个问题,提出了一种高效的Transformer配准网络EFormer。其... 医学图像配准对于多种后处理步骤至关重要。目前基于卷积和Transformer的单流或双流网络架构能够实现良好的配准性能,但在配准性能与计算效率之间仍然难以取得平衡。为了解决这个问题,提出了一种高效的Transformer配准网络EFormer。其主要由分频器模块(Frequency Division Module, FDM)和广注意力模块(Broad Attention Module, BAM)组成。具体而言,在编解码器中使用多个FDM模拟双流网络并行提取局部-全局信息以提高计算效率;利用BAM增强多个FDM中局部信息的传递以保留配准中重要的语义特征。在3个数据集上的定性和定量比较实验结果表明,相比主流配准模型,EFormer在DSC,ASSD,HD95和雅可比行列式负值百分比4个评价指标上分别至少优化了1.3%,2.6%,0.6%和95%。此外,使用EFormer-tiny时,计算效率(Flops)优化了14%,表明EFormer能够以最快的计算速度在基于Transformer的网络中实现最佳的配准结果。 展开更多
关键词 医学图像配准 分频 广注意力 高效transformer
在线阅读 下载PDF
融合注意力与Transformer的肝肿瘤CT图像分割方法
10
作者 张倩 胡建文 +1 位作者 王鼎湘 李茂军 《小型微型计算机系统》 北大核心 2025年第3期680-688,共9页
CT图像是医生对病人进行疾病诊断和制定治疗计划的重要依据.然而,CT图像中肝肿瘤通常具有灰度多样、边界模糊、且与肝脏正常组织细胞的密度很接近等特点,导致肿瘤的边缘区域的分割和上下文特征信息的获取受到了限制.本文提出了一种融合... CT图像是医生对病人进行疾病诊断和制定治疗计划的重要依据.然而,CT图像中肝肿瘤通常具有灰度多样、边界模糊、且与肝脏正常组织细胞的密度很接近等特点,导致肿瘤的边缘区域的分割和上下文特征信息的获取受到了限制.本文提出了一种融合注意力机制与Transformer的U型分割网络(Integrated the Attention mechanism and Transformer U-shaped segmentation network,IAT-Unet).首先,在编码器的末端级联BiFormer模块,对富含语义信息的高级特征进行全局建模,避免造成关键信息的丢失;其次,在解码器中引入双重高效注意力机制(Dual highly Effective Attention Mechanism,DEAM),在空间上建模和跨通道交互,可以捕获肿瘤准确的定位信息和远程依赖关系,提高肿瘤特征的表达能力;此外,提出双桥跳跃连接,通过在编码器与解码器直接连接和利用边缘增强模块(Edge Enhancement Module,EEM)进行间接连接,可以补偿编码器在提取特征时丢失的信息,同时也能突出肿瘤的边缘轮廓.所提出的方法在公开数据集LiTS17进行验证表明,该方法的Dice系数、Jaccard相似系数、精确率和召回率分别为93.32%、87.47%、93.09%和93.55%;在3DIRCADb数据集上验证,肝肿瘤分割的Dice系数为90.40%.与多种分割方法进行比较,该方法对CT图像中肝肿瘤的分割具有优势. 展开更多
关键词 医学图像分割 肝肿瘤分割 U-net transformer 注意力机制
在线阅读 下载PDF
一种并行注意力的金字塔视觉Transformer的结肠息肉分割网络
11
作者 庞飞翔 丁德锐 罗康 《小型微型计算机系统》 北大核心 2025年第5期1161-1168,共8页
针对结肠息肉数据的多样性特征以及大多数息肉分割的方法缺乏将不同层的特征信息进行交互的不足,本文提出了一种新的结肠息肉分割模型(PVT-PMFFD).该模型由可以捕捉多尺度信息的金字塔视觉Tranformer(PVT)编码器和实现不同层之间多尺度... 针对结肠息肉数据的多样性特征以及大多数息肉分割的方法缺乏将不同层的特征信息进行交互的不足,本文提出了一种新的结肠息肉分割模型(PVT-PMFFD).该模型由可以捕捉多尺度信息的金字塔视觉Tranformer(PVT)编码器和实现不同层之间多尺度信息交互的并行多级特征融合解码器(PMFFD)组成.特别地,并行多级特征融合解码器包括了特征融合池化模块(FPM)用于全局和局部信息的融合,特征增强模块(FEM)用于对特征信息的增强,并行注意力卷积模块(PACM)用于实现全局和局部信息之间的交互以及细化再增强特征.此外本文使用了深度监督的框架,对多级特征进行监督学习,进一步改善了模型的分割性能.本文模型在5个息肉数据集上与9个医学图像分割网络进行对比,结果表明本文方法具有更强的学习能力与泛化能力. 展开更多
关键词 结肠息肉分割 金字塔视觉transformer 并行多级特征融合 注意力
在线阅读 下载PDF
融合快速边缘注意力的Transformer跟踪算法
12
作者 薛紫涵 葛海波 +2 位作者 王淑贤 安玉 杨雨迪 《计算机工程与应用》 北大核心 2025年第1期221-231,共11页
针对长期目标跟踪中出现模型退化和跟踪漂移的问题,提出了一种融合快速边缘注意力的Transformer跟踪算法TransFEA(fast edge attention on Transformer)。使用ResNet-50作为Siamese网络的骨干网络,并在其每个残差块后端引入注意力网络... 针对长期目标跟踪中出现模型退化和跟踪漂移的问题,提出了一种融合快速边缘注意力的Transformer跟踪算法TransFEA(fast edge attention on Transformer)。使用ResNet-50作为Siamese网络的骨干网络,并在其每个残差块后端引入注意力网络进行特征提取,增强目标的关键信息和全局信息;边缘注意力网络(edge attention network,EA)提取模板与搜索区域的特征向量,快速注意力网络(fast attention network,FA)计算注意响应值,确定两个区域的相似度,以此调整目标位置。设计多层感知器预测边界框,避免过多超参数,使跟踪器实现了准确性与轻量化的平衡。实验结果表明,TransFEA在LaSOT数据集上成功率和准确率分别为65.3%、69.1%,运行可以达到90 FPS,提高了长期跟踪的成功率和准确率。 展开更多
关键词 transformer网络 边缘注意力网络 快速注意力网络 多层感知器
在线阅读 下载PDF
基于CNN-Transformer和注意力金字塔的行人重识别方法研究
13
作者 徐岩 刘香兰 +2 位作者 潘旭光 李芳 赵海燕 《山东科技大学学报(自然科学版)》 北大核心 2025年第1期110-118,共9页
针对行人重识别技术中难以捕捉不同尺度特征图的显著区域,以及在非重叠摄像机中将多尺度特征汇总到全局视图中仍存在挑战的问题,提出一种基于CNN-Transformer和注意力金字塔的行人重识别方法。首先,引入基于Transformer的特征校准模块... 针对行人重识别技术中难以捕捉不同尺度特征图的显著区域,以及在非重叠摄像机中将多尺度特征汇总到全局视图中仍存在挑战的问题,提出一种基于CNN-Transformer和注意力金字塔的行人重识别方法。首先,引入基于Transformer的特征校准模块和深度监督聚合方法组成TFCNet,从全局角度以循环自适应的方式将骨干网络的各层级不同尺度的特征进行聚合。然后,设计一种串行融合注意力模块,在计算时能够结合通道和空间的信息交互。同时,引入注意力金字塔,设计一种多尺度串行融合注意力金字塔结构,采用由粗到细的金字塔方法学习到更多不同尺度特征图的显著区域,提取更多有识别性的行人特征。最后,采用多重损失函数对网络进行总体优化,并在三个主流数据集上进行实验验证,证明了所提方法的有效性。 展开更多
关键词 行人重识别 transformer 特征聚合 注意力金字塔
在线阅读 下载PDF
基于上下文通道注意力机制的人脸属性估计与表情识别 被引量:2
14
作者 徐杰 钟勇 +2 位作者 王阳 张昌福 杨观赐 《计算机应用》 北大核心 2025年第1期253-260,共8页
人脸特征蕴含诸多信息,在面部属性和情感分析任务中具有重要价值,而面部特征的多样性和复杂性使人脸分析任务变得困难。针对上述难题,从面部细粒度特征角度出发,提出基于上下文通道注意力机制的人脸属性估计和表情识别(FAER)模型。首先... 人脸特征蕴含诸多信息,在面部属性和情感分析任务中具有重要价值,而面部特征的多样性和复杂性使人脸分析任务变得困难。针对上述难题,从面部细粒度特征角度出发,提出基于上下文通道注意力机制的人脸属性估计和表情识别(FAER)模型。首先,构建基于ConvNext的局部特征编码骨干网络,并运用骨干网络编码局部特征的有效性来充分表征人脸局部特征之间的差异性;其次,提出上下文通道注意力(CC Attention)机制,通过动态自适应调整特征通道上的权重信息,表征深度特征的全局和局部特征,从而弥补骨干网络编码全局特征能力的不足;最后,设计不同分类策略,针对人脸属性估计(FAE)和面部表情识别(FER)任务,分别采用不同损失函数组合,以促使模型学习更多的面部细粒度特征。实验结果表明,所提FAER模型在人脸属性数据集CelebA(CelebFaces Attributes)上取得了91.87%的平均准确率,相较于次优模型SwinFace(Swin transformer for Face)高出0.55个百分点;在面部表情数据集RAF-DB和AffectNet上分别取得了91.75%和66.66%的准确率,相较于次优模型TransFER(Transformers for Facial Expression Recognition)分别高出0.84和0.43个百分点。 展开更多
关键词 人脸属性估计 面部表情识别 注意力机制 细粒度特征 特征差异
在线阅读 下载PDF
嵌入混合注意力机制的Swin Transformer人脸表情识别 被引量:8
15
作者 王坤侠 余万成 胡玉霞 《西北大学学报(自然科学版)》 CAS CSCD 北大核心 2024年第2期168-176,共9页
人脸表情识别是心理学领域的一个重要研究方向,可应用于交通、医疗、安全和刑事调查等领域。针对卷积神经网络(CNN)在提取人脸表情全局特征的局限性,提出了一种嵌入混合注意力机制的Swin Transformer人脸表情识别方法,以Swin Transforme... 人脸表情识别是心理学领域的一个重要研究方向,可应用于交通、医疗、安全和刑事调查等领域。针对卷积神经网络(CNN)在提取人脸表情全局特征的局限性,提出了一种嵌入混合注意力机制的Swin Transformer人脸表情识别方法,以Swin Transformer为主干网络,在模型Stage3的融合层(Patch Merging)中嵌入了混合注意力模块,该方法能够有效提取人脸面部表情的全局特征和局部特征。首先,层次化的Swin Transformer模型可有效获取深层全局特征信息。其次,嵌入的混合注意力模块结合了通道和空间注意力机制,在通道维度和空间维度上进行特征提取,从而让模型能够更好地提取局部位置的特征信息。同时,采用迁移学习方法对模型网络权重进行初始化,进而提高模型的精度和泛化能力。所提方法在FER2013、RAF-DB和JAFFE这3个公共数据集上分别达到了73.63%、87.01%和98.28%的识别准确率,取得了较好的识别效果。 展开更多
关键词 表情识别 transformer 注意力机制 迁移学习
在线阅读 下载PDF
基于残差分组卷积神经网络和多级注意力机制的源荷极端场景辨识方法 被引量:1
16
作者 郭红霞 李渊 +2 位作者 陈凌轩 王建学 马骞 《电网技术》 北大核心 2025年第2期459-469,I0019-I0024,共17页
为应对极端天气事件给新型电力系统安全稳定运行带来的影响,在电网的生产模拟中需要考虑极端场景。然而极端场景历史样本数量少,传统场景生成方法无法直接生成极端场景,需要对场景进行辨识。为此,提出一种计及源荷双侧的极端场景辨识方... 为应对极端天气事件给新型电力系统安全稳定运行带来的影响,在电网的生产模拟中需要考虑极端场景。然而极端场景历史样本数量少,传统场景生成方法无法直接生成极端场景,需要对场景进行辨识。为此,提出一种计及源荷双侧的极端场景辨识方法。首先,将风电、光伏和负荷序列进行重塑,并在通道维度上拼接;然后,基于分组卷积和深度残差网络,提取场景的时序特征和源荷场景之间的耦合特征;其次,模型内部嵌入通道注意力机制和多头注意力机制,以赋予重要特征更大的权重,并对场景进行分类;此外,采用改进损失函数解决训练样本中数据集不均衡的问题;最后,基于历史数据集进行验证。验证结果表明,所提方法能够对场景进行有效的分类,可以从历史场景中识别出具有高保供或高消纳风险的源荷极端场景。 展开更多
关键词 极端场景辨识 残差神经网络 分组卷积 注意力机制 源荷不确定性
在线阅读 下载PDF
VMD-小波去噪与双线性ResNet结合坐标注意力机制的水声信号调制识别方法 被引量:1
17
作者 周锋 韦少帅 乔钢 《哈尔滨工程大学学报》 北大核心 2025年第7期1357-1366,共10页
针对复杂的水声环境噪声干扰导致提取信号特征不明显、水声通信调制信号类内差异大、类间相似导致调制识别准确率低的问题,本文提出一种基于去噪与改进的ResNet网络调制识别方法。运用变分模态分解与小波相结合的去噪方法,保留了低相关... 针对复杂的水声环境噪声干扰导致提取信号特征不明显、水声通信调制信号类内差异大、类间相似导致调制识别准确率低的问题,本文提出一种基于去噪与改进的ResNet网络调制识别方法。运用变分模态分解与小波相结合的去噪方法,保留了低相关性模态分量含有的有效信息;运用双线性ResNet18使网络具备捕获区分性强的局部信息;引入坐标注意力机制,使网络不仅能关注通道信息也能关注图像的空间信息。仿真结果表明:本文降噪方法相关系数更高、均方根误差均降低了20%;以0 dB条件为例,本文改进网络准确率相比于ResNet提升了8%,7种调制信号都达到了95%以上,调相调制准确率也达到了90%。 展开更多
关键词 水声通信 调制识别 残差网络 去噪 双线性模型 注意力机制 神经网络 变分模态
在线阅读 下载PDF
基于注意力机制的特征融合推荐模型 被引量:1
18
作者 马汉达 李腾飞 《计算机工程与科学》 北大核心 2025年第5期902-911,共10页
针对目前推荐系统难以获得特征信息,缺乏有效的方法来表示特征信息的权重的问题,提出了一种基于注意力机制与特征融合的推荐模型FFADeepCF_SPS。首先,针对特征表示不够充分的问题,使用因子分解机融合特征,将特征从一维扩展到高维,从而... 针对目前推荐系统难以获得特征信息,缺乏有效的方法来表示特征信息的权重的问题,提出了一种基于注意力机制与特征融合的推荐模型FFADeepCF_SPS。首先,针对特征表示不够充分的问题,使用因子分解机融合特征,将特征从一维扩展到高维,从而获得特征的低阶表示,然后使用深度神经网络学习高阶特征,并通过一个全连接层将2种特征组合起来,以获得所需的特征表示;其次,针对单头注意力机制过度倾斜权重的问题,使用将输入切分成多个单头分别计算其注意力权重的多头注意力机制,再经由线性变换将各结果进行拼接,获得最终的输出;最后,结合上述2点构建了基于注意力机制与特征融合的推荐模型。为了验证模型的有效性,在4个公开数据集上与基线模型GMF、DeepCF_SPS和CNN-BiLSTM进行了对比实验以及消融实验。实验结果表明,在不同规模的数据集上,所提模型与基线模型相比在MSE、RMSE、MAE评价指标上表现出的性能均更优。 展开更多
关键词 注意力机制 特征融合 推荐模型 评分预测
在线阅读 下载PDF
基于通道注意力机制增强DGNN的外骨骼机器人步态相位预测 被引量:1
19
作者 颜建军 许赢家 +2 位作者 林越 金理 江金林 《华东理工大学学报(自然科学版)》 北大核心 2025年第1期110-118,共9页
利用一种基于通道注意力机制增强的有向图神经网络(Channel Attention Enhanced Directed Graph Neural Network,CA-DGNN)的外骨骼机器人步态相位预测方法,提高了步态相位预测的准确性和可靠性。首先,研制了人体下肢姿态信息采集装置,... 利用一种基于通道注意力机制增强的有向图神经网络(Channel Attention Enhanced Directed Graph Neural Network,CA-DGNN)的外骨骼机器人步态相位预测方法,提高了步态相位预测的准确性和可靠性。首先,研制了人体下肢姿态信息采集装置,采集人体下肢的行走步态数据并构建人体下肢的骨架模型;之后,建立了基于CA-DGNN步态相位的预测模型,提取人体步态相位的运动特征,并基于当前时刻数据预测未来时刻的步态相位;最后,探讨了滑动窗口大小对算法性能的影响。本文提高了外骨骼机器人步态相位预测的准确性和鲁棒性,为此方向研究提供了一种新的思路和方法。 展开更多
关键词 步态相位预测 惯性传感器 骨架 时空图卷积网络 通道注意力机制
在线阅读 下载PDF
基于注意力机制的高光谱图像降维在纸质文物霉斑识别的研究
20
作者 汤斌 贺渝龙 +6 位作者 唐欢 龙邹荣 王建旭 谭博文 覃丹 罗希玲 赵明富 《光谱学与光谱分析》 SCIE EI CAS 北大核心 2025年第1期246-255,共10页
纸质文物作为文物传承的重要工具,用于记录不同时期人类历史及人文风貌,其在保存过程中极易受到霉菌等微生物的侵害。霉菌会加速纤维素的降解,在纸张表面生成霉斑,并且散落的孢子会随空气流动大范围传播,增加其他纸质文物发生霉变的风... 纸质文物作为文物传承的重要工具,用于记录不同时期人类历史及人文风貌,其在保存过程中极易受到霉菌等微生物的侵害。霉菌会加速纤维素的降解,在纸张表面生成霉斑,并且散落的孢子会随空气流动大范围传播,增加其他纸质文物发生霉变的风险。因此,定期对纸质文物进行霉斑检测对了解纸质文物现状和纸质文物修复至关重要。高光谱成像技术是一种非接触性、非破坏性的检测技术,能同时获得空间数据和光谱数据,与计算机技术结合可以实现纸质文物的大批次实时无损检测。针对黑曲霉这一广泛出现的霉菌,提出一种基于注意力机制的高光谱数据降维方法,通过采集其高光谱数据,实现了高光谱冗余数据的自适应预处理。采集了来自重庆中国三峡博物馆提供的20份纸质文物黑曲霉霉斑样本,使用ENVI软件分析得出在413~855 nm波段范围内,黑曲霉霉斑感染区域和健康区域的平均光谱曲线,平均反射率差异明显;在855~1021 nm波段范围内,黑曲霉霉斑感染区域和墨迹区域的平均光谱曲线,平均反射率差异明显。文中将所提出方法与传统主成分分析和独立成分分析预处理方法分别处理原始高光谱数据,并将结果在经典U-Net、SegNet、DeepLabV3+和PSPNet四个语义分割网络上进行了对比。结果表明,该算法预处理的数据在U-Net和SegNet经典网络中有明显优势,相较于主成分分析法和独立成分分析法,霉斑识别精度取得了较大提升达到89.49%和88.46%,验证了本文所提出算法的有效性,为文物保护领域提供有效的支撑和新的思路。 展开更多
关键词 高光谱数据预处理 霉斑识别 纸质文物 注意力机制 图像分割
在线阅读 下载PDF
上一页 1 2 250 下一页 到第
使用帮助 返回顶部