期刊文献+
共找到221篇文章
< 1 2 12 >
每页显示 20 50 100
基于多尺度胶囊Swin Transformer的SAR图像目标识别方法
1
作者 侯宇超 王洁 +4 位作者 李洪涛 郝岩 段晓旗 黄凯文 田有亮 《通信学报》 北大核心 2025年第3期274-290,共17页
通过协同胶囊单元的语义特征编码和Swin Transformer的上下文特征图建模优势相结合,提出了一种多尺度胶囊Swin Transformer网络(MSCSTN),将胶囊编码和Swin Transformer联合应用于SAR图像目标识别。该网络集成3个并行的胶囊Swin Transfor... 通过协同胶囊单元的语义特征编码和Swin Transformer的上下文特征图建模优势相结合,提出了一种多尺度胶囊Swin Transformer网络(MSCSTN),将胶囊编码和Swin Transformer联合应用于SAR图像目标识别。该网络集成3个并行的胶囊Swin Transformer编码结构,融合后对输入图像进行分类。每个结构通过基于膨胀卷积切片划分的胶囊令牌编码器和三维胶囊Swin Transformer模块构建,能捕获更深层次、更广泛的语义特征。在运动和静止目标的获取与识别(MSTAR)数据集及FUSAR-Ship数据集上的实验结果表明,MSCSTN在各种测试条件下均优于其他方法。结果表明,MSCSTN展现了良好的识别性能、泛化能力和应用潜力。 展开更多
关键词 膨胀卷积切片分区 胶囊令牌编码器 三维胶囊swin transformer模块 多尺度胶囊swin transformer网络 SAR图像目标识别
在线阅读 下载PDF
基于Swin-AK Transformer的智能手机拍摄图像质量评价方法
2
作者 侯国鹏 董武 +4 位作者 陆利坤 周子镱 马倩 柏振 郑晟辉 《光电工程》 北大核心 2025年第1期116-130,共15页
本文提出了一种基于双交叉注意力融合的Swin-AK Transformer(Swin Transformer based on alterable kernel convolution)和手工特征相结合的智能手机拍摄图像质量评价方法。首先,提取了影响图像质量的手工特征,这些特征可以捕捉到图像... 本文提出了一种基于双交叉注意力融合的Swin-AK Transformer(Swin Transformer based on alterable kernel convolution)和手工特征相结合的智能手机拍摄图像质量评价方法。首先,提取了影响图像质量的手工特征,这些特征可以捕捉到图像中细微的视觉变化;其次,提出了Swin-AK Transformer,增强了模型对局部信息的提取和处理能力。此外,本文设计了双交叉注意力融合模块,结合空间注意力和通道注意力机制,融合了手工特征与深度特征,实现了更加精确的图像质量预测。实验结果表明,在SPAQ和LIVE-C数据集上,皮尔森线性相关系数分别达到0.932和0.885,斯皮尔曼等级排序相关系数分别达到0.929和0.858。上述结果证明了本文提出的方法能够有效地预测智能手机拍摄图像的质量。 展开更多
关键词 图像质量评价 智能手机拍摄图像 swin transformer 手工特征 空间注意力 通道注意力
在线阅读 下载PDF
基于条件先验Swin Transformer的人脸图像超分辨重建
3
作者 郑方亮 王延年 +1 位作者 廉继红 阮佩 《电子科技》 2025年第2期35-41,共7页
针对现有基于Swin Transformer图像超分辨模型未对人脸图像进行预处理导致最终超分辨结果不佳的问题,文中提出了基于条件先验Swin Transformer的人脸图像超分辨重建方法。该方法利用人脸解析图融合Swin Transformer模型对人脸图像进行... 针对现有基于Swin Transformer图像超分辨模型未对人脸图像进行预处理导致最终超分辨结果不佳的问题,文中提出了基于条件先验Swin Transformer的人脸图像超分辨重建方法。该方法利用人脸解析图融合Swin Transformer模型对人脸图像进行预处理,使用条件先验对人脸超分问题进行优化,采用人脸解析图Parsing Map进行约束从而得到更有价值的先验信息。在深层特征提取阶段,将通道空间注意力机制融合Swin Transformer模块对特征组调整进行速度与精度的平衡。实验结果表明,所提方法在测试集上的峰值信噪比(Peak Signal-to-Noise Ratio,PSNR)为32.21 dB,相较于现有模型具有一定提升。实验证明改进模型更适用于人脸,所生成结果更清晰、更真实,能够还原出更多人脸图像纹理细节。 展开更多
关键词 图像超分辨 swin transformer 深度学习 条件先验 人脸超分辨 注意力机制 transformer 图像处理 超分重建
在线阅读 下载PDF
基于Swin Transformer的联合信源信道编码算法
4
作者 廖潇 李智 《现代信息科技》 2025年第7期1-4,共4页
联合信源信道编码作为语义通信的关键研究方向,已取得初步研究成果。然而,随着图像分辨率的提升,传统的基于卷积神经网络的联合信源信道编码算法在图像语义特征提取方面表现出局限性。为了解决该问题,文章提出了一种基于Swin Transforme... 联合信源信道编码作为语义通信的关键研究方向,已取得初步研究成果。然而,随着图像分辨率的提升,传统的基于卷积神经网络的联合信源信道编码算法在图像语义特征提取方面表现出局限性。为了解决该问题,文章提出了一种基于Swin Transformer的联合信源信道编码算法。该算法首先利用多尺度大核注意力机制初步捕获图像的局部信息和长距离依赖性,然后通过Swin Transformer进一步对图像语义特征进行分层提取和自适应码率编码。实验结果表明,在AWGN和Rayleigh信道模型下,所提出的算法在PSNR和MS-SSIM指标上均优于传统的算法。 展开更多
关键词 联合信源信道编码 swin transformer 多尺度大核注意力
在线阅读 下载PDF
轻量型Swin Transformer与多尺度特征融合相结合的人脸表情识别方法
5
作者 李艳秋 李胜赵 +1 位作者 孙光灵 颜普 《光电工程》 北大核心 2025年第1期24-37,共14页
针对Swin Transformer模型应用在表情识别上参数量过大、实时性较差和对表情中存在的复杂且微小的表情变化特征捕捉能力有限的问题,提出了一个轻量型Swin Transformer和多尺度特征融合(EMA)模块相结合的人脸表情识别方法。该方法首先利... 针对Swin Transformer模型应用在表情识别上参数量过大、实时性较差和对表情中存在的复杂且微小的表情变化特征捕捉能力有限的问题,提出了一个轻量型Swin Transformer和多尺度特征融合(EMA)模块相结合的人脸表情识别方法。该方法首先利用提出的SPST模块替换掉原Swin Transformer模型第四个stage中的Swin Transformer block模块,来降低模型的参数量,实现模型的轻量化。然后在轻量型模型的第二个stage后嵌入了多尺度特征融合(EMA)模块,通过多尺度特征提取和跨空间信息聚合,有效地增强了模型对人脸表情细节的捕捉能力,从而提高人脸表情识别的准确性和鲁棒性。实验结果表明,所提方法在JAFFE、FERPLUS、RAF-DB和FANE这4个公共数据集上分别达到了97.56%、86.46%、87.29%和70.11%的识别准确率,且相比于原Swin Transformer模型,改进后的模型参数量下降了15.8%,FPS提升了9.6%,在保持模型较低参数量的同时,显著增强了模型的实时性。 展开更多
关键词 表情识别 swin transformer SPST模块 EMA模块
在线阅读 下载PDF
基于Transformer模型的水电机组轴承温度预测
6
作者 金东兵 陈泽阳 +3 位作者 三梅英 赵社强 刘伟 白永福 《水电站机电技术》 2025年第1期36-39,97,129,共6页
水电机组在运行过程中,轴承温度会随着机组的工况变化而变化,是机组状态监测系统中的重要数据之一。然而影响轴承温度的参数指标众多,有环境温度、冷却器冷却性能、机组负荷等,其工业机理模型十分复杂,对其预测难度极大。为及时准确掌... 水电机组在运行过程中,轴承温度会随着机组的工况变化而变化,是机组状态监测系统中的重要数据之一。然而影响轴承温度的参数指标众多,有环境温度、冷却器冷却性能、机组负荷等,其工业机理模型十分复杂,对其预测难度极大。为及时准确掌握机组的运行状态,需要对轴承温度进行预测。本文选取某个水电机组的实际运行数据,基于Transformer模型对水电机组的轴承温度进行预测,该研究可以应用于水电机组的趋势分析、状态评价及早期故障预测,避免烧瓦事故的发生,为水电机组的安全稳定运行提供数据支撑。 展开更多
关键词 水电机组 轴承温度 transformer模型 预测
在线阅读 下载PDF
基于光流引导Transformer模型的重载铁路监控压缩视频质量增强方法
7
作者 王文斌 宋宗莹 +2 位作者 柴雪松 凌烈鹏 李健超 《铁路计算机应用》 2025年第1期27-33,共7页
重载铁路视频监控系统的不断扩增,使得铁路视频数据急剧增长,对数据存储和传输等能力的要求更高。为此,提出了一种基于光流引导Transformer模型的重载铁路监控压缩视频质量增强方法。通过光流补全网络提取帧间运动信息,指导Transformer... 重载铁路视频监控系统的不断扩增,使得铁路视频数据急剧增长,对数据存储和传输等能力的要求更高。为此,提出了一种基于光流引导Transformer模型的重载铁路监控压缩视频质量增强方法。通过光流补全网络提取帧间运动信息,指导Transformer模型关注视频序列中的重要特征;结合多头自注意力机制和时间空间特征融合策略,有效提取视频帧的时空特征;通过在Transformer模型结构中融入光流引导的特征增强模块,进一步提升视频质量增强的准确性和效率。基于实际采集的重载铁路监控视频数据集的实验结果表明,该方法显著优于现有的视频质量增强方法,具有实用价值。 展开更多
关键词 重载铁路 视频增强 光流 transformer模型 多头自注意力机制
在线阅读 下载PDF
Transformer与视觉注意力结合的图像去噪模型
8
作者 欧奇坤 《通讯世界》 2025年第1期132-134,共3页
为解决图像去噪效果差的问题,对卷积神经网络和Vision Transformer模型在图像处理领域的应用进行了深入研究。提出了一种创新的SCAUNet模型,该模型融合了Swin Transformer模型以及卷积块注意力模块和挤压激励这两种视觉注意力机制,构建... 为解决图像去噪效果差的问题,对卷积神经网络和Vision Transformer模型在图像处理领域的应用进行了深入研究。提出了一种创新的SCAUNet模型,该模型融合了Swin Transformer模型以及卷积块注意力模块和挤压激励这两种视觉注意力机制,构建高效的图像去噪骨干网络。通过整合UNet网络架构,进一步增强了该模型对图像特征的提取能力。为评估该模型性能,采用峰值信噪比和结构相似性指标,实验结果证实SCAUNet模型在图像去噪任务中性能卓越,为图像处理领域的相关工作人员提供了参考。 展开更多
关键词 卷积神经网络 swin transformer CBAM SE 图像降噪 UNet
在线阅读 下载PDF
采用双塔Transformer模型的APT攻击序列检测方法
9
作者 汪一帆 徐正国 陆路希 《信息工程大学学报》 2025年第2期231-237,共7页
现有APT检测研究多针对APT攻击部分阶段数据,缺少对完整APT攻击阶段的上下文关联分析。为解决上述挑战,结合主机侧和网络侧数据,构建包含APT完整阶段的多变量时序数据集,提出一种基于特征选择和双塔Transformer模型的APT攻击序列检测方... 现有APT检测研究多针对APT攻击部分阶段数据,缺少对完整APT攻击阶段的上下文关联分析。为解决上述挑战,结合主机侧和网络侧数据,构建包含APT完整阶段的多变量时序数据集,提出一种基于特征选择和双塔Transformer模型的APT攻击序列检测方法。首先,利用特征优选模块,筛选出重要特征子集作为输入;其次,采用双塔结构,从时间维度上捕获APT攻击序列前后时刻状态间的关联信息,从特征维度上挖掘特征变量间的隐含关系;最后,引入门控结构,连接合并双塔的权重,自适应地融合APT攻击序列在时间维度和特征维度的隐含信息,以达到提升检测性能的目的。实验结果表明,与循环神经网络(RNN)、长短时记忆网络(LSTM)和Transformer模型相比,该方法表现更好,检测准确率达到95.42%。 展开更多
关键词 APT检测 特征选择 transformer模型 多变量时序分析
在线阅读 下载PDF
基于改进的Swin Transformer的输油管道微小缺陷检测模型 被引量:2
10
作者 姚睿 郎宪明 +2 位作者 袁开欣 侍殿超 张欣冉 《管道技术与设备》 CAS 2024年第3期35-42,47,共9页
针对磁漏微小缺陷检测困难、检测数据不足、检测精度低等问题,提出了去噪扩散概率模型(DDPM)-门控并行膨胀卷积的移位窗口变换器(DGPST)。文中引入了DDPM作为数据生成模型,获得高质量的数据样本。门控并行膨胀卷积的移位窗口变换器(GPST... 针对磁漏微小缺陷检测困难、检测数据不足、检测精度低等问题,提出了去噪扩散概率模型(DDPM)-门控并行膨胀卷积的移位窗口变换器(DGPST)。文中引入了DDPM作为数据生成模型,获得高质量的数据样本。门控并行膨胀卷积的移位窗口变换器(GPST)是在移位窗口变换器(Swin-Transformer)的基础上进行改进的。在GPST的主干网络中引入了门控并行膨胀卷积层,门控单元可以减少不必要的计算量,卷积提高了网络提取全局上下文信息的能力,有利于提高模型检测精度。实验结果表明:当IOU=0.5时,该算法的精确度为95.6%,推理时间(Latency)为8.2 ms。 展开更多
关键词 门控并行膨胀卷积 概率模型 移位窗口变换器 磁通量
在线阅读 下载PDF
基于改进Swin-Transformer模型的铜矿X射线图像分类研究
11
作者 黄永进 何剑锋 +5 位作者 李卫东 夏菲 王杉 汪雪元 钟国韵 瞿金辉 《有色金属(选矿部分)》 CAS 2024年第12期112-118,138,共8页
针对铜矿图像分类中传统神经网络因感受野限制和维度信息阻塞面临的问题,提出了基于X射线透射成像技术改进的Swin-Transformer模型。该模型以Swin-Transformer为基础框架,在主干网络的第二和第三阶段中添加Mixing Block,通过局部窗口自... 针对铜矿图像分类中传统神经网络因感受野限制和维度信息阻塞面临的问题,提出了基于X射线透射成像技术改进的Swin-Transformer模型。该模型以Swin-Transformer为基础框架,在主干网络的第二和第三阶段中添加Mixing Block,通过局部窗口自注意力和深度卷积之间的的双向交互,使模型的感受野得到显著增大,从而增强了特征表示和建模能力;同时,引入的EMA(Efficient Multi-Scale Attention)模块,将部分通道重塑为批量维度,并将通道维度分组为多个子特征,使空间语义特征在每个特征组中均匀分布,提升了模型在通道和多尺度空间维度信息融合方面的能力,并增强了对感兴趣区域特征的表征效果。试验以铜矿X射线透射图像为研究对象,选取总计5000张图像,按8∶2划分训练集和测试集,在与传统网络的性能对比试验中选取Swin-Transformer作为模型的主干网络。在选取主干网络的基础之上向模型引入Mixing Block模块和EMA模块进行优化改进。试验结果表明,改进模型解决了感受野和维度信息受限的问题,并在铜矿智能识别任务上达到了94.40%的准确率,而消融试验则证明了改进模块对于模型识别性能的提升,进一步证明了改进方法的有效性。 展开更多
关键词 深度学习 X射线成像 矿石识别 swin-transformer
在线阅读 下载PDF
基于Swin Transformer的地震相识别模型 被引量:1
12
作者 硕良勋 李志轩 +2 位作者 柴变芳 王天意 郑晓东 《天然气工业》 EI CAS CSCD 北大核心 2024年第12期63-72,共10页
地震相识别是油气勘探开发过程中的一项重要技术,但该技术长期存在方法模型训练速度较慢、预测耗时、解释结果人为主观性较强,以及各层特征提取忽略多尺度特征等问题。为此,针对目前地震相识别精度不够且计算成本高的问题,构建了一个基... 地震相识别是油气勘探开发过程中的一项重要技术,但该技术长期存在方法模型训练速度较慢、预测耗时、解释结果人为主观性较强,以及各层特征提取忽略多尺度特征等问题。为此,针对目前地震相识别精度不够且计算成本高的问题,构建了一个基于Swin Transformer的地震相识别模型(Seismic Facies Identification based on Swin Transformer,SFI-ST),首先联合卷积神经网络,利用编码器和解码器不断捕捉地震相细节特征,然后采用两种不同的数据集测试并评估模型的有效性,同时考虑到数据集划分对模型的影响,针对不同划分比例进行性能分析对比,最后对模型进行了消融实验以及抗噪性分析。研究结果表明:①编码器使用的Swin Transformer模块具有较好的特征提取能力,基于较小移动窗口进行特征提取的策略保证模型更快地学习高分辨率地震剖面特征,在各移动窗口使用自注意力机制计算特征的方法保证模型在较大视野下更准确地提取局部特征;②Swin Transformer使用逐层特征融合的方式,在提升特征提取速度的同时保证模型获取更多尺度的特征;③融合Swin Transformer和卷积神经网络模块实现各层特征提取,增强了模型对轮廓、边缘的提取能力。结论认为:①SFI-ST模型应用于两工区数据上的平均交并比分别为73.2%和77.6%,相较于其他主流深度学习算法至少分别提升了10.7%和6.0%,SFI-ST模型运行时间分别为0.62 h和2.88 h,相较于其他主流深度学习算法至少减少了15.1%和24.2%;②SFI-ST模型一定程度上解决了现有地震相智能识别方法识别速度慢、精度低等问题,为地震相识别提供了新方法,在技术上助力了油气勘探开发进程。 展开更多
关键词 地震相识别 语义分割模型 swin transformer 多尺度特征 油气藏预测
在线阅读 下载PDF
基于双通道Transformer模型的多维信号故障诊断方法
13
作者 钟亮 邱化海 邱诒耿 《科技创新与应用》 2025年第2期47-50,57,共5页
感应电机在现代工业中有十分重要的作用。然而,电机长时间运行后会变得疲劳从而导致灾难性后果。由于电机故障诊断本质是对电机的时间信号分类,该研究提出双通道Transformer模型,该模型利用电流和振动信号进行诊断,并通过连续小波变换... 感应电机在现代工业中有十分重要的作用。然而,电机长时间运行后会变得疲劳从而导致灾难性后果。由于电机故障诊断本质是对电机的时间信号分类,该研究提出双通道Transformer模型,该模型利用电流和振动信号进行诊断,并通过连续小波变换提取频域特征作为输入。双通道Transformer模型将数据的时域和频域信号分别通过Transformer模型,这种替代不仅可以提取时间特征,还可以提取空间特征。实验结果表明,所提出的模型可以提供高达95.36%的诊断准确率,证明其在电机故障诊断中的有效性。与传统的单信号故障诊断方法相比,该模型具有更好的鲁棒性和准确性。 展开更多
关键词 电机故障诊断 双通道transformer模型 小波变换 多维信号 频域特征
在线阅读 下载PDF
基于MTF-Swin Transformer的风机齿轮箱故障诊断 被引量:1
14
作者 张彬桥 雷钧 万刚 《可再生能源》 CAS CSCD 北大核心 2024年第5期627-633,共7页
针对风机齿轮箱实际工况复杂多变及含有强噪声,传统故障诊断方法对风机齿轮箱故障诊断识别准确率较低的问题,文章提出了MTF-Swin Transformer风机齿轮箱故障诊断模型。首先,采用马尔科夫变迁场(MTF)图形编码方法将原始一维振动时序信号... 针对风机齿轮箱实际工况复杂多变及含有强噪声,传统故障诊断方法对风机齿轮箱故障诊断识别准确率较低的问题,文章提出了MTF-Swin Transformer风机齿轮箱故障诊断模型。首先,采用马尔科夫变迁场(MTF)图形编码方法将原始一维振动时序信号转化为具有关联时间信息的二维特征图谱;然后,将特征图谱作为Swin Transformer模型的输入,基于自注意力机制进行自动特征提取;最后,实现对不同故障类型的分类。仿真结果表明,该方法对齿轮箱故障诊断准确率达到了99.48%,证明了该方法的有效性和优越性。 展开更多
关键词 马尔科夫变迁场(MTF) swin transformer 风机齿轮箱 故障诊断
在线阅读 下载PDF
基于小波变换增强位置编码Transformer的空域流量预测
15
作者 唐卫贞 刘波 +1 位作者 黄洲升 田齐齐 《现代电子技术》 北大核心 2025年第8期127-132,共6页
随着全球化进程的加快和航空技术的发展,对空中交通流量预测的精度要求也越来越高。为提高空中交通流量预测精度,减轻空中交通管制员的压力,提出一种增强位置编码的Transformer模型。利用小波变换对原始空域流量数据进行分析,通过信噪... 随着全球化进程的加快和航空技术的发展,对空中交通流量预测的精度要求也越来越高。为提高空中交通流量预测精度,减轻空中交通管制员的压力,提出一种增强位置编码的Transformer模型。利用小波变换对原始空域流量数据进行分析,通过信噪比选出性能最优的小波基函数,再进一步计算出小波系数并将其融入位置编码,以增强模型对时间序列数据的理解能力。实验结果表明,所提模型能够准确捕捉空中交通流量数据中的非平稳性和突变特征,其RMSE和MAPE评估指标较原始Transformer模型分别降低了29.9与2.9%,较LSTM模型分别降低了34.5与3.4%。该模型不仅提升了空域流量预测的准确性,也证实了小波变换在增强模型时间序列数据理解中的有效性,且为交通流量管理提供了一种新的技术方案。 展开更多
关键词 空域流量预测 增强位置编码 transformer模型 小波变换 LSTM模型 小波基函数
在线阅读 下载PDF
融合深度卷积神经网络和Swin Transformer的露天矿遥感图像超分辨率重建
16
作者 聂雅琳 王海军 +1 位作者 石念峰 刘保罗 《金属矿山》 北大核心 2024年第12期240-245,共6页
针对现有露天矿遥感图像超分辨率重建模型提取特征能力弱、特征利用不充分的问题,提出了一种融合深度卷积神经网络和Swin Transformer网络的露天矿遥感图像超分辨率重建方法。首先,利用卷积神经网络和Swin Transformer网络将露天矿遥感... 针对现有露天矿遥感图像超分辨率重建模型提取特征能力弱、特征利用不充分的问题,提出了一种融合深度卷积神经网络和Swin Transformer网络的露天矿遥感图像超分辨率重建方法。首先,利用卷积神经网络和Swin Transformer网络将露天矿遥感图像映射到全局和局部特征空间,充分提取遥感图像的深层特征;然后,构造了一种基于注意力机制的多尺度特征融合网络,实现遥感图像局部和全局特征的深度融合,强化有效特征表达的区分能力;最后,将深度融合特征作为超分辨率解码模块的输入,重建出高分辨率的露天矿遥感图像。通过在自建露天矿区图像数据集和开源数据集上进行测试,试验结果表明:与当前主流的图像超分辨率重建算法相比,所提方法重构出的超分辨率图像具有较好的视觉感知,在均方根误差方面也低于其他对比方法。 展开更多
关键词 露天矿 超分辨率重建 深度卷积神经网络 swin transformer
在线阅读 下载PDF
规则压缩模型和灵活架构的Transformer加速器设计
17
作者 姜小波 邓晗珂 +1 位作者 莫志杰 黎红源 《电子与信息学报》 EI CAS CSCD 北大核心 2024年第3期1079-1088,共10页
基于注意力机制的Transformer模型具有优越的性能,设计专用的Transformer加速器能大幅提高推理性能以及降低推理功耗。Transformer模型复杂性包括数量上和结构上的复杂性,其中结构上的复杂性导致不规则模型和规则硬件之间的失配,降低了... 基于注意力机制的Transformer模型具有优越的性能,设计专用的Transformer加速器能大幅提高推理性能以及降低推理功耗。Transformer模型复杂性包括数量上和结构上的复杂性,其中结构上的复杂性导致不规则模型和规则硬件之间的失配,降低了模型映射到硬件的效率。目前的加速器研究主要聚焦在解决模型数量上的复杂性,但对如何解决模型结构上的复杂性研究得不多。该文首先提出规则压缩模型,降低模型的结构复杂度,提高模型和硬件的匹配度,提高模型映射到硬件的效率。接着提出一种硬件友好的模型压缩方法,采用规则的偏移对角权重剪枝方案和简化硬件量化推理逻辑。此外,提出一个高效灵活的硬件架构,包括一种以块为单元的权重固定脉动运算阵列,同时包括一种准分布的存储架构。该架构可以高效实现算法到运算阵列的映射,同时实现高效的数据存储效率和降低数据移动。实验结果表明,该文工作在性能损失极小的情况下实现93.75%的压缩率,在FPGA上实现的加速器可以高效处理压缩后的Transformer模型,相比于中央处理器(CPU)和图形处理器(GPU)能效分别提高了12.45倍和4.17倍。 展开更多
关键词 自然语音处理 transformer 模型压缩 硬件加速器 机器翻译
在线阅读 下载PDF
融合路径聚合网络的Swin Transformer的故障诊断方法研究 被引量:1
18
作者 刘晨宇 李志农 +1 位作者 熊鹏伟 谷丰收 《振动与冲击》 EI CSCD 北大核心 2024年第18期258-266,共9页
针对Transformer在航空发动机故障诊断中存在空间信息特征建模能力不足、计算复杂度较高的问题,提出一种基于路径聚合网络的Swin Transformer的故障诊断方法。该方法将路径聚合网络嵌入到Swin Transformer网络中,提高模型多尺度融合特... 针对Transformer在航空发动机故障诊断中存在空间信息特征建模能力不足、计算复杂度较高的问题,提出一种基于路径聚合网络的Swin Transformer的故障诊断方法。该方法将路径聚合网络嵌入到Swin Transformer网络中,提高模型多尺度融合特征金字塔顶层信息和底层信息的效率,并采用窗口多头自注意力模块和移动窗口多头自注意力模块,有效降低提取空间信息特征的计算复杂度,并促进信息的流动和特征的传递。最后,将提出的方法应用到航空发动机滚动轴承故障诊断中。试验结果表明,提出的方法明显优于Transformer和传统Swin Transformer方法,在保证识别精度的同时,提高了模型的识别速度。 展开更多
关键词 故障诊断 swin transformer 路径聚合网络 航空发动机 滚动轴承
在线阅读 下载PDF
基于CNN-Swin Transformer Network的LPI雷达信号识别 被引量:1
19
作者 苏琮智 杨承志 +2 位作者 邴雨晨 吴宏超 邓力洪 《现代雷达》 CSCD 北大核心 2024年第3期59-65,共7页
针对在低信噪比(SNR)条件下,低截获概率雷达信号调制方式识别准确率低的问题,提出一种基于Transformer和卷积神经网络(CNN)的雷达信号识别方法。首先,引入Swin Transformer模型并在模型前端设计CNN特征提取层构建了CNN+Swin Transforme... 针对在低信噪比(SNR)条件下,低截获概率雷达信号调制方式识别准确率低的问题,提出一种基于Transformer和卷积神经网络(CNN)的雷达信号识别方法。首先,引入Swin Transformer模型并在模型前端设计CNN特征提取层构建了CNN+Swin Transformer网络(CSTN),然后利用时频分析获取雷达信号的时频特征,对图像进行预处理后输入CSTN模型进行训练,由网络的底部到顶部不断提取图像更丰富的语义信息,最后通过Softmax分类器对六类不同调制方式信号进行分类识别。仿真实验表明:在SNR为-18 dB时,该方法对六类典型雷达信号的平均识别率达到了94.26%,证明了所提方法的可行性。 展开更多
关键词 低截获概率雷达 信号调制方式识别 swin transformer网络 卷积神经网络 时频分析
在线阅读 下载PDF
基于CWT和优化Swin Transformer的风电齿轮箱故障诊断方法 被引量:2
20
作者 周舟 陈捷 吴明明 《振动与冲击》 EI CSCD 北大核心 2024年第15期200-208,共9页
针对传统故障诊断方法在风电齿轮箱运行故障诊断应用上的不足,提出一种基于小波变换(continuous wavelet transform, CWT)和优化Swin Transformer的风电齿轮箱故障诊断方法。该方法利用小波变换将风电齿轮箱振动信号转换为时频图;使用Su... 针对传统故障诊断方法在风电齿轮箱运行故障诊断应用上的不足,提出一种基于小波变换(continuous wavelet transform, CWT)和优化Swin Transformer的风电齿轮箱故障诊断方法。该方法利用小波变换将风电齿轮箱振动信号转换为时频图;使用SuperMix数据增强算法对样本进行扩充;利用迁移学习技术将模型预训练参数用于训练和优化Swin Transformer模型;将训练完成的优化Swin Transformer模型应用于风场实际运维数据进行对比验证,分类准确率达到99.67%。验证结果表明该方法能够有效地实现风电齿轮箱故障诊断,并提高模型的识别准确率。 展开更多
关键词 风电齿轮箱 小波变换 数据增强 swin transformer
在线阅读 下载PDF
上一页 1 2 12 下一页 到第
使用帮助 返回顶部