基于端口注意力与通道空间注意力的网络异常流量检测 被引量：8

1

作者 肖斌 甘昀 +2 位作者 汪敏 张兴鹏 王照星 《计算机应用》 CSCD 北大核心 2024年第4期1027-1034,共8页

网络异常流量检测是网络安全保护重要组成部分之一。目前,基于深度学习的异常流量检测方法都是将端口号属性与其他流量属性同等对待,忽略了端口号的重要性。为了提高异常流量检测性能,借鉴注意力思想,提出一个卷积神经网络(CNN)结合端... 网络异常流量检测是网络安全保护重要组成部分之一。目前,基于深度学习的异常流量检测方法都是将端口号属性与其他流量属性同等对待,忽略了端口号的重要性。为了提高异常流量检测性能,借鉴注意力思想,提出一个卷积神经网络(CNN)结合端口注意力模块(PAM)和通道空间注意力模块(CBAM)的网络异常流量检测模型。首先,将原始网络流量作为PAM的输入,分离得到端口号属性送入全连接层,得到学习后的端口注意力权重值,并与其他流量属性点乘,输出端口注意力后的流量数据;其次,将流量数据转换成灰度图,利用CNN和CBAM更充分地提取特征图在通道和空间上的信息;最后,使用焦点损失函数解决数据不平衡的问题。所提PAM具有参数量少、即插即用和普遍适用的优点。在CICIDS2017数据集上,所提模型的异常流量检测二分类任务准确率为99.18%,多分类任务准确率为99.07%,对只有少数训练样本的类别也有较高的识别率。 展开更多

关键词 异常流量检测 注意力机制 数据不平衡 轻量级网络 通道空间注意力模块

在线阅读 下载PDF 职称材料

基于混合注意力生成对抗网络的遥感图像去雾方法

2

作者 马六 毛克彪 郭中华 《智慧农业(中英文)》 2025年第2期172-182,共11页

[目的/意义]近年来,深度学习在遥感图像去雾领域取得了显著进展,尤其是在引入注意力机制以提升特征学习方面。然而,传统的注意力机制大多依赖全局平均池化,导致模型对特定影响点的敏感性过高,难以有效应对遥感图像中的去雾问题。为了提... [目的/意义]近年来,深度学习在遥感图像去雾领域取得了显著进展,尤其是在引入注意力机制以提升特征学习方面。然而,传统的注意力机制大多依赖全局平均池化,导致模型对特定影响点的敏感性过高,难以有效应对遥感图像中的去雾问题。为了提高去雾技术的效果,满足农业、城市规划等领域对图像质量日益增长的需求,现有方法亟需改进。[方法]本研究提出了一种混合注意力生成对抗网络(Hybrid Attention-Based Generative Adversarial Network,HAB-GAN)。该模型通过结合高效通道注意力模块与空间注意力模块,嵌入生成对抗网络架构中,实现了对遥感图像去雾效果的显著提升。高效通道注意力模块通过降低全局特征聚合中的冗余信息,既保留了性能,又减少了模型复杂度;空间注意力模块则从局部到全局对遥感图像中的雾化区域进行识别和聚焦,增强了对这些区域的恢复能力。这种方法能够更加有效地应对遥感图像中复杂多变的景观,尤其适用于农业等需要高质量遥感数据的领域。[结果与讨论]在RESISC(Remote Sensing Image Scene Classification)45数据集上,与现有的其他注意力机制去雾模型,如SpA GAN和HyA-GAN进行比较,HAB-GAN模型去雾效果更优,其中峰值信噪比(Peak Signal-to-Noise Ratio,PSNR)分别增加了2.64和1.14 dB,结构相似度(Structural Similarity Index,SSIM)分别增加了0.0122和0.0019。此外,消融实验验证了混合注意力机制的有效性,去除HAB模块后,HAB-GAN模型的PSNR下降了3.87 dB,SSIM下降了0.0334。[结论]提出的HAB-GAN模型显著提升了遥感图像的去雾效果,使生成的图像更加接近无雾图像,特别是对于复杂的农业、环境监测等场景具有重要应用价值。HAB模块在提升模型性能方面发挥了关键作用,为未来的遥感图像处理和相关领域提供了有力的技术支持。 展开更多

关键词 遥感图像 深度学习 生成对抗网络 高效通道注意力模块 空间注意力模块 去雾

在线阅读 下载PDF 职称材料

融合PVTv2和DenseNet121的双注意力视网膜病变分级算法

3

作者 梁礼明 钟奕 +1 位作者 陈康泉 王成斌 《光电工程》 北大核心 2025年第4期15-29,共15页

针对视网膜眼底病变图像数据集类间分布不均和病灶区域识别困难的问题,提出一种融合金字塔视觉变压器(pyramid vision transformer v2,PVTv2)和DenseNet121双注意力视网膜病变分级算法。首先,该算法经由PVTv2和DenseNet121组成的双分支... 针对视网膜眼底病变图像数据集类间分布不均和病灶区域识别困难的问题,提出一种融合金字塔视觉变压器(pyramid vision transformer v2,PVTv2)和DenseNet121双注意力视网膜病变分级算法。首先,该算法经由PVTv2和DenseNet121组成的双分支网络,对视网膜图像的全局和局部信息进行初步提取;其次,在PVTv2和DenseNet121输出处分别采用空间通道协同注意力模块和多频率多尺度模块,优化局部特征细节,突显微小病灶特征,增强模型对复杂微小病变特征敏感性和病灶的定位感知;再次设计神经元交叉融合模块,建立病灶区域宏观布局和微观纹理信息之间的远程依赖关系,进而提高视网膜病变分级准确率;最后,利用混合损失函数缓解样本分布不均所导致的各等级之间模型关注度不平衡情况。在IDRID和APTOS 2019数据集上进行实验验证,其二次加权系数分别为90.68%和90.35%,IDRID数据集上的准确率和APTOS 2019数据集ROC曲线下方面积分别为80.58%和93.22%。实验结果表明,所提算法在视网膜病变分级领域具有一定应用价值。 展开更多

关键词 视网膜病变分级 空间通道协同注意力模块 多频率多尺度注意力模块 神经元交叉融合模块

在线阅读 下载PDF 职称材料

引入注意力机制的自监督光流计算 被引量：3

4

作者 安峰 戴军 +1 位作者 韩振 严仲兴 《图学学报》 CSCD 北大核心 2022年第5期841-848,共8页

光流计算是诸多计算机视觉系统的关键模块,广泛应用于动作识别、机器人定位与导航等领域。但目前端到端的光流计算仍受限于数据源的缺少,尤其是真实场景下的光流数据难以获取。人工合成的光流数据占绝大多数,且合成数据不能完全反应真... 光流计算是诸多计算机视觉系统的关键模块,广泛应用于动作识别、机器人定位与导航等领域。但目前端到端的光流计算仍受限于数据源的缺少,尤其是真实场景下的光流数据难以获取。人工合成的光流数据占绝大多数,且合成数据不能完全反应真实场景(如树叶晃动、行人倒影等),难以避免过拟合等情况。无监督或自监督方法可以利用海量的视频数据进行训练,摆脱了对数据集的依赖,是解决数据集缺少的有效途径。基于此搭建了一个自监督学习光流计算网络,其中的“Teacher”模块和“Student”模块集成了最新光流计算网络:稀疏相关体网络(SCV),减少了计算冗余量;同时引入注意力模型作为网络的一个节点,以提高图像特征在通道和空间上的维度属性。将SCV与注意力机制集成在自监督学习光流计算网络之中,在KITTI 2015数据集上的测试结果达到或超过了常见的有监督训练网络。 展开更多

关键词 光流计算 自监督学习 卷积注意力模块 空间/通道注意力 稀疏相关体

在线阅读 下载PDF 职称材料

注意力残差网络的单图像去雨方法研究 被引量：7

5

作者 徐爱生 唐丽娟 陈冠楠 《小型微型计算机系统》 CSCD 北大核心 2020年第6期1281-1285,共5页

恶劣的雨天天气会严重影响图像质量,进而导致目标检测,目标追踪等算法性能急剧下降,因此图像去雨得到了快速发展.本文提出一种基于注意力残差网络的端到端图像去雨算法,通过卷积神经网络强大的表示能力,学习出从有雨到无雨图像的映射.... 恶劣的雨天天气会严重影响图像质量,进而导致目标检测,目标追踪等算法性能急剧下降,因此图像去雨得到了快速发展.本文提出一种基于注意力残差网络的端到端图像去雨算法,通过卷积神经网络强大的表示能力,学习出从有雨到无雨图像的映射.将注意力模块引入残差模块中,首先利用通道注意力机制自适应学习通道维度上不同特征,然后利用空间注意力机制建立雨条纹的内在关系,之后将注意力模块与残差模块相结合得到注意力残差单元,最后将其堆叠成高性能去雨网络.公开的合成和真实世界图像数据集上的实验表明,本文所提出的方法在视觉上可以大大提高去雨的性能. 展开更多

关键词 单图像去雨 深度残差网络 注意力机制 通道注意力模块 空间注意力模块

在线阅读 下载PDF 职称材料

基于Densenet模型的步态相位识别研究 被引量：2

6

作者 付明凯 王少红 马超 《电子测量技术》 北大核心 2025年第1期119-128,共10页

步态识别是下肢外骨骼机器人的关键技术,精准地步态识别对下肢外骨骼机器人的柔性控制具有重要作用。为解决不同个体以及同一个体步态特征(步速、步幅等)的随机性,本文提出了一种基于Densenet改进的SECBAM-Densenet网络模型的步态相位... 步态识别是下肢外骨骼机器人的关键技术,精准地步态识别对下肢外骨骼机器人的柔性控制具有重要作用。为解决不同个体以及同一个体步态特征(步速、步幅等)的随机性,本文提出了一种基于Densenet改进的SECBAM-Densenet网络模型的步态相位识别方法。首先,将两个惯性测量单元布置在胫骨前部和大腿前侧的股直肌,采集了200人次受试者前进、转弯、上楼梯、下楼梯4种步态任务的步态数据。然后,对数据进行滤波重采样预处理后作为所提模型的输入。最后,利用SECBAM-Densenet模型得到输出模型的分类结果。结果显示,改进后SECBAM-Densenet模型在同一个体中不同步态相位平均识别准确率达到了95.76%,相比其他模型有0.66%~21.22%的提升。在不同个体中,相位的识别准确率均高于94%。以上试验结果表明,本文提出的模型可以应用于步态相位识别领域,并为下肢外骨骼机器人的柔性控制提供了试验参考。 展开更多

关键词 步态相位 Densenet SE-net注意力模块 空间通道注意力模块

在线阅读 下载PDF 职称材料

基于压缩图像与YOLOv5模型的架空输电线路缺陷检测技术 被引量：1

7

作者 刘敏 姜亮 +2 位作者 田杨阳 张璐 陈岑 《沈阳工业大学学报》 北大核心 2025年第2期152-159,共8页

【目的】输电线路作为电能传输和使用过程中的重要环节,其安全稳定对电力系统的正常运行起着至关重要的作用,因此输电线路日常巡检具有重要作用。重大事故通常由微小缺陷隐患发展而来,日常巡检通常采用人工、无人机、可视化通道等手段,... 【目的】输电线路作为电能传输和使用过程中的重要环节,其安全稳定对电力系统的正常运行起着至关重要的作用,因此输电线路日常巡检具有重要作用。重大事故通常由微小缺陷隐患发展而来,日常巡检通常采用人工、无人机、可视化通道等手段,无论何种方式都需要处理大量可视化、红外或者紫外照片。但由于输电线路的特殊性,架设条件涉及多种环境,其巡检图像背景通常较为复杂,采用人工复核审查的方式精度较高,但对经验依赖较大且效率极低。如何快速、准确地识别架空线路巡检图片是架空输电线路缺陷识别的关键。传统输电线路巡检图片识别方法在复杂背景的干扰下,容易出现缺陷识别精确度不高的问题。【方法】为提高架空输电线路巡检图像复杂背景下的检测准确率,提出了一种兼顾识别效率和准确性的缺陷检测方法。基于压缩图像技术并结合YOLOv5模型,设计了一种基于稀疏卷积的非对称特征聚合压缩算法,将原始图像通过编码减少图像存储所需空间以便于存储和传输,经过信息通道传输到解密器后,再将压缩图像进行解码复原以提升局部集合特征的学习效率。同时,通过融入通道空间注意力模块从特征图中得到注意力通道权重矩阵和空间权重矩阵,并通过权重矩阵判断特征图区域的重要程度,完成对YOLOv5模型处理效率的提升。【结果】将压缩恢复后的图像输入改进YOLOv5模型中,利用通道注意力模块(CAM)和空间注意力模块(SAM)分别对图像进行通道与空间上的注意力数据处理,通过全局平均池化和最大池化处理增强目标区域的特征,并引入空间注意力模块增强通道注意力对特征位置信息的关注,以检测出存在缺陷的设备,并通过实验验证了方法的有效性。【结论】以某架空线路的巡检图像数据集为基础,对检测方法开展训练与测试,结果表明,巡检图像经所提技术压缩后,尺寸明显减小,恢复后的图像尺寸较原图约降低了3 MB且未出现失真;改进YOLOv5模型具有较高的检测精确度,其检测准确率和时间分别为0.91和0.87 s,算法在降低图像尺寸提升检测速度的同时保证了检测准确率。 展开更多

关键词 架空输电线路 缺陷检测 图像压缩 改进YOLOv5模型 非对称特征聚合编解码网络 通道空间注意力模块 逐通道稀疏残差卷积 检测准确率

在线阅读 下载PDF 职称材料

复杂战场环境下改进YOLOv5军事目标识别算法研究 被引量：9

8

作者 宋晓茹 刘康 +2 位作者 高嵩 陈超波 阎坤 《兵工学报》 EI CAS CSCD 北大核心 2024年第3期934-947,共14页

复杂战场环境下军事目标识别技术是提升战场情报获取能力的基础和关键。针对当前军事目标识别技术在复杂战场环境下漏检误检率高、实时性差等问题,提出一种基于改进YOLOv5模型的PB-YOLO军事目标识别算法。将改进的目标识别算法对于陆战... 复杂战场环境下军事目标识别技术是提升战场情报获取能力的基础和关键。针对当前军事目标识别技术在复杂战场环境下漏检误检率高、实时性差等问题,提出一种基于改进YOLOv5模型的PB-YOLO军事目标识别算法。将改进的目标识别算法对于陆战场军事单元的识别锚框进行重新聚类,以提升模型对于目标大小适应度,加速模型收敛;采用通道-空间并行注意力机制,增加模型对复杂战场环境下目标特征信息与位置信息关注度;在特征融合网络部分使用BiFPN以提升模型对于特征的融合能力与速度;采用Alpha_IoU损失函数加速模型收敛,解决当真实框与预测框重合时IoU计算退化问题。实验结果表明,在自建军事目标数据集下,改进算法与主流目标识别算法相比,在保证模型空间复杂度的同时,mAP值达到了90.17%。消融实验对比结果表明,改进后网络较原模型精度提升11.57%,具有较好的识别性能,能够为战场情报获取提供有效的技术支撑。 展开更多

关键词 军事目标识别 通道-空间并行注意力机制 特征融合 损失函数

在线阅读 下载PDF 职称材料

基于CSLS-CycleGAN的侧扫声纳水下目标图像样本扩增法 被引量：2

9

作者 汤寓麟 王黎明 +3 位作者 余德荧 李厚朴 刘敏 张卫东 《系统工程与电子技术》 EI CSCD 北大核心 2024年第5期1514-1524,共11页

针对侧扫声纳水下目标图像稀缺,获取难度大、成本高,导致基于深度学习的目标检测模型性能差的问题,结合光学域类目标数据集丰富的现状,提出一种基于通道和空间注意力(channel and spatial attention,CSA)模块、最小二乘生成对抗生成网络... 针对侧扫声纳水下目标图像稀缺,获取难度大、成本高,导致基于深度学习的目标检测模型性能差的问题,结合光学域类目标数据集丰富的现状,提出一种基于通道和空间注意力(channel and spatial attention,CSA)模块、最小二乘生成对抗生成网络(least squares generative adversarial networks,LSGAN)及循环对抗生成网络(cycle generative adversarial networks,CycleGAN)的侧扫声纳水下目标图像样本扩增方法。首先,受CycleGAN的启发,设计基于循环一致性的单循环网络结构,保证模型的训练效率。然后,在生成器中融合CSA模块,减少信息弥散的同时增强跨纬度交互。最后,设计了基于LSGAN的损失函数,提高生成图像质量的同时提高训练稳定性。在船舶光学域数据集与侧扫声纳沉船数据集上进行实验,所提方法实现了光学-侧扫声纳样本间信息的高效、稳健转换以及大量侧扫声纳目标样本的扩增。同时,基于本文生成样本训练后的检测模型进行了水下目标检测,结果表明,使用本文样本扩增数据训练后的模型在少样本沉船目标检测的平均准确率达到了84.71%,证明了所提方法实现了零样本和小样本水下强代表性目标样本的高质量扩增,并为高性能水下目标检测模型构建提供了一种新的途径。 展开更多

关键词 样本扩增 侧扫声纳 循环生成对抗网络 通道和空间注意力模块 最小二乘生成对抗网络

在线阅读 下载PDF 职称材料

基于改进YOLOv5及危险区域判断的碰撞预警系统研究 被引量：2

10

作者 衣振兴 詹振飞 +2 位作者 毛青 孙博文 王菊 《汽车技术》 CSCD 北大核心 2024年第4期1-6,共6页

为提升碰撞预警系统对周围环境的感知能力,提出一种基于YOLOv5及危险区域判断的碰撞预警系统。首先,通过通道注意力模块提高模型的判别能力和准确性,然后,使用路径聚合网络与空间金字塔池化提高模型对多尺度特征的提取能力,最后,通过引... 为提升碰撞预警系统对周围环境的感知能力,提出一种基于YOLOv5及危险区域判断的碰撞预警系统。首先,通过通道注意力模块提高模型的判别能力和准确性,然后,使用路径聚合网络与空间金字塔池化提高模型对多尺度特征的提取能力,最后,通过引入预警激活区域过滤相对安全的目标,提高了预警系统的预警精确度。结果表明,引入预警激活区域后,与无预警激活区域相比,预警系统的准确度、精度和召回率分别提高20%、50%和26.7%,运行速度提升49.1%,进一步证明了方法的有效性。 展开更多

关键词 YOLOv5 通道注意力模块 路径聚合网络 空间金字塔池化 预警激活区域 碰撞预警系统

在线阅读 下载PDF 职称材料

基于重参数化多尺度融合网络的高效极暗光原始图像降噪 被引量：3

11

作者 魏恺轩 付莹 《计算机科学》 CSCD 北大核心 2022年第8期120-126,共7页

实用的暗光降噪增强解决方案往往需要具备计算速度快、内存效率高、能够实现视觉上高质量的降噪等优点。现有方法大多以提升降噪质量为目标,因此在速度和内存要求上有所折中,这在很大程度上限制了其实用性。文中提出了一种新的深度降噪... 实用的暗光降噪增强解决方案往往需要具备计算速度快、内存效率高、能够实现视觉上高质量的降噪等优点。现有方法大多以提升降噪质量为目标,因此在速度和内存要求上有所折中,这在很大程度上限制了其实用性。文中提出了一种新的深度降噪网络——重参数化多尺度融合网络,用于极暗光单张原始图像降噪,在不损失降噪性能的同时加快模型的推断速度并降低内存开销。具体地,在多尺度空间提取图像特征,利用轻量级的空间通道并行注意力模块动态自适应地聚焦于空间及通道中的核心特征;同时使用重参数化的卷积单元,在不增加任何推断计算量的情况下进一步丰富模型的表征能力。该模型在常见CPU上(如Intel i7-7700K)可以在1s左右恢复超高清4K分辨率图像,在普通GPU(如NVIDIA GTX 1080Ti)上以24帧率的速度运行,在几乎4倍快于现有先进方法(如UNet)的同时仍保持具有竞争力的恢复质量。 展开更多

关键词 重参数化卷积单元 多尺度融合 空间通道并行注意力模块 极暗光图像降噪

在线阅读 下载PDF 职称材料

改进残差结构的轻量级故障诊断方法 被引量：4

12

作者 刘芯志 彭成 +1 位作者 满君丰 刘翊 《计算机工程与设计》 北大核心 2022年第8期2303-2310,共8页

针对大型机械装备环境噪声复杂,深度学习网络层数过深导致的巨大计算开销以及故障诊断人工特征提取的复杂性,提出改进残差结构的轻量级SCARN模型。SCARN模型使用蓝图可分离卷积代替常规卷积层,减少大量参数,设计轻量级空间通道注意力结... 针对大型机械装备环境噪声复杂,深度学习网络层数过深导致的巨大计算开销以及故障诊断人工特征提取的复杂性,提出改进残差结构的轻量级SCARN模型。SCARN模型使用蓝图可分离卷积代替常规卷积层,减少大量参数,设计轻量级空间通道注意力结构,加强特征表达能力,改进深度残差收缩模块,提高模型复杂噪声场景的鲁棒性。通过增加不同幅值的高斯白噪声模拟轴承信号复杂环境场景。实验结果表明,该模型4种评价指标均优于对比算法,具有良好的抗噪性能。 展开更多

关键词 蓝图可分离卷积 空间通道注意力 深度残差收缩模块 轻量级 高斯白噪声

在线阅读 下载PDF 职称材料

基于2D CNN和Transformer的人体动作识别 被引量：17

13

作者 朱相华 智敏 殷雁君 《电子测量技术》 北大核心 2022年第15期123-129,共7页

人体动作识别是计算机视觉领域的研究热点之一,在人机交互、视频监控等方面具有深远的理论研究意义。为了解决2D CNN无法有效获取时间关系等问题,利用Transformer在建模长期依赖关系上的优势,引入Transformer架构并将其与2D CNN相结合... 人体动作识别是计算机视觉领域的研究热点之一,在人机交互、视频监控等方面具有深远的理论研究意义。为了解决2D CNN无法有效获取时间关系等问题,利用Transformer在建模长期依赖关系上的优势,引入Transformer架构并将其与2D CNN相结合用于人体动作识别,以更好地捕获上下文时间信息。首先使用融合通道-空间注意力模块的2D CNN提取强化的帧内空间特征,其次利用Transformer捕捉帧间的时间特征,最后应用MLP Head进行动作分类。实验结果表明在HMDB-51数据集和UCF-101数据集上分别达到了69.4%和95.5%的识别准确度。 展开更多

关键词 人体动作识别 2D CNN 通道-空间注意力模块 TRANSFORMER

在线阅读 下载PDF 职称材料

基于改进MobileNetV3烧结断面火焰图像识别 被引量：5

14

作者 梁秀满 安金铭 +2 位作者 曹晓华 曾凯 王福斌 《电子测量技术》 北大核心 2023年第14期182-187,共6页

烧结机尾断面火焰图像蕴含大量与烧结终点相关的特征信息,充分利用烧结火焰图像特征信息进行在线判断烧结终点状态,具有可行性及工程实际意义。针对烧结机尾断面火焰图像特征信息难以提取、识别精度低以及难以满足实时性等问题,提出一... 烧结机尾断面火焰图像蕴含大量与烧结终点相关的特征信息,充分利用烧结火焰图像特征信息进行在线判断烧结终点状态,具有可行性及工程实际意义。针对烧结机尾断面火焰图像特征信息难以提取、识别精度低以及难以满足实时性等问题,提出一种基于改进的MobileNetV3烧结断面火焰图像识别算法。以MobileNetV3作为烧结终点火焰状态特征信息提取的基础模型,引入注意力机制;改进通道注意力结构,减少特征损失提高识别精度;引入空间注意力机制,设计双分支通道空间注意力模块精确捕捉了红火区在烧结断面火焰图像中的位置和内容信息;引入数据增强和余弦退火学习率来提高模型的泛化能力,并采用冻结训练策略加速模型收敛。在烧结火焰数据集上的实验表明,该算法能够充分利用烧结火焰图像中的特征信息,识别准确率达到97.54%,较改进前提高了6.41%。 展开更多

关键词 双分支通道空间注意力模块 MobileNetV3 烧结火焰图像 余弦退火

在线阅读 下载PDF 职称材料