期刊文献+
共找到54,599篇文章
< 1 2 250 >
每页显示 20 50 100
CNN联合多尺度Transformer的高光谱与多光谱图像融合
1
作者 徐光宪 周伟杰 马飞 《红外技术》 北大核心 2025年第1期52-62,共11页
高光谱图像具有丰富的光谱信息,多光谱图像具有精妙的几何特征,融合高分辨率的多光谱图像和低分辨率的高光谱图像可以获取更为全面的遥感数据图像。然而现有的融合网络大多数基于卷积神经网络所设计,对于结构复杂的遥感类图像而言,依赖... 高光谱图像具有丰富的光谱信息,多光谱图像具有精妙的几何特征,融合高分辨率的多光谱图像和低分辨率的高光谱图像可以获取更为全面的遥感数据图像。然而现有的融合网络大多数基于卷积神经网络所设计,对于结构复杂的遥感类图像而言,依赖于核大小的卷积运算,容易导致特征融合阶段缺乏一些全局上下文信息。为保证图像融合的质量,本文提出了一种CNN(Convolutional Neural Network,CNN)联合多尺度transformer网络来实现多光谱和高光谱图像融合,结合了CNN的特征提取能力与transformer的全局建模优势。网络将融合任务分为了两个阶段,特征提取阶段和融合阶段。特征提取阶段,针对图像特性,基于卷积神经网络分别设计了不同模块用于特征提取。融合阶段,通过多尺度transformer模块从局部到全局建立信息间长距离关联,最后通过多层卷积层将特征映射为高分辨率的高光谱图像。经过在CAVE和Harvard数据集的实验结果表明,本文所提算法与其他经典算法相比,能更好地提升融合图像的质量。 展开更多
关键词 高光谱图像 多光谱图像 卷积神经网络 transformer 图像融合
在线阅读 下载PDF
一种融合Transformer的多尺度结构图像去模糊方法
2
作者 郭业才 阳刚 毛湘南 《电光与控制》 北大核心 2025年第3期62-68,共7页
针对现有图像去模糊模型对于全局特征信息学习的不足以及感受野受限的问题,提出一种改进的融合Transformer的多尺度结构图像去模糊方法。首先,为了提高模型对全局特征学习以及远程像素捕获的能力,设计了一个多特征多尺度融合模块,该模... 针对现有图像去模糊模型对于全局特征信息学习的不足以及感受野受限的问题,提出一种改进的融合Transformer的多尺度结构图像去模糊方法。首先,为了提高模型对全局特征学习以及远程像素捕获的能力,设计了一个多特征多尺度融合模块,该模块利用双旁路结构将局部特征信息和全局特征信息有效地结合起来,同时简化Transformer以提升计算效率;其次,为了缓解卷积操作缺乏输入内容自适应的缺点,将通道注意力引入到特征融合模块中来动态地学习有用信息;最后,在基准数据集GoPro上,所提方法取得的峰值信噪比为31.87 dB,结构相似度为0.952。实验结果表明,所提方法与主流方法相比能够有效地复原图像细节特征,并且能够提升后续计算机视觉任务的鲁棒性。 展开更多
关键词 图像去模糊 多尺度结构 transformer 卷积神经网络 注意力机制
在线阅读 下载PDF
多尺度特征提取的Transformer短期风电功率预测
3
作者 徐武 范鑫豪 +1 位作者 沈智方 刘洋 《太阳能学报》 北大核心 2025年第2期640-648,共9页
针对短期风电功率预测特征提取尺度单一问题,设计一种基于多尺度特征提取的Transformer短期风电功率预测模型(MTPNet)。首先,在Transformer构架的基础上,利用维数不变嵌入,设计多尺度特征提取网络挖掘风电功率序列本身时序特征,保证了... 针对短期风电功率预测特征提取尺度单一问题,设计一种基于多尺度特征提取的Transformer短期风电功率预测模型(MTPNet)。首先,在Transformer构架的基础上,利用维数不变嵌入,设计多尺度特征提取网络挖掘风电功率序列本身时序特征,保证了特征提取时维数不被破坏;其次,利用融合自注意力机制的长短期记忆网络挖掘气象条件与功率之间的全局依赖关系;最后,融合风电功率序列本身时序特征和气象条件依赖关系,实现短期风电功率预测。实例仿真结果表明,MTPNet模型预测精度得到提升;消融实验证明了模型各模块的可靠性和有效性,具有一定的实用价值。 展开更多
关键词 风电功率预测 transformer 注意力机制 特征提取 长短期记忆网络 维数不变嵌入层
在线阅读 下载PDF
基于音乐情感的ERoPE-Transformer音乐生成方法
4
作者 张玉梅 陈章杰 +2 位作者 吕小姣 延成岭 卢恒 《榆林学院学报》 2025年第2期78-86,共9页
针对音乐生成缺乏情感表达和交互性的问题,提出一种基于音乐情感的ERoPE-Transformer音乐生成方法。基于情感的旋转位置编码Transformer模型(Emotion Rotary Position Embedding Transformer,ERoPE-Transformer)以CP Transformer模型为... 针对音乐生成缺乏情感表达和交互性的问题,提出一种基于音乐情感的ERoPE-Transformer音乐生成方法。基于情感的旋转位置编码Transformer模型(Emotion Rotary Position Embedding Transformer,ERoPE-Transformer)以CP Transformer模型为基础模型,在CP编码的基础上加入情感标签,将音乐序列转换成离散的符号序列,并且引入旋转位置编码,提高模型的外推性,更好地捕获长序列建模中的音乐信息和情感特征。最后通过客观和主观实验对音乐质量和情感效果进行验证,与其他常用的音乐生成模型进行比较,包括Transformer-XL模型、CP Transformer模型和CEG-Transformer模型。客观实验从音高、节奏和音乐结构三个方面评价音乐质量,同时采用DUPSO-DSKSVM民歌快速分类算法对音乐情感进行分类,以验证生成音乐的情感效果。主观实验通过人耳听力测试从不同方面对音乐质量进行打分评价,同时使用人耳听力测试对音乐的情感效果进行评价。实验结果表明,本文提出的ERoPE-Transformer模型在音乐质量和情感表达上都有很好的效果,优于其他三种方法。 展开更多
关键词 情感音乐生成 transformer网络 旋转位置编码
在线阅读 下载PDF
基于轻量化Transformer的高效图像超分辨率算法研究
5
作者 高翔 王凡 胡小鹏 《大连理工大学学报》 北大核心 2025年第2期212-220,共9页
基于Transformer的算法在图像超分辨率领域取得的重要性能突破,得益于其捕捉图像中长程依赖关系的强大能力.然而,繁重的计算成本和高GPU显存消耗限制了其在实际中的应用,于是提出了一种基于轻量化Transformer的高效图像超分辨率算法——... 基于Transformer的算法在图像超分辨率领域取得的重要性能突破,得益于其捕捉图像中长程依赖关系的强大能力.然而,繁重的计算成本和高GPU显存消耗限制了其在实际中的应用,于是提出了一种基于轻量化Transformer的高效图像超分辨率算法——LISRFormer.该算法引入轻量化Transformer,在捕捉长程依赖关系的同时将复杂度从现有的二次方降为线性.通过跨通道计算交叉协方差,得到可应用于大尺寸图像的转置注意力图.层归一化仅作用于查询和键分支,以保留重要的输入特征.此外,还设计了一种高效门控深度卷积前馈网络(EGDFN),作为Transformer中的前馈网络,进一步恢复准确的纹理信息.在基准数据集上进行的大量定量和定性实验表明,该算法在计算成本和图像重建质量方面优于现有轻量化图像超分辨率算法. 展开更多
关键词 图像超分辨率 transformer 轻量化 注意力
在线阅读 下载PDF
基于多尺度胶囊Swin Transformer的SAR图像目标识别方法
6
作者 侯宇超 王洁 +4 位作者 李洪涛 郝岩 段晓旗 黄凯文 田有亮 《通信学报》 北大核心 2025年第3期274-290,共17页
通过协同胶囊单元的语义特征编码和Swin Transformer的上下文特征图建模优势相结合,提出了一种多尺度胶囊Swin Transformer网络(MSCSTN),将胶囊编码和Swin Transformer联合应用于SAR图像目标识别。该网络集成3个并行的胶囊Swin Transfor... 通过协同胶囊单元的语义特征编码和Swin Transformer的上下文特征图建模优势相结合,提出了一种多尺度胶囊Swin Transformer网络(MSCSTN),将胶囊编码和Swin Transformer联合应用于SAR图像目标识别。该网络集成3个并行的胶囊Swin Transformer编码结构,融合后对输入图像进行分类。每个结构通过基于膨胀卷积切片划分的胶囊令牌编码器和三维胶囊Swin Transformer模块构建,能捕获更深层次、更广泛的语义特征。在运动和静止目标的获取与识别(MSTAR)数据集及FUSAR-Ship数据集上的实验结果表明,MSCSTN在各种测试条件下均优于其他方法。结果表明,MSCSTN展现了良好的识别性能、泛化能力和应用潜力。 展开更多
关键词 膨胀卷积切片分区 胶囊令牌编码器 三维胶囊Swin transformer模块 多尺度胶囊Swin transformer网络 SAR图像目标识别
在线阅读 下载PDF
基于对比学习和预训练Transformer的流量隐匿数据检测方法
7
作者 何帅 张京超 +3 位作者 徐笛 江帅 郭晓威 付才 《通信学报》 北大核心 2025年第3期221-233,共13页
为解决海量加密流量难表征、恶意行为难感知以及隐私数据归属难识别的问题,提出了一种基于对比学习和预训练Transformer的流量隐匿数据检测方法。考虑加密流量的高度复杂性、非结构化的特点以及传统下游任务的微调方法在加密流量领域的... 为解决海量加密流量难表征、恶意行为难感知以及隐私数据归属难识别的问题,提出了一种基于对比学习和预训练Transformer的流量隐匿数据检测方法。考虑加密流量的高度复杂性、非结构化的特点以及传统下游任务的微调方法在加密流量领域的效果不佳的挑战,数据报文通过提取数据包序列被转换为类似自然语言处理中的词元。然后利用预训练Transformer模型将浅层表征转换为适用于多种加密流量下游任务的通用流量表征。通过将流量中的隐匿数据检测问题转换为相似性分析问题,基于对比学习的思想设计了一种差异性敏感的Transformer模型架构,同时使用样本的正负样本对增强模型对流量差异性的感知能力,并提出使用信息对比估计作为加密流量下游任务微调的损失函数。实验结果表明,所提方法在检测准确率、精确率、召回率以及F1分数等方面优于主流方法。 展开更多
关键词 流量隐匿数据检测 预训练transformer模型 对比学习 加密流量
在线阅读 下载PDF
基于Swin-AK Transformer的智能手机拍摄图像质量评价方法
8
作者 侯国鹏 董武 +4 位作者 陆利坤 周子镱 马倩 柏振 郑晟辉 《光电工程》 北大核心 2025年第1期116-130,共15页
本文提出了一种基于双交叉注意力融合的Swin-AK Transformer(Swin Transformer based on alterable kernel convolution)和手工特征相结合的智能手机拍摄图像质量评价方法。首先,提取了影响图像质量的手工特征,这些特征可以捕捉到图像... 本文提出了一种基于双交叉注意力融合的Swin-AK Transformer(Swin Transformer based on alterable kernel convolution)和手工特征相结合的智能手机拍摄图像质量评价方法。首先,提取了影响图像质量的手工特征,这些特征可以捕捉到图像中细微的视觉变化;其次,提出了Swin-AK Transformer,增强了模型对局部信息的提取和处理能力。此外,本文设计了双交叉注意力融合模块,结合空间注意力和通道注意力机制,融合了手工特征与深度特征,实现了更加精确的图像质量预测。实验结果表明,在SPAQ和LIVE-C数据集上,皮尔森线性相关系数分别达到0.932和0.885,斯皮尔曼等级排序相关系数分别达到0.929和0.858。上述结果证明了本文提出的方法能够有效地预测智能手机拍摄图像的质量。 展开更多
关键词 图像质量评价 智能手机拍摄图像 Swin transformer 手工特征 空间注意力 通道注意力
在线阅读 下载PDF
一种基于Transformer特征金字塔的自蒸馏目标分割方法
9
作者 陈雷 杨吉斌 +5 位作者 曹铁勇 郑云飞 王杨 张波 林振华 李文斌 《电子与信息学报》 北大核心 2025年第2期551-560,共10页
为在不增加网络参数规模的情况下提升目标分割性能,该文提出一种基于Transformer特征金字塔的自蒸馏目标分割方法,提升了Transformer分割模型的实用性。首先,以Swin Transformer为主干网构建了像素级的目标分割模型;然后,设计了适合Tran... 为在不增加网络参数规模的情况下提升目标分割性能,该文提出一种基于Transformer特征金字塔的自蒸馏目标分割方法,提升了Transformer分割模型的实用性。首先,以Swin Transformer为主干网构建了像素级的目标分割模型;然后,设计了适合Transformer的蒸馏辅助分支,该分支由密集连接空间空洞金字塔(Dense ASPP)、相邻特征融合模块(AFFM)和得分模块构建而成,通过自蒸馏方式指导主干网络学习蒸馏知识;最后,利用自上而下的学习策略指导模型学习,以保证自蒸馏学习的一致性。实验表明,在4个公开数据集上所提方法均能有效提升目标分割精度,在伪装目标检测(COD)数据集上比次优的Transformer知识蒸馏(TKD)方法的Fβ值提高了约2.29%。 展开更多
关键词 自蒸馏 transformer 目标分割 特征金字塔
在线阅读 下载PDF
基于模糊控制与Transformer的食品智能温控方法
10
作者 由春辉 李如成 +1 位作者 刘艳飞 赵峰 《食品与机械》 北大核心 2025年第1期120-125,共6页
[目的]针对传统的温控方法(如PID控制)在应对动态、多变量复杂场景时存在响应迟缓、超调显著以及无法充分利用预测信息的局限性,提出一种结合模糊控制与Transformer预测模型的食品智能温控方法,旨在提高方法的温控精度、响应速度以及能... [目的]针对传统的温控方法(如PID控制)在应对动态、多变量复杂场景时存在响应迟缓、超调显著以及无法充分利用预测信息的局限性,提出一种结合模糊控制与Transformer预测模型的食品智能温控方法,旨在提高方法的温控精度、响应速度以及能耗效率。[方法]利用Transformer对未来多时间步的环境温度和目标温度进行趋势预测,基于模糊逻辑进行实时的温度偏差控制,并以披萨坯的温控为例进行实验验证。[结果]试验提出的智能温控方法在预测和控制性能方面均优于传统方法。与其他两种预测模型对比,在3种时间序列预测中,Transformer模型的平均绝对误差(MAE)降低了21.30%(从0.19℃降低到0.15℃),均方根误差(RMSE)降低了16.67%~25.00%。在冷藏库温控场景中,与其他4种方法相比,试验方法的温度超调量降低了15.73%~39.27%,响应时间缩短了14.24%~33.52%,稳态误差减小至33.30%~62.50%。在烘焙炉温控场景中,与其他4种方法相比,试验方法的温度超调量降低了11.24%~33.05%,响应时间缩短了11.54%~33.03%,稳态误差减小至40.00%~71.43%。[结论]结合模糊控制与Transformer的智能温控方法在复杂食品贮藏与加工场景下表现出卓越的预测精度和控制效果,相较于其他方法具有显著的性能优势。 展开更多
关键词 模糊控制 transformer 智能温控 食品保鲜 预测控制
在线阅读 下载PDF
基于条件先验Swin Transformer的人脸图像超分辨重建
11
作者 郑方亮 王延年 +1 位作者 廉继红 阮佩 《电子科技》 2025年第2期35-41,共7页
针对现有基于Swin Transformer图像超分辨模型未对人脸图像进行预处理导致最终超分辨结果不佳的问题,文中提出了基于条件先验Swin Transformer的人脸图像超分辨重建方法。该方法利用人脸解析图融合Swin Transformer模型对人脸图像进行... 针对现有基于Swin Transformer图像超分辨模型未对人脸图像进行预处理导致最终超分辨结果不佳的问题,文中提出了基于条件先验Swin Transformer的人脸图像超分辨重建方法。该方法利用人脸解析图融合Swin Transformer模型对人脸图像进行预处理,使用条件先验对人脸超分问题进行优化,采用人脸解析图Parsing Map进行约束从而得到更有价值的先验信息。在深层特征提取阶段,将通道空间注意力机制融合Swin Transformer模块对特征组调整进行速度与精度的平衡。实验结果表明,所提方法在测试集上的峰值信噪比(Peak Signal-to-Noise Ratio,PSNR)为32.21 dB,相较于现有模型具有一定提升。实验证明改进模型更适用于人脸,所生成结果更清晰、更真实,能够还原出更多人脸图像纹理细节。 展开更多
关键词 图像超分辨 Swin transformer 深度学习 条件先验 人脸超分辨 注意力机制 transformer 图像处理 超分重建
在线阅读 下载PDF
基于Swin Transformer和PJF颜色空间的火灾检测算法
12
作者 杜丽霞 梁晓萍 《现代电子技术》 北大核心 2025年第5期147-152,共6页
为了更加准确和可靠地在监控图像中对火灾进行早期监测,以便辅助火焰检测仪器更加高效和准确地检测火焰,文中基于Transformer算法和PJF颜色空间,设计了一种深度学习的火灾图像检测算法。首先,对数据集中的火灾图像数据进行预处理,将图像... 为了更加准确和可靠地在监控图像中对火灾进行早期监测,以便辅助火焰检测仪器更加高效和准确地检测火焰,文中基于Transformer算法和PJF颜色空间,设计了一种深度学习的火灾图像检测算法。首先,对数据集中的火灾图像数据进行预处理,将图像从RGB颜色空间转化为PJF颜色空间,突出显示图像的火焰区域;然后,将预处理后的图像输入到Swin Transformer网络中,过程中采用注意力机制、移动窗口机制、相对位置偏移机制对火灾图像进行特征提取;最后,将提取的图像特征送入全连接层,获取火灾图像的检测结果。实验结果表明:该算法在测试数据集的准确率达到了98.6%。该算法同时采用迁移学习的方法,测试数据集的准确率提升至99.1%,对提高广西森林火灾防控监督效能和实现深度学习智能监测森林和城市视频火灾情况具有现实意义。 展开更多
关键词 transformer PJF颜色空间 火灾检测 图像分类 注意力机制 知识迁移
在线阅读 下载PDF
基于VGAE与Transformer的机器人自主导航优化算法
13
作者 唐敏 朱耀东 +2 位作者 胡蝶 朱永梁 樊紫岩 《微电子学与计算机》 2025年第2期59-67,共9页
在复杂的动态环境中实现智能体的无碰撞自主导航是一项人工智能的重要课题,然而在移动机器人面对多人环境下时,现有的基于深度强化学习方法导航容易出现碰撞、机器人冻结等问题。为实现机器人稳定的自主导航,文章提出利用变分图自编码器... 在复杂的动态环境中实现智能体的无碰撞自主导航是一项人工智能的重要课题,然而在移动机器人面对多人环境下时,现有的基于深度强化学习方法导航容易出现碰撞、机器人冻结等问题。为实现机器人稳定的自主导航,文章提出利用变分图自编码器(Variational Graph Auto-Encoder,VGAE)学习每个代理之间状态的潜在特征,再将潜在特征输入Transformer建模更加全局的空间交互,同时利用强化学习找到最优导航策略。该算法能够计算生成关系图,更好地对人类未来运动能力和随时间演变的动态位置变换进行建模。实验结果表明,算法在连续导航测试中,与开源仿真场景CrowdNav导航成功率与碰撞率相当,导航时间和平均累积奖励皆有所提升,相比现有的导航算法,该算法应用于机器人在人群拥挤环境下的自主导航更加有效。 展开更多
关键词 机器人 导航 深度强化学习 状态预测 transformer
在线阅读 下载PDF
基于Transformer和LSTM算法的河套灌区土壤水分预测研究
14
作者 王钥 郑方元 +3 位作者 雍婷 查元源 周龙才 徐祥森 《节水灌溉》 北大核心 2025年第2期1-8,14,共9页
土壤水是土壤中的关键指标,其变化直接影响着作物生长,并影响着水资源利用的管理决策。因此,准确地预测土壤水分有利于对农业水资源进行合理的规划利用。使用深度学习算法进行土壤水分预测在当前的农业、水资源管理和生态学等领域具有... 土壤水是土壤中的关键指标,其变化直接影响着作物生长,并影响着水资源利用的管理决策。因此,准确地预测土壤水分有利于对农业水资源进行合理的规划利用。使用深度学习算法进行土壤水分预测在当前的农业、水资源管理和生态学等领域具有重要性。深度学习算法能够从大规模数据中学习土壤水分的复杂模式和时空关系,为土壤水的准确预测提供了新的机会。为了探索新兴深度学习方法Transformer在土壤水分预测中的有效性,选择河套灌区义长灌域为研究区域,利用地下水位观测数据、气象数据、SMAP土壤水数据等作为训练数据,设置了1、5、10 d共3种数据滞后情况,验证Transformer算法在土壤水时间序列预测任务中的有效性,并与目前广泛应用于时序预测任务中的LSTM进行对比。研究表明Transformer在土壤水分时间序列预测任务中具有更好的预测能力,相比于LSTM,其R^(2)平均提升约0.181,RMSE平均下降27.6%。同时,Transformer在应对滞后变化带来的影响时更具鲁棒性,在3种数据滞后情况下Transformer的预测平均R^(2)分别比LSTM高出了0.121、0.167、0.256,站点平均RMSE分别降低了30.7%、28.6%、23.5%。此外,Transformer对于土壤水序列中的非线性信息的提取能力更强,对于高频振幅的土壤水时间序列Transformer拥有更强的预测能力。 展开更多
关键词 土壤水分预测 深度学习 时序预测 transformer模型 LSTM模型 数据滞后
在线阅读 下载PDF
一种时间-外观能量扩散Transformer的无监督视频异常检测
15
作者 潘振鹏 李志军 +3 位作者 薛超然 黎鑫 吴克伟 谢昭 《微电子学与计算机》 2025年第2期68-76,共9页
无监督视频异常检测,关注从只有视频级标签的视频中,检测出异常事件发生的视频帧。由于没有视频帧标签,会造成该视频中的正常视频帧和异常视频帧难以区分。为了对正常和异常视频帧进行外观和外观特征分析,本文提出一种用于无监督视频异... 无监督视频异常检测,关注从只有视频级标签的视频中,检测出异常事件发生的视频帧。由于没有视频帧标签,会造成该视频中的正常视频帧和异常视频帧难以区分。为了对正常和异常视频帧进行外观和外观特征分析,本文提出一种用于无监督视频异常检测的时间-外观扩散Transformer。该模型中,Transformer编码器用于提取视频帧特征。时间能量扩散模块,使用高斯噪声对时间特征进行扩散,生成加噪后的时间特征集合。该模块使用单步的Monte Carlo采样方法选择出加噪样本,根据加噪样本和原始样本的余弦相似度和均方误差,判断加噪样本是否可信。该模块进一步设计了单次迭代的加噪和多次跨步的采样过程,来充分学习样本特征的更为复杂的时间变化情况。外观能量扩散模块,对外观特征进行单次迭代的加噪和多次跨步的采样过程,学习复杂的外观特征变化。上述的时间、外观能量扩散模块,描述视频帧可信的时间-外观特征,具有较好的互补性,能够有效增强正常和异常样本的区分能力。Transformer解码器用于异常分数的预测。在CUHK Avenue、ShanghaiTech、UCF-Crime和UBnormal这4个数据集上的实验表明,时间-外观扩散Transformer模型优于现有的无监督视频异常检测方法。 展开更多
关键词 无监督视频异常检测 扩散模型 transformer
在线阅读 下载PDF
融合Transformer与1D-CNN的日志异常检测方法
16
作者 赵海鹏 容晓峰 《西安工业大学学报》 2025年第1期138-148,共11页
为了解决现有日志异常检测方法在均衡日志序列的全局趋势和局部特征方面的不足,提出一种基于自编码器的无监督日志异常检测方法。该方法采用多层Transformer堆叠组成编码器,提取具备完整性和全局依赖性的多层融合特征,并通过1D-CNN与全... 为了解决现有日志异常检测方法在均衡日志序列的全局趋势和局部特征方面的不足,提出一种基于自编码器的无监督日志异常检测方法。该方法采用多层Transformer堆叠组成编码器,提取具备完整性和全局依赖性的多层融合特征,并通过1D-CNN与全连接神经网络构成的解码器聚焦数据的局部特征,重构输入数据。实验结果表明,该方法能够准确表示并识别数据特征,分别在三种公开数据集中取得99.7%、97.5%和96.4%的最高F 1值,较基准方法LogAnomaly平均提高7.9%。此外,通过消融实验验证了该方法在特征提取模块的有效性及其对实验结果的影响。 展开更多
关键词 日志数据 异常检测 自编码器 transformer 融合特征
在线阅读 下载PDF
基于DCNN-Transformer模型的XSS攻击检测方法
17
作者 何志伟 高大鹏 《信息技术》 2025年第3期93-100,共8页
为进一步提高XSS攻击的检测效果,文中提出一种基于DCNN-Transformer模型的XSS攻击检测方法。通过对收集的数据依次进行解码、规范化、分词、TF-IDF选词、构建词典和编码预处理,用于模型的训练和测试。文中提出的DCNN-Transformer模型引... 为进一步提高XSS攻击的检测效果,文中提出一种基于DCNN-Transformer模型的XSS攻击检测方法。通过对收集的数据依次进行解码、规范化、分词、TF-IDF选词、构建词典和编码预处理,用于模型的训练和测试。文中提出的DCNN-Transformer模型引入了Embedding层,还综合了一维深度卷积神经网络快速处理序列数据和Transformer模型并行处理序列数据及学习序列元素间依赖关系的能力。实验结果表明,DCNN-Transformer模型相比于LSTM、GRU、DCNN和DCNN-GRU模型,收敛速度最快且效果更优,准确率、召回率和f1值最高,模型轻量、检测速度快,综合表现显著优于其他4个模型,为XSS攻击检测提供了一个更优的方法。 展开更多
关键词 XSS攻击检测 卷积神经网络 transformer Embedding层 TF-IDF
在线阅读 下载PDF
基于Transformer的管制员工作负荷预测
18
作者 关雪琦 卢朝阳 +1 位作者 苟利鹏 张慧子 《航空计算技术》 2025年第1期54-58,共5页
由于民航业持续高速发展,伴随着空中交通流量的快速增长,管制员的工作效率与空中交通流量之间的不平衡问题日益凸显。针对现有管制员负荷计算与预测方法存在无法准确长期预测的问题,提出一种基于Transformer模型的管制员工作负荷预测模... 由于民航业持续高速发展,伴随着空中交通流量的快速增长,管制员的工作效率与空中交通流量之间的不平衡问题日益凸显。针对现有管制员负荷计算与预测方法存在无法准确长期预测的问题,提出一种基于Transformer模型的管制员工作负荷预测模型。该方法在循环神经网络捕捉管制员工作负荷短期依赖特征的基础上,通过编码器-解码器结构有效地捕捉了其长期依赖特征,提取并组合多个特征序列,实现对管制员工作负荷的准确预测。实验结果表明,Transformer模型相比于目前最普遍应用的SVR、随机森林、LightGBM模型,MAPE分别降低了21.47%、12.91%、9.25%,能取得更好的预测效果;该方法在管制员工作负荷预测中具有更加良好的性能和准确性。 展开更多
关键词 空中交通管制 管制员 工作负荷预测 transformer模型 时间序列
在线阅读 下载PDF
基于光流引导Transformer模型的重载铁路监控压缩视频质量增强方法
19
作者 王文斌 宋宗莹 +2 位作者 柴雪松 凌烈鹏 李健超 《铁路计算机应用》 2025年第1期27-33,共7页
重载铁路视频监控系统的不断扩增,使得铁路视频数据急剧增长,对数据存储和传输等能力的要求更高。为此,提出了一种基于光流引导Transformer模型的重载铁路监控压缩视频质量增强方法。通过光流补全网络提取帧间运动信息,指导Transformer... 重载铁路视频监控系统的不断扩增,使得铁路视频数据急剧增长,对数据存储和传输等能力的要求更高。为此,提出了一种基于光流引导Transformer模型的重载铁路监控压缩视频质量增强方法。通过光流补全网络提取帧间运动信息,指导Transformer模型关注视频序列中的重要特征;结合多头自注意力机制和时间空间特征融合策略,有效提取视频帧的时空特征;通过在Transformer模型结构中融入光流引导的特征增强模块,进一步提升视频质量增强的准确性和效率。基于实际采集的重载铁路监控视频数据集的实验结果表明,该方法显著优于现有的视频质量增强方法,具有实用价值。 展开更多
关键词 重载铁路 视频增强 光流 transformer模型 多头自注意力机制
在线阅读 下载PDF
基于Transformer的多模态个性化联邦学习
20
作者 曹行健 孙罡 虞红芳 《电子科技大学学报》 北大核心 2025年第2期242-249,共8页
在当前物联网飞速发展的背景下,处理来自各种信息采集设备的多模态数据,尤其是视觉、听觉信号和文本等多元感官信息的数据,对于机器学习落地应用至关重要。Transformer架构和其衍生的大模型在自然语言处理和计算机视觉中的卓越表现推动... 在当前物联网飞速发展的背景下,处理来自各种信息采集设备的多模态数据,尤其是视觉、听觉信号和文本等多元感官信息的数据,对于机器学习落地应用至关重要。Transformer架构和其衍生的大模型在自然语言处理和计算机视觉中的卓越表现推动了对复杂多模态数据处理能力的追求。然而,这也带来了数据隐私安全和满足个性化需求的挑战。为解决这些挑战,提出一种基于多模态Transformer的个性化联邦学习方法,它支持异构数据模态的联邦学习,在保护参与方数据隐私的前提下为其训练更符合其个性化需求的多模态模型。该方法显著提升了多模态个性化模型的性能:相较于对比方法,准确率提高了15%,这标志着多模态个性化联邦学习在应用场景限制上的突破。 展开更多
关键词 多模态 transformer 联邦学习 个性化
在线阅读 下载PDF
上一页 1 2 250 下一页 到第
使用帮助 返回顶部