期刊文献+
共找到151,747篇文章
< 1 2 250 >
每页显示 20 50 100
基于卷积和Transformer神经网络架构搜索的脑胶质瘤多组织分割网络 被引量:1
1
作者 陶永鹏 柏诗淇 周正文 《计算机应用》 北大核心 2025年第7期2378-2386,共9页
脑胶质瘤在磁共振成像(MRI)图像中的形状大小变化大、边界模糊且组织结构复杂,这些特点导致了脑肿瘤分割任务的挑战性,通常这种任务需要具备深厚专业知识的研究人员设计复杂定制的网络模型才能完成。这一过程不仅耗时,而且需要大量的人... 脑胶质瘤在磁共振成像(MRI)图像中的形状大小变化大、边界模糊且组织结构复杂,这些特点导致了脑肿瘤分割任务的挑战性,通常这种任务需要具备深厚专业知识的研究人员设计复杂定制的网络模型才能完成。这一过程不仅耗时,而且需要大量的人力资源。为了简化网络设计流程并自动获取最优的网络结构,提出一种基于卷积和Transformer神经网络架构搜索的脑胶质瘤多组织分割网络(NASCT-Net),以在构建用于多模态MRI脑肿瘤分割的网络架构的过程中,提高分割的精确度。首先,将神经架构搜索(NAS)技术应用于编码器的构建,形成可堆叠的NAS编解码模块,以自动优化适用于脑胶质瘤精准分割的网络架构;其次,在编码器底层集成基于Transformer的特征编码模块,以增强对肿瘤各组之间的相对位置和全局信息的表征能力;最后,通过构建体积加权Dice损失函数(VWDiceLoss),解决前景与背景的不平衡问题。在BraTS2019脑肿瘤数据集上与Swin-Unet等方法进行比较的实验结果表明,NASCT-Net的平均Dice相似系数(DSC)提高了0.009,同时平均Hausdorff距离(HD)降低了1.831 mm,验证了NASCT-Net在提高脑肿瘤多组织分割精度方面的有效性。 展开更多
关键词 网络架构 神经网络架构搜索 脑肿瘤分割 卷积神经网络 transformer
在线阅读 下载PDF
基于Transformer神经网络的钻井工况识别方法
2
作者 魏刚 肖林 +3 位作者 李爽 李明明 高耸 高小永 《石油钻探技术》 北大核心 2025年第4期33-41,共9页
为解决传统钻井工况识别方法依赖专家经验与阈值判断、忽视时序依赖且类别和精度受限的问题,提出了一种基于Transformer神经网络的钻井工况高效识别方法。该方法利用多头自注意力机制和残差连接提取时序数据的长时序列依赖特征,并在编... 为解决传统钻井工况识别方法依赖专家经验与阈值判断、忽视时序依赖且类别和精度受限的问题,提出了一种基于Transformer神经网络的钻井工况高效识别方法。该方法利用多头自注意力机制和残差连接提取时序数据的长时序列依赖特征,并在编码器输出端接入前馈全连接分类器进行工况分类;训练采用交叉熵损失和Adam优化器,以得到最优模型参数。利用海上钻井历史数据集对比了CNN,LSTM,CNN−LSTM和Transformer等4种模型的性能,结果表明:所有模型损失曲线均能收敛,但CNN模型和CNN−LSTM模型在100次迭代内收敛缓慢且波动较大,而Transformer模型可迅速稳定收敛;加入衍生特征参数后进一步提升了模型的识别精度与泛化能力。研究结果验证了识别方法在长时序多类别特征捕获方面的优势,为钻井作业工况的高效精准识别提供了创新解决方案,对提升钻井监督智能化水平具有重要工程价值。 展开更多
关键词 钻井工况 识别方法 特征提取 时间依赖性 transformer模型
在线阅读 下载PDF
基于图注意力Transformer神经网络的信用卡欺诈检测模型
3
作者 杨帆 邹窈 +3 位作者 朱明志 马振伟 程大伟 蒋昌俊 《计算机应用》 CSCD 北大核心 2024年第8期2634-2642,共9页
针对现有模型无法精准识别复杂多变的团伙诈骗模式的问题,提出一种新型实用的基于复杂交易图谱的信用卡反欺诈检测模型。首先,利用用户原始的交易信息构造关联交易图谱;随后,使用图自注意力Transformer神经网络模块直接从交易网络中挖... 针对现有模型无法精准识别复杂多变的团伙诈骗模式的问题,提出一种新型实用的基于复杂交易图谱的信用卡反欺诈检测模型。首先,利用用户原始的交易信息构造关联交易图谱;随后,使用图自注意力Transformer神经网络模块直接从交易网络中挖掘团伙欺诈特征,无需构建繁冗的特征工程;最后,通过欺诈预测网络联合优化图谱中的拓扑模式和时序交易模式,实现对欺诈交易的高精度检测。在信用卡交易数据上的反欺诈实验结果表明,所提模型在全部评价指标上均优于7个对比的基线模型:在交易欺诈检测任务中,平均精度(AP)比基准图注意力神经网络(GAT)提升了20%,ROC曲线下方面积(AUC)平均提升了2.7%,验证了所提模型在信用卡欺诈交易检测中的有效性。 展开更多
关键词 信用卡交易 欺诈检测 神经网络 自注意力transformer 异构图
在线阅读 下载PDF
基于Transformer神经网络的瞬变电磁法数值模拟 被引量:6
4
作者 王云宏 《煤田地质与勘探》 EI CAS CSCD 北大核心 2024年第11期151-159,共9页
【目的】基于深度学习的瞬变电磁正反演方法属于数据驱动型方法,需要大规模的数值模拟结果作为监督数据对神经网络进行训练和评估。传统的时域有限差分法进行瞬变电磁数值模拟需要迭代求解时域麦克斯韦方程,耗时严重,且耗费计算资源庞大... 【目的】基于深度学习的瞬变电磁正反演方法属于数据驱动型方法,需要大规模的数值模拟结果作为监督数据对神经网络进行训练和评估。传统的时域有限差分法进行瞬变电磁数值模拟需要迭代求解时域麦克斯韦方程,耗时严重,且耗费计算资源庞大,难以满足基于深度学习的瞬变电磁反演对数据的需求。【方法】为此,引入深度学习方法进行瞬变电磁数值模拟。以Transformer神经网络架构为基础,采用编解码结构(encoder-decoder)设计了基于深度学习的瞬变电磁数值模拟神经网络,该网络包含三维网格剖分模块、分块嵌入模块(patch embedding)、编码器模块(Transformer encoder)、解码器模块(linear decoder) 4部分,输入为模型地电参数,输出为该模型对应的回线源中心点瞬变电磁响应。采用带动量的随机梯度下降算法与Adam自适应学习率算法相结合的优化策略,在搭载4张英伟达V100显卡的服务器上进行了200个周期的训练,获得了瞬变电磁法数值模拟深度学习网络。【结果和结论】利用训练后的网络分别对均匀半空间模型、层状模型、板状体模型以及三维体模型4种类型的地电模型回线源瞬变电磁响应进行实时预测,验证集测试结果表明:计算得到的关断时间后的数值模拟结果与采用解析解、线性数字滤波解和时域有限差分法数值模拟结果平均相关误差小于2%;同时,基于神经网络的瞬变电磁数值模拟计算耗时不到1 s,实现了瞬变电磁数值模拟的快速精确计算,为后续基于深度学习的瞬变电磁反演研究奠定了理论基础与数据支撑。 展开更多
关键词 瞬变电磁 深度学习 神经网络 数值模拟
在线阅读 下载PDF
基于Transformer神经网络的锂电池热失控多数据融合探测 被引量:1
5
作者 丁沐涛 郭世伟 +1 位作者 单志林 张启兴 《消防科学与技术》 CAS 北大核心 2024年第7期937-945,共9页
为满足对锂离子电池热失控高效准确探测的需求,设计了一种锂电池热失控试验平台,并利用STM32F103ZET6单片机连接了CO、CO_(2)、H2和热敏电阻NTC共4种传感器,实时采集特征参量。同时,利用PyroSim模拟试验环境,生成高质量的模拟数据,以补... 为满足对锂离子电池热失控高效准确探测的需求,设计了一种锂电池热失控试验平台,并利用STM32F103ZET6单片机连接了CO、CO_(2)、H2和热敏电阻NTC共4种传感器,实时采集特征参量。同时,利用PyroSim模拟试验环境,生成高质量的模拟数据,以补充试验数据。基于PyTorch平台,设计了一个Transformer神经网络,能够输出锂电池的正常、预警和热失控3种状态。通过使用试验数据和模拟数据进行训练,实现了对锂电池热失控的融合探测,相比于其他算法有一定的优势。 展开更多
关键词 热失控 特征参量 PyroSim PyTorch Trans⁃former 数据融合
在线阅读 下载PDF
基于Transformer神经网络的滚动轴承故障类型识别 被引量:18
6
作者 邱大伟 刘子辰 +3 位作者 周一青 龙隆 谭雯雯 曹欢 《高技术通讯》 EI CAS 2021年第1期1-11,共11页
工程应用中的滚动轴承故障类型识别要求同时具有较高的识别准确度和时间效率,基于上述需求提出基于Transformer神经网络的滚动轴承故障类型识别方法。所提方法结合小波包变换时频域能量特征和快速傅里叶变换频域特征生成满足Transforme... 工程应用中的滚动轴承故障类型识别要求同时具有较高的识别准确度和时间效率,基于上述需求提出基于Transformer神经网络的滚动轴承故障类型识别方法。所提方法结合小波包变换时频域能量特征和快速傅里叶变换频域特征生成满足Transformer神经网络的输入样本矩阵,解决Transformer神经网络的输入问题。同时,提出应用于滚动轴承故障类型识别的归一化位置编码方法,解决Transformer神经网络在滚动轴承故障分析领域的位置编码问题。在此基础上,提出Transformer神经网络双向输入样本矩阵处理机制和算法训练过程中错误样本权重增强机制,提升所提方法的鲁棒性。使用KAt数据中心的滚动轴承数据集验证所提方法的识别性能,与现有常用深度学习方法相比,所提方法在时间效率和准确度性能上均有一定的优势,其中,准确度能够提升11%以上,单个样本的平均处理时间小于1 ms。 展开更多
关键词 滚动轴承 故障类型识别 transformer神经网络 前向特征矩阵 后向特征矩阵 归一化位置编码 权重增强
在线阅读 下载PDF
基于改进的Transformer神经网络辅助的两阶段机组组合决策方法 被引量:3
7
作者 武新章 赵子巍 +4 位作者 代伟 谢代钰 郭苏杭 王泽宇 张冬冬 《电力自动化设备》 EI CSCD 北大核心 2023年第3期172-179,共8页
为了解决大规模电力系统机组组合的“维数灾”问题,提出基于Transformer神经网络的两阶段机组组合决策方法,该方法兼顾求解精度与速度。在第一阶段,考虑机组组合时段耦合的特性,提出基于多头注意力机制的特征向量构建方法,进而基于Trans... 为了解决大规模电力系统机组组合的“维数灾”问题,提出基于Transformer神经网络的两阶段机组组合决策方法,该方法兼顾求解精度与速度。在第一阶段,考虑机组组合时段耦合的特性,提出基于多头注意力机制的特征向量构建方法,进而基于Transformer神经网络的全局视野与并行化优势,提出一种改进的Transformer神经网络来预辨识机组启停值。在第二阶段,基于预辨识的机组状态设计置信度阈值,并将机组启停判定可信度定义为启停可信与启停不可信状态,对于启停可信机组的状态进行直接确定,对于启停不可信机组的状态,通过机组组合物理模型进行求解来保证求解的可行性。IEEE 30节点和IEEE 2 383节点系统的仿真结果验证了所提方法的有效性。 展开更多
关键词 transformer神经网络 深度学习 机组组合 数据驱动 特征构造
在线阅读 下载PDF
Transformer神经网络和轴心轨迹在燃机转子故障诊断中的应用 被引量:2
8
作者 章明明 蒋欢春 +1 位作者 茅大钧 董渊博 《噪声与振动控制》 CSCD 北大核心 2023年第1期110-115,153,共7页
针对目前国内燃机电厂转子故障诊断主要依靠振动分析,无自动识别轴心轨迹设备的现状,将在自然语言处理领域大放异彩的Transformer神经网络引入转子轴心轨迹监测与识别领域,通过独立成分分析(Independent Component Analysis,ICA)与Trans... 针对目前国内燃机电厂转子故障诊断主要依靠振动分析,无自动识别轴心轨迹设备的现状,将在自然语言处理领域大放异彩的Transformer神经网络引入转子轴心轨迹监测与识别领域,通过独立成分分析(Independent Component Analysis,ICA)与Transformer结合提升燃机转子故障诊断准确性。使用ICA代替Transformer自身的线性变换提取图片特征信息构建输入样本,为了解决自注意力机制无法捕捉位置信息的问题,提出相对位置编码方法,区别于使用较多的绝对位置编码,通过嵌入相对位置编码子层,将相对位置信息注入自注意力机制,使得Attention模块能够学习到序列的相对位置信息,可进一步提高图像识别模型的准确性,该模型对于轴心轨迹故障类型平均识别率达到93.8%。实验结果表明ICA-Transformer模型对转子轴心轨迹的识别准确率较高,对电厂运维具有一定的指导意义。 展开更多
关键词 故障诊断 轴心轨迹 transformer神经网络 独立成分分析 相对位置编码 图像识别
在线阅读 下载PDF
基于多尺度时间序列块自编码Transformer神经网络模型的风电超短期功率预测 被引量:39
9
作者 骆钊 吴谕侯 +3 位作者 朱家祥 赵伟杰 王钢 沈鑫 《电网技术》 EI CSCD 北大核心 2023年第9期3527-3536,共10页
风电超短期功率预测过程中对时间依赖性的有效捕捉与建模,将直接影响风电功率时间序列预测模型的稳定性和泛化性。为此,提出一种新型时序Transformer风电功率预测模型。模型架构在逻辑上分为时间块自编码、隐空间Transformer自注意力时... 风电超短期功率预测过程中对时间依赖性的有效捕捉与建模,将直接影响风电功率时间序列预测模型的稳定性和泛化性。为此,提出一种新型时序Transformer风电功率预测模型。模型架构在逻辑上分为时间块自编码、隐空间Transformer自注意力时序自回归、随机方差缩减梯度(stochastic variance reduce gradient,SVRG)优化3个部分。首先,依稀疏约束及低秩近似规则,风电功率时空数据被半监督映射至隐空间;其次,隐空间编码经由多头自注意力网络完成时序自回归预测;最后,模型采用方差缩减SVRG优化算法降低噪声,达到更高预测效能。实验结果表明,所提新型Transformer架构能稳定有效进行超短期风电功率预测,预测结果在准确性、泛化性方面相较于传统机器学习模型都有明显提升。 展开更多
关键词 风电功率预测 时间依赖性 时间序列块自编码 时间序列transformer 自注意力网络
在线阅读 下载PDF
基于Transformer神经网络模型的网络入侵检测方法 被引量:31
10
作者 郭志民 周劼英 +2 位作者 王丹 吕卓 杨文 《重庆大学学报》 CSCD 北大核心 2021年第11期81-88,共8页
网络入侵检测一直以来都是网络安全中亟待解决的关键任务之一,传统网络入侵检测方法主要通过提取多维特征,采用机器学习方法构建检测模型,大多忽略了入侵行为的时间相关性。通过提取网络入侵行为的时序特征,设计基于降维特征的多头自注... 网络入侵检测一直以来都是网络安全中亟待解决的关键任务之一,传统网络入侵检测方法主要通过提取多维特征,采用机器学习方法构建检测模型,大多忽略了入侵行为的时间相关性。通过提取网络入侵行为的时序特征,设计基于降维特征的多头自注意力机制Transformer网络模型,以解决传统串行化时序神经网络模型不易收敛且时间开销较大的问题,通过选取最优的损失函数和训练参数进行并行化训练,实现网络入侵行为检测。实验结果表明,基于Transformer网络模型的网络入侵检测方法在多个数据集上均获得了99%以上的精度和检出率。 展开更多
关键词 入侵检测 时序神经网络 transformer 自注意力机制 深度学习
在线阅读 下载PDF
基于transformer神经网络的汉蒙机构名翻译研究 被引量:5
11
作者 安苏雅拉 王斯日古楞 《中文信息学报》 CSCD 北大核心 2020年第1期58-62,共5页
机构名翻译是机器翻译的研究内容之一,在机器翻译任务中机构名翻译的准确度,直接影响着翻译性能。在很多任务上,神经机器翻译性能优于传统的统计机器翻译性能,该文中使用基于transformer神经网络模型与传统的基于短语的统计机器翻译模... 机构名翻译是机器翻译的研究内容之一,在机器翻译任务中机构名翻译的准确度,直接影响着翻译性能。在很多任务上,神经机器翻译性能优于传统的统计机器翻译性能,该文中使用基于transformer神经网络模型与传统的基于短语的统计机器翻译模型和改进后的基于语块的机器翻译模型做了对比试验。实验结果表明,在汉蒙机构名翻译任务上,基于transformer神经网络的汉蒙机构名翻译系统优于传统的基于语块的汉蒙机构名翻译系统,BLEU4值提高了0.039。 展开更多
关键词 神经网络 汉蒙机器翻译 机构名
在线阅读 下载PDF
基于卷积神经网络和Transformer的电能质量扰动分类
12
作者 王高峰 张昊 +1 位作者 钱云 高蔓 《现代电子技术》 北大核心 2025年第16期113-122,共10页
随着新能源的大规模应用,电能质量扰动(PQDs)事件的概率显著增加,而这些扰动会给配电系统造成重大损失。因此,提出一种基于卷积神经网络(CNN)和Transformer的PQDs分类方法,即CTranCAM。该方法通过CNN的卷积操作自动提取PQDs信号时间序... 随着新能源的大规模应用,电能质量扰动(PQDs)事件的概率显著增加,而这些扰动会给配电系统造成重大损失。因此,提出一种基于卷积神经网络(CNN)和Transformer的PQDs分类方法,即CTranCAM。该方法通过CNN的卷积操作自动提取PQDs信号时间序列的局部特征,然后使用Transformer中的多头注意力机制对提取的特征进行全局和长期关系建模,以弥补CNN在处理全局信息方面的缺陷,最后通过全连接层输出识别结果。使用CTranCAM方法对25类合成PQDs数据进行仿真,结果表明,该方法的分类准确率在无噪声条件下为99.60%,在信噪比为30 dB、40 dB和50 dB时,准确率分别达到了99.20%、99.36%和99.40%,具有良好的抗噪性和泛化性能。另外,通过与其他方法的性能比较得出,所提方法在不同噪声环境下都具有较好的分类性能,是一种较优秀的PQDs分类方法。 展开更多
关键词 电能质量扰动 卷积神经网络 transformer模型 多头注意力机制 特征提取 分类性能
在线阅读 下载PDF
BiGCN-TL:软件错误部分定位场景下二分图图卷积神经网络Transformer定位模型 被引量:1
13
作者 施恩译 常舒予 +2 位作者 陈可佳 张扬 黄海平 《计算机科学》 北大核心 2025年第S1期862-872,共11页
在现代复杂软件项目中,软件错误与代码呈现“多对多”的对应关系,一个软件错误往往由多个代码变更集引起,一个代码变更集也会引起多个软件错误。因此,对于软件错误往往只能实现部分定位,难以追溯全部的相关代码。传统架构对于代码变更... 在现代复杂软件项目中,软件错误与代码呈现“多对多”的对应关系,一个软件错误往往由多个代码变更集引起,一个代码变更集也会引起多个软件错误。因此,对于软件错误往往只能实现部分定位,难以追溯全部的相关代码。传统架构对于代码变更集或软件错误语义特征的提取,往往只分别独立地依赖各自的上下文。现代软件项目规模庞大,代码依赖错综复杂、这样分别独立的语义提取方式,降低了单个文本语义特征的质量与鲁棒性,导致最终的定位性能下滑。为实现对软件错误相关代码的全面追溯,提出了BiGCN-TL模型。BiGCN-TL重点聚焦训练模型促进不同文本之间信息交互的能力,旨在降低对单个文本语义特征质量的依赖,使得在现代软件项目规模庞大、代码依赖错综复杂、单个文本语义特征提取困难的场景下,仍能通过高效的信息交互,提取到高质量语义特征,提高定位准确率。首先根据已知的部分定位关系,微调基于Transformer的预训练模型。然后,创新性地将软件错误和代码变更集建模成二分图的数据结构,借此充分利用已知的“多对多”关系,并使用微调后的编码器得到节点特征的初始表示。之后,基于二分图设计链接预测任务,训练GCN与二分类鉴别器。借助图卷积操作和注意力机制动态更新节点特征,重点训练模型促进文本信息的交互,动态更新节点特征的能力,从而得到高质量全局分类特征,最终输出匹配预测得分。在多个数据集上开展了对比实验,结果验证了BiGCN-TL相比传统方案的优越性,并通过消融实验确认了各模块的有效性。此外,通过探索多种预训练模型与GCN的组合,并结合具体案例和可视化分析,进一步验证了BiGCN-TL的通用性与鲁棒性。 展开更多
关键词 错误定位 预训练模型 链接预测 二分图 神经网络
在线阅读 下载PDF
融合Transformer网络与卷积神经网络的稳态运动视觉诱发电位解码方法
14
作者 张焕卿 谢俊 +3 位作者 杨瀚林 杜方钊 金志伟 陈昱洁 《西安交通大学学报》 北大核心 2025年第5期44-53,共10页
针对卷积神经网络(CNN)在感受野有限、缺乏对全局信息的有效感知,以及在处理短时稳态运动视觉诱发电位(SSMVEP)信号时分类效果欠佳的问题,提出了一种紧凑EEGNet-Transformer(即EEGNetformer)网络。EEGNetformer网络融合了为脑电(EEG)信... 针对卷积神经网络(CNN)在感受野有限、缺乏对全局信息的有效感知,以及在处理短时稳态运动视觉诱发电位(SSMVEP)信号时分类效果欠佳的问题,提出了一种紧凑EEGNet-Transformer(即EEGNetformer)网络。EEGNetformer网络融合了为脑电(EEG)信号识别任务而设计的通用的卷积神经网络EEGNet网络和Transformer网络的优势,有效地捕捉与处理脑电信号中的局部和全局信息,增强网络对SSMVEP特征的学习,进而实现良好的解码性能。EEGNet网络用于提取SSMVEP的局部时间和空间特征,而Transformer网络用于捕捉脑电时间序列的全局信息。在基于SSMVEP-BCI范式采集的数据基础上,开展了实验以评估EEGNetformer网络的性能。实验结果显示,当在2 s SSMVEP数据条件下,EEGNetformer网络在基于被试者内情况的平均准确率为88.9%±6.6%,在基于跨被试者情况的平均准确率为69.1%±4.3%。与传统的CNN算法相比,EEGNetformer网络的分类性能提升了4.2%~17.4%。研究内容说明,EEGNetformer网络在有效提高SSMVEP-BCI识别准确率方面具有显著优势,为进一步提升SSMVEP-BCI解码性能提供了新的研究思路。 展开更多
关键词 稳态运动视觉诱发电位 EEGNet网络 transformer网络 EEGNetformer网络
在线阅读 下载PDF
基于Transformer-LSTM混合神经网络的迫弹外弹道及落点预测方法
15
作者 杨守怀 黄江流 +4 位作者 陈志华 黄振贵 吴明雨 邱荣贤 郑纯 《兵工学报》 北大核心 2025年第11期181-191,共11页
针对现代战场对迫弹类目标外弹道轨迹及落点的快速精准预测需求,提出基于Transformer-长短期记忆(Transformer-Long Short-Term Memory,Transformer-LSTM)混合神经网络的迫弹外弹道预测方法。利用Transformer网络提取T~T+K时刻迫弹速度... 针对现代战场对迫弹类目标外弹道轨迹及落点的快速精准预测需求,提出基于Transformer-长短期记忆(Transformer-Long Short-Term Memory,Transformer-LSTM)混合神经网络的迫弹外弹道预测方法。利用Transformer网络提取T~T+K时刻迫弹速度与三维坐标的内在联合特征,LSTM网络将该时间序列特征作为输入,映射出T+K+1时刻的三维坐标信息。为优化网络模型,研究并分析不同滑动窗口步长对外弹道预测模型收敛性能的影响。将所提混合网络与门控循环神经网络、Transformer-LSTM分别进行单步、多步和落点预测的对比分析。实验结果表明:新的混合网络对外弹道三维坐标的预测精度分别可达99.78%、99.72%、99.81%,均优于其他2个网络;新的混合网络的外弹道单步预测耗时仅为1.2 ms,大幅度提升了预测精度与效率。新方法可实现精确且快速的外弹道及落点预测,为迫弹拦截任务提供更多的响应时间。 展开更多
关键词 外弹道预测 深度学习 transformer-LSTM混合神经网络 滑动窗口
在线阅读 下载PDF
Swin Transformer与卷积神经网络的协同图像融合网络
16
作者 王嘉帅 易诗 +2 位作者 姚淋 陈梦婷 伍朗 《红外技术》 北大核心 2025年第11期1415-1426,共12页
将红外与可见光图像融合可以获得既突出物体又能展示丰富纹理细节的融合图像。鉴于传统融合方法对人工设计的依赖,以及主流的卷积神经网络进行特征提取的融合方法无法有效提取全局特征等问题,本文提出了Swin Transformer与卷积神经网络... 将红外与可见光图像融合可以获得既突出物体又能展示丰富纹理细节的融合图像。鉴于传统融合方法对人工设计的依赖,以及主流的卷积神经网络进行特征提取的融合方法无法有效提取全局特征等问题,本文提出了Swin Transformer与卷积神经网络的协同图像融合网络。以Swin Transformer为组件,构成Swin Transformer Block模块进行图像的全局特征提取,将提取的全局特征输入到嵌有卷积神经网络的多层次融合模块中进行局部特征提取,使提取的特征既保留局部信息又保留全局上下文信息。此外,通过引入交互融合模块实现跨模态特征互补,最终融合特征通过图像重构模块生成融合图像。基于TNO和RoadScene数据集与8种经典方法进行对比实验。客观上融合指标上,相较于其它现有模型,在信息熵、标准差、空间频率以及多尺度结构相似性度量指标上取得了显著提升。主观上视觉效果方面,本文方法有效保留了红外图像中的热辐射信息以及可见光图像中的细节纹理信息,融合效果更佳。 展开更多
关键词 红外图像 可见光图像 深度学习 图像融合 Swin transformer 卷积神经网络
在线阅读 下载PDF
基于卷积神经网络与Transformer的电能质量扰动分类方法 被引量:6
17
作者 金星 周凯翔 +2 位作者 于海洲 王盛慧 伍孟海 《科学技术与工程》 北大核心 2024年第16期6726-6733,共8页
复杂电能质量扰动(power quality disturbances, PQD)的智能分类对于智能电网发展具有重要意义。扰动特征的提取与定位、模式识别与分类是电能质量扰动分类方法研究的难点。采用深度学习算法,将具有关注全局信息的Transformer与善于提... 复杂电能质量扰动(power quality disturbances, PQD)的智能分类对于智能电网发展具有重要意义。扰动特征的提取与定位、模式识别与分类是电能质量扰动分类方法研究的难点。采用深度学习算法,将具有关注全局信息的Transformer与善于提取局部特征的卷积神经网络相融合,提出一种基于卷积神经网络(convolutional neural network, CNN)与Transformer的电能质量扰动分类方法,即CTranCBA。这种双深度学习模型分类方法主要是通过一维卷积神经网络提取电能质量扰动信号特征,利用Transformer自注意力机制引导模型关注序列中不同位置间的依赖关系,实现对扰动信号局部特征与全局特征的互补,克服了因感受野的限制而带来的识别不清、分类不准等问题。使用23种不同电能质量扰动信号,将CTranCBA与Deep-CNN、CNN-LSTM、CNN-CBAM方法进行比较。结果表明:该方法在分类准确率和抗噪性方面表现优异,可为电能质量扰动智能分类提供一种新的方法。 展开更多
关键词 电能质量扰动(PQD) 卷积神经网络(CNN) transformer模型 卷积注意力机制
在线阅读 下载PDF
多尺度卷积神经网络融合Transformer的竹材缺陷识别方法 被引量:1
18
作者 杨松 张锐 朱良宽 《林业工程学报》 CSCD 北大核心 2024年第5期126-133,共8页
在竹材缺陷识别的研究中,竹片形状、缺陷部位颜色深浅及裂纹大小差异都是制约模型识别准确率的关键。针对上述问题,提出一种适用于中小数据集的多尺度卷积神经网络融合Transformer的竹材缺陷识别方法,以更好地提高竹材缺陷识别的准确率... 在竹材缺陷识别的研究中,竹片形状、缺陷部位颜色深浅及裂纹大小差异都是制约模型识别准确率的关键。针对上述问题,提出一种适用于中小数据集的多尺度卷积神经网络融合Transformer的竹材缺陷识别方法,以更好地提高竹材缺陷识别的准确率。该方法在卷积神经网络的主干上进行改进,从获取不同尺度语义信息的角度出发,首先利用卷积神经网络在不同尺度的特征图上捕捉图像局部语义信息,然后将不同尺度的语义特征映射为特征符号,同时引入Sinkhorn分词器对不同阶段的卷积神经网络特征符号化以减少特征冗余,再通过Transformer对特征符号之间的关系进行建模以学习图像全局语义信息。试验结果表明,与VGG16、ResNet50、DenseNet121、ViT这4种深度学习模型相比,基于多尺度卷积神经网络融合Transformer的方法能够更高效地提高竹材缺陷识别模型的性能,在竹材缺陷图像数据集上的平均识别准确率达到了99.13%。该方法识别速度更快、精度更高,且具有良好的鲁棒性,为竹材缺陷的实时自动识别提供了新思路,同时也验证了所提出方法的有效性。 展开更多
关键词 竹材缺陷识别 多尺度 卷积神经网络 transformer Sinkhorn分词器
在线阅读 下载PDF
融合深度卷积神经网络和Swin Transformer的露天矿遥感图像超分辨率重建 被引量:1
19
作者 聂雅琳 王海军 +1 位作者 石念峰 刘保罗 《金属矿山》 北大核心 2024年第12期240-245,共6页
针对现有露天矿遥感图像超分辨率重建模型提取特征能力弱、特征利用不充分的问题,提出了一种融合深度卷积神经网络和Swin Transformer网络的露天矿遥感图像超分辨率重建方法。首先,利用卷积神经网络和Swin Transformer网络将露天矿遥感... 针对现有露天矿遥感图像超分辨率重建模型提取特征能力弱、特征利用不充分的问题,提出了一种融合深度卷积神经网络和Swin Transformer网络的露天矿遥感图像超分辨率重建方法。首先,利用卷积神经网络和Swin Transformer网络将露天矿遥感图像映射到全局和局部特征空间,充分提取遥感图像的深层特征;然后,构造了一种基于注意力机制的多尺度特征融合网络,实现遥感图像局部和全局特征的深度融合,强化有效特征表达的区分能力;最后,将深度融合特征作为超分辨率解码模块的输入,重建出高分辨率的露天矿遥感图像。通过在自建露天矿区图像数据集和开源数据集上进行测试,试验结果表明:与当前主流的图像超分辨率重建算法相比,所提方法重构出的超分辨率图像具有较好的视觉感知,在均方根误差方面也低于其他对比方法。 展开更多
关键词 露天矿 超分辨率重建 深度卷积神经网络 Swin transformer
在线阅读 下载PDF
基于卷积神经网络与Transformer并行的医学图像配准模型 被引量:1
20
作者 赵欣 李鑫杰 +2 位作者 徐健 刘步云 毕祥 《计算机应用》 CSCD 北大核心 2024年第12期3915-3921,共7页
医学图像配准模型旨在建立图像间解剖位置的对应关系。传统的图像配准方法通过不断迭代获取形变场,耗费时间长且精度不高。深度神经网络不仅实现了端到端的形变场生成,加快了形变场的生成,而且进一步提升了图像配准的精度。针对目前的... 医学图像配准模型旨在建立图像间解剖位置的对应关系。传统的图像配准方法通过不断迭代获取形变场,耗费时间长且精度不高。深度神经网络不仅实现了端到端的形变场生成,加快了形变场的生成,而且进一步提升了图像配准的精度。针对目前的深度学习配准模型均采用单一的卷积神经网络(CNN)或Transformer架构,无法充分发挥CNN与Transformer结合的优势导致配准精度不足,以及图像配准后无法有效保持原始拓扑结构等问题,提出一种基于CNN与Transformer并行的医学图像配准模型PPCTNet(Parallel Processing of CNN and Transformer Network)。首先,选用目前配准精度优秀的Swin Transformer和极轻量化的CNN——LOCV-Net(Lightweight attenti On-based Con Volutional Network)构建模型;其次,设计融合策略充分融合Swin Transformer与LOCV-Net提取的特征信息,使模型不仅拥有CNN的局部特征提取能力和Transformer的长距离依赖能力,还兼具轻量化的优势;最后,基于脑部磁共振成像(MRI)数据集,比较PPCTNet与10种经典图像配准模型。结果表明,相较于目前优秀的配准模型Trans Morph(hybrid Transformer-Conv Net network for image registration),PPCTNet的最高配准精度提高了0.5个百分点,且形变场的折叠率下降了1.56个百分点,维持了配准图像的拓扑结构。此外,PPCTNet的参数量比Trans Morph下降了10.39×10^(6),计算量下降了278×10^(9),体现了PPCTNet的轻量化优势。 展开更多
关键词 医学图像 图像配准 卷积神经网络 transformer架构 轻量化卷积
在线阅读 下载PDF
上一页 1 2 250 下一页 到第
使用帮助 返回顶部