期刊文献+
共找到2,210篇文章
< 1 2 111 >
每页显示 20 50 100
基于Transformer模型的时序数据预测方法综述 被引量:15
1
作者 孟祥福 石皓源 《计算机科学与探索》 北大核心 2025年第1期45-64,共20页
时序数据预测(TSF)是指通过分析历史数据的趋势性、季节性等潜在信息,预测未来时间点或时间段的数值和趋势。时序数据由传感器生成,在金融、医疗、能源、交通、气象等众多领域都发挥着重要作用。随着物联网传感器的发展,海量的时序数据... 时序数据预测(TSF)是指通过分析历史数据的趋势性、季节性等潜在信息,预测未来时间点或时间段的数值和趋势。时序数据由传感器生成,在金融、医疗、能源、交通、气象等众多领域都发挥着重要作用。随着物联网传感器的发展,海量的时序数据难以使用传统的机器学习解决,而Transformer在自然语言处理和计算机视觉等领域的诸多任务表现优秀,学者们利用Transformer模型有效捕获长期依赖关系,使得时序数据预测任务取得了飞速发展。综述了基于Transformer模型的时序数据预测方法,按时间梳理了时序数据预测的发展进程,系统介绍了时序数据预处理过程和方法,介绍了常用的时序预测评价指标和数据集。以算法框架为研究内容系统阐述了基于Transformer的各类模型在TSF任务中的应用方法和工作原理。通过实验对比了各个模型的性能、优点和局限性,并对实验结果展开了分析与讨论。结合Transformer模型在时序数据预测任务中现有工作存在的挑战提出了该方向未来发展趋势。 展开更多
关键词 深度学习 时序数据预测 数据预处理 transformer模型
在线阅读 下载PDF
CNN结合Transformer的高光谱图像和LiDAR数据协同地物分类方法
2
作者 吴海滨 左云逸 +2 位作者 王爱丽 吕浩然 王敏慧 《仪器仪表学报》 北大核心 2025年第8期286-301,共16页
在高光谱图像与LiDAR数据协同分类的研究领域中,尽管CNN和Transformer在图像处理和数据分析中分别展现出对局部特征和全局依赖关系的敏锐洞察力,但二者的协同机制尚未充分挖掘,跨模态特征互补潜力未被有效释放。故提出了一种CNN结合Tran... 在高光谱图像与LiDAR数据协同分类的研究领域中,尽管CNN和Transformer在图像处理和数据分析中分别展现出对局部特征和全局依赖关系的敏锐洞察力,但二者的协同机制尚未充分挖掘,跨模态特征互补潜力未被有效释放。故提出了一种CNN结合Transformer的高光谱图像和LiDAR数据的多模态遥感数据协同地物分类方法。首先,该模型通过主成分分析对高光谱图像进行降维处理以去除光谱的冗余信息,继而利用CNN分层捕获局部纹理特征,同时借助Transformer自注意力机制构建全局光谱-空间表征。然后通过双向特征交互机制,将Transformer输出的全局上下文信息注入CNN特征通道,同时将CNN通道提取的局部细节反馈至Transformer支路,经特征耦合单元实现跨尺度特征对齐,强化模型对高光谱图像全局结构与局部细节的联合提取能力。对于LiDAR数据,采用动态卷积级联模块有效捕获高程信息和上下文关系,最终通过跨模态特征融合模块实现双源数据特征的深度交互与融合,在双模态语义互补中提升复杂地物的分类精度。在Houston2013、Trento和Augsburg这3个公开数据集上的实验表明,该方法总体分类精度分别达到99.85%、99.68%和97.34%,平均准确率分别达到99.87%、99.34%和90.60%,较GLT、HCT等主流方法的分类精度有所提高,充分证明所提方法进行多模态数据协同分类的优势和有效性。 展开更多
关键词 高光谱图像 LIDAR数据 transformER 卷积神经网络 多模态数据
在线阅读 下载PDF
融合梯度预测和无参注意力的高效地震去噪Transformer 被引量:1
3
作者 高磊 乔昊炜 +2 位作者 梁东升 闵帆 杨梅 《计算机科学与探索》 北大核心 2025年第5期1342-1352,共11页
压制随机噪声能够有效提升地震数据的信噪比(SNR)。近年来,基于卷积神经网络(CNN)的深度学习方法在地震数据去噪领域展现出显著性能。然而,CNN中的卷积操作由于感受野的限制通常只能捕获局部信息而不能建立全局信息的长距离连接,可能会... 压制随机噪声能够有效提升地震数据的信噪比(SNR)。近年来,基于卷积神经网络(CNN)的深度学习方法在地震数据去噪领域展现出显著性能。然而,CNN中的卷积操作由于感受野的限制通常只能捕获局部信息而不能建立全局信息的长距离连接,可能会导致细节信息的丢失。针对地震数据去噪问题,提出了一种融合梯度预测和无参注意力的高效Transformer模型(ETGP)。引入多头“转置”注意力来代替传统的多头注意力,它能在通道间计算注意力来表示全局信息,缓解了传统多头注意力复杂度过高的问题。提出了无参注意力前馈神经网络,它能同时考虑空间和通道维度计算注意力权重,而不向网络增加参数。设计了梯度预测网络以提取边缘信息,并将信息自适应地添加到并行Transformer的输入中,从而获得高质量的地震数据。在合成数据和野外数据上进行了实验,并与经典和先进的去噪方法进行了比较。结果表明,ETGP去噪方法不仅能更有效地压制随机噪声,并且在弱信号保留和同相轴连续性方面具有显著优势。 展开更多
关键词 地震数据去噪 卷积神经网络 transformER 注意力模块 梯度融合
在线阅读 下载PDF
互补盲点策略和U型Transformer的地震数据去噪
4
作者 高磊 许轩 +1 位作者 罗芯汭 闵帆 《计算机应用研究》 北大核心 2025年第7期2056-2063,共8页
去除随机噪声可以显著提高地震数据的信噪比(SNR)。盲点驱动的无监督去噪方法无需标注数据,能自动提取特征,但其忽略了噪声相关性,导致去噪性能较差。为此,提出了互补盲点策略和U型Transformer的地震数据去噪框架(CBUTS)。首先,使用互... 去除随机噪声可以显著提高地震数据的信噪比(SNR)。盲点驱动的无监督去噪方法无需标注数据,能自动提取特征,但其忽略了噪声相关性,导致去噪性能较差。为此,提出了互补盲点策略和U型Transformer的地震数据去噪框架(CBUTS)。首先,使用互补盲点策略,通过迹线掩码和随机掩码互补采样,有效削弱噪声的空间联系;其次,引入可见盲点损失函数,融合非盲点和盲点去噪结果,降低信息损失;最后,设计了一种基于Transformer的U型盲点网络(STU-Net),通过增强全局和局部特征捕捉,进一步削弱噪声相关性,更准确地预测有效信号。实验结果表明,与经典以及先进的有监督和无监督方法进行比较,CBUTS在去除噪声和保留同相轴连续性方面效果更好。通过对结果的分析和比较,证明该方法完全适用于地震数据去噪。 展开更多
关键词 地震数据去噪 无监督 盲点策略 transformER
在线阅读 下载PDF
基于Transformer和PointNet++的毫米波雷达人体姿态估计 被引量:2
5
作者 李阳 刘毅 +3 位作者 李浩 张刚 徐明枫 郝崇清 《计算机科学》 北大核心 2025年第S1期433-441,共9页
人体姿态估计作为动作识别领域中的研究热题被广泛地应用在医疗、安防和监控等方面,对推动相关行业的智能化发展具有重要意义。但目前基于图像的人体姿态估计对环境要求较高且隐私性差。基于此,提出了一种基于毫米波雷达点云的人体姿态... 人体姿态估计作为动作识别领域中的研究热题被广泛地应用在医疗、安防和监控等方面,对推动相关行业的智能化发展具有重要意义。但目前基于图像的人体姿态估计对环境要求较高且隐私性差。基于此,提出了一种基于毫米波雷达点云的人体姿态估计方法,该方法使用PointNet++对毫米波雷达点云进行特征提取,与基于CNN的姿态估计方法相比,其在各关节点的MSE,MAE,RMSE值更低。此外,为了解决毫米波雷达点云稀疏的问题,使用了一种多帧点云拼接策略,以增加点云的数量,其中以拼接三帧点云为输入的模型相比于原始模型的MSE和MAE值分别降低了0.22 cm和0.72 cm,有效地缓解了点云过于稀疏的问题。最后,为了充分利用不同点云之间的时序特征,将Transformer与PointNet++相结合,并通过消融实验证明了多帧点云拼接策略和加入Transformer结构这两种方法的有效性,其MSE和MAE两个指标值分别达到了0.59 cm和5.41 cm,为实现性能更优的射频人体姿态估计提供了一种新思路。 展开更多
关键词 人体姿态估计 毫米波雷达 PointNet++ 点云数据 transformER
在线阅读 下载PDF
基于Focal Loss^(IM)-Transformer的电网虚假数据注入攻击检测
6
作者 席磊 和昀 +3 位作者 李子豪 曹利锋 李宗泽 石雨凡 《南方电网技术》 北大核心 2025年第6期26-38,共13页
虚假数据注入攻击对电力信息物理系统造成严重安全威胁。由于受到攻击样本与正常样本之间存在类别不平衡特性,导致机器学习检测方法偏向于多数类的预测,影响其对攻击的检测精度。为此,提出了基于Focal Loss^(IM)-Transformer的虚假数据... 虚假数据注入攻击对电力信息物理系统造成严重安全威胁。由于受到攻击样本与正常样本之间存在类别不平衡特性,导致机器学习检测方法偏向于多数类的预测,影响其对攻击的检测精度。为此,提出了基于Focal Loss^(IM)-Transformer的虚假数据注入攻击检测。Transformer利用其自注意力机制能够捕捉数据中的长期依赖性,进而识别不平衡的虚假数据注入攻击数据。Focal Loss^(IM)通过引入调制因子来更好地匹配虚假数据注入攻击样本的分布和特性,来增强检测方法对不平衡数据的识别能力,以提高检测方法对攻击的检测精度。通过在IEEE 14节点系统、IEEE 30节点系统和IEEE 57节点系统进行仿真,验证了所提方法的有效性。且相较于传统损失函数和其他检测方法,所提方法显示出更好的泛化能力和对少数类的识别能力,且辨识精度高、误报率低。 展开更多
关键词 电力信息物理系统 虚假数据注入攻击 不平衡数据 transformER focal loss
在线阅读 下载PDF
基于损失函数改进和补丁时序Transformer网络的风功率超短期多步预测
7
作者 晏吴宇歆 张海波 +2 位作者 刘童蕙 黄松涛 尚国政 《太阳能学报》 北大核心 2025年第6期510-521,共12页
为提高风电功率超短期多步预测的精度,提出一种基于损失函数改进和补丁(Patch)时序Transformer网络的风功率超短期多步预测模型。首先,通过风功率数据的图像异常检测与清洗算法进行数据预处理,提升数据质量;其次,为增强Transformer模型... 为提高风电功率超短期多步预测的精度,提出一种基于损失函数改进和补丁(Patch)时序Transformer网络的风功率超短期多步预测模型。首先,通过风功率数据的图像异常检测与清洗算法进行数据预处理,提升数据质量;其次,为增强Transformer模型的鲁棒性并加强局部序列依赖的捕捉能力,在原始Transformer结构中引入补丁模块和通道独立策略。最后,为进一步过滤噪声并提高序列预测中的形状变化感知能力,设计一种新颖的多元非线性损失函数。实验结果表明,所提出的模型在多项误差指标上显著优于对比模型,有效提升了超短期风电功率的多步预测精度。 展开更多
关键词 风预测 数据处理 transformER 损失函数 多步预测
在线阅读 下载PDF
基于Transformer-GAT并行特征融合的数据驱动的电力系统暂态稳定评估
8
作者 侯一帆 徐天奇 +1 位作者 李琰 李晓兰 《科学技术与工程》 北大核心 2025年第21期8945-8954,共10页
随着电力系统的快速发展,大规模新能源并网及源网荷储协同优化增加了电力电子设备的比重,使得电网稳定性,特别是暂态稳定性评估,变得尤为重要。针对传统方法在拓扑结构考虑不足的问题,提出了一种基于Transformer-图注意力网络(graph att... 随着电力系统的快速发展,大规模新能源并网及源网荷储协同优化增加了电力电子设备的比重,使得电网稳定性,特别是暂态稳定性评估,变得尤为重要。针对传统方法在拓扑结构考虑不足的问题,提出了一种基于Transformer-图注意力网络(graph attention network,GAT)并行特征融合的深度学习方法,用于电力系统暂态稳定性评估。以母线电压幅值、相角及拓扑邻接矩阵作为输入特征,利用西门子仿真软件PSS/E生成批量数据,并通过Transformer和GAT并行提取特征,采用注意力机制进行加权融合。与其他方法的对比结果表明,该方法在IEEE 39节点系统中模拟了不同负荷条件和故障工况,结果表明评估精度和鲁棒性较高,能够有效提升电力系统的安全稳定性。 展开更多
关键词 暂态稳定性 数据驱动 注意力机制 transformER 图注意力网络 特征融合
在线阅读 下载PDF
基于对比学习和预训练Transformer的流量隐匿数据检测方法
9
作者 何帅 张京超 +3 位作者 徐笛 江帅 郭晓威 付才 《通信学报》 北大核心 2025年第3期221-233,共13页
为解决海量加密流量难表征、恶意行为难感知以及隐私数据归属难识别的问题,提出了一种基于对比学习和预训练Transformer的流量隐匿数据检测方法。考虑加密流量的高度复杂性、非结构化的特点以及传统下游任务的微调方法在加密流量领域的... 为解决海量加密流量难表征、恶意行为难感知以及隐私数据归属难识别的问题,提出了一种基于对比学习和预训练Transformer的流量隐匿数据检测方法。考虑加密流量的高度复杂性、非结构化的特点以及传统下游任务的微调方法在加密流量领域的效果不佳的挑战,数据报文通过提取数据包序列被转换为类似自然语言处理中的词元。然后利用预训练Transformer模型将浅层表征转换为适用于多种加密流量下游任务的通用流量表征。通过将流量中的隐匿数据检测问题转换为相似性分析问题,基于对比学习的思想设计了一种差异性敏感的Transformer模型架构,同时使用样本的正负样本对增强模型对流量差异性的感知能力,并提出使用信息对比估计作为加密流量下游任务微调的损失函数。实验结果表明,所提方法在检测准确率、精确率、召回率以及F1分数等方面优于主流方法。 展开更多
关键词 流量隐匿数据检测 预训练transformer模型 对比学习 加密流量
在线阅读 下载PDF
基于Transformer与SNN的WGAN⁃GP癫痫脑电数据增强方法
10
作者 曹崴 李奇 《现代电子技术》 北大核心 2025年第23期167-175,共9页
针对癫痫发作检测中的高质量EEG样本不足导致模型性能受限的问题,文中提出一种融合Transformer、脉冲神经网络(SNN)和带梯度惩罚GAN(WGAN-GP)的癫痫EEG数据增强方法。生成器利用Transformer建模EEG信号的长程依赖,融合SNN模拟神经元脉... 针对癫痫发作检测中的高质量EEG样本不足导致模型性能受限的问题,文中提出一种融合Transformer、脉冲神经网络(SNN)和带梯度惩罚GAN(WGAN-GP)的癫痫EEG数据增强方法。生成器利用Transformer建模EEG信号的长程依赖,融合SNN模拟神经元脉冲机制,提高生成数据的生物合理性。判别器采用基于卷积神经网络与Transformer的结构增强对生成数据与真实数据差异的辨别能力,并通过WGAN-GP提高模型训练的稳定性。在CHB-MIT和Kaggle两个数据集上进行数据增强实验,并利用多种分类模型验证了真实、生成和混合数据集的可分类性。结果表明,生成的EEG数据具有较高的真实性和多样性,将其与真实数据融合训练可显著提升癫痫发作检测性能,其中LSTM模型在CHB-MIT数据集上的准确率由91.52%提升至96.21%,在Kaggle数据集上由95.13%提升至97.70%。综上所述,该方法可有效缓解癫痫EEG数据不足问题,具有良好的应用前景。 展开更多
关键词 数据增强 EEG 生成对抗网络 transformER SNN 癫痫发作检测
在线阅读 下载PDF
基于双重随机增强与分层Transformer的城市环境声检测方法
11
作者 付予哲 王玫 +1 位作者 阚瑞祥 仇洪冰 《现代电子技术》 北大核心 2025年第19期115-121,共7页
城市声学场景的复杂性和多样性使传统的声音识别方法在处理城市环境声时存在局限性,亟需解决检测能力与计算复杂度之间的平衡问题。为此文中提出一种新型的城市环境声检测方法,旨在提高模型在处理城市环境声分类任务的能力,同时降低对... 城市声学场景的复杂性和多样性使传统的声音识别方法在处理城市环境声时存在局限性,亟需解决检测能力与计算复杂度之间的平衡问题。为此文中提出一种新型的城市环境声检测方法,旨在提高模型在处理城市环境声分类任务的能力,同时降低对计算资源的依赖。首先,引入一种双重随机组合数据增强策略,通过随机组合不同的增强技术生成多样化的音频样本,以丰富训练数据并增强模型的泛化能力;随后,提出一种新型的具有分层结构的音频Transformer,该模型引入了窗口注意力机制和耦合简单注意力的标记语义模块,有效提升了声音分类能力。实验结果表明,所提方法仅需之前Transformer的32%的参数量和15%的训练时间;在UrbanSound8K中准确率为91.2%,在AudioSet中mAP为0.476,在ESC-50中准确率为97.2%。显著提升了城市环境声检测的性能。 展开更多
关键词 城市环境声检测 声音分类 深度学习 transformER 数据增强 注意力机制
在线阅读 下载PDF
基于BERT-Tiny Transformer-CRF的自动化装配命名实体识别方法
12
作者 钱冠翔 于丽娅 +2 位作者 李传江 李少波 徐兆 《计算机集成制造系统》 北大核心 2025年第10期3594-3606,共13页
随着工业5.0对知识驱动的智能制造提出新要求,机械装配领域面临多模态数据稀疏、实体语义边界模糊、数据分布呈现长尾效应的挑战。为此,提出一种融合多项式损失函数的BERT-Tiny Transformer-CRF模型,旨在提升低资源场景下的领域知识抽... 随着工业5.0对知识驱动的智能制造提出新要求,机械装配领域面临多模态数据稀疏、实体语义边界模糊、数据分布呈现长尾效应的挑战。为此,提出一种融合多项式损失函数的BERT-Tiny Transformer-CRF模型,旨在提升低资源场景下的领域知识抽取效率。首先,通过知识蒸馏与语义增强技术注入领域先验知识,其次设计维度自适应特征压缩模块实现跨模态特征融合,最后构建动态边缘感知解码机制实现实体边界的精准定位。利用自主构建的自动化装配数据集,将所提方法与不同实体识别模型进行对比,实验结果表明,所提模型具有良好的泛化识别能力,以86.62%的准确率、85.27%的精确率、85.67%的召回率和85.46%的F1值优于其他模型,为工业5.0下机械自动化装配领域知识图谱的构建提供了一种有效的技术方法。 展开更多
关键词 BERT-Tiny transformer-CRF模型 数据增强 PolyLoss 自动化装配
在线阅读 下载PDF
基于Transformer和LSTM算法的河套灌区土壤水分预测研究 被引量:1
13
作者 王钥 郑方元 +3 位作者 雍婷 查元源 周龙才 徐祥森 《节水灌溉》 北大核心 2025年第2期1-8,14,共9页
土壤水是土壤中的关键指标,其变化直接影响着作物生长,并影响着水资源利用的管理决策。因此,准确地预测土壤水分有利于对农业水资源进行合理的规划利用。使用深度学习算法进行土壤水分预测在当前的农业、水资源管理和生态学等领域具有... 土壤水是土壤中的关键指标,其变化直接影响着作物生长,并影响着水资源利用的管理决策。因此,准确地预测土壤水分有利于对农业水资源进行合理的规划利用。使用深度学习算法进行土壤水分预测在当前的农业、水资源管理和生态学等领域具有重要性。深度学习算法能够从大规模数据中学习土壤水分的复杂模式和时空关系,为土壤水的准确预测提供了新的机会。为了探索新兴深度学习方法Transformer在土壤水分预测中的有效性,选择河套灌区义长灌域为研究区域,利用地下水位观测数据、气象数据、SMAP土壤水数据等作为训练数据,设置了1、5、10 d共3种数据滞后情况,验证Transformer算法在土壤水时间序列预测任务中的有效性,并与目前广泛应用于时序预测任务中的LSTM进行对比。研究表明Transformer在土壤水分时间序列预测任务中具有更好的预测能力,相比于LSTM,其R^(2)平均提升约0.181,RMSE平均下降27.6%。同时,Transformer在应对滞后变化带来的影响时更具鲁棒性,在3种数据滞后情况下Transformer的预测平均R^(2)分别比LSTM高出了0.121、0.167、0.256,站点平均RMSE分别降低了30.7%、28.6%、23.5%。此外,Transformer对于土壤水序列中的非线性信息的提取能力更强,对于高频振幅的土壤水时间序列Transformer拥有更强的预测能力。 展开更多
关键词 土壤水分预测 深度学习 时序预测 transformer模型 LSTM模型 数据滞后
在线阅读 下载PDF
基于3D-CNN和融合Transformer的步态识别算法 被引量:1
14
作者 李金成 代雪晶 闫睿骜 《科学技术与工程》 北大核心 2025年第17期7276-7284,共9页
当前,步态识别的主流方法常依赖堆叠卷积层来逐步扩大感受野,以融合局部特征,这种方法大多采用浅层网络,在提取步态图像的全局特征时存在一定的局限性,并缺乏对时序周期特征信息的关注。因此提出一种融合Transformer和3D卷积的深层神经... 当前,步态识别的主流方法常依赖堆叠卷积层来逐步扩大感受野,以融合局部特征,这种方法大多采用浅层网络,在提取步态图像的全局特征时存在一定的局限性,并缺乏对时序周期特征信息的关注。因此提出一种融合Transformer和3D卷积的深层神经网络算法(3D convolutional gait recognition network based on adaptFormer and spect-conv,3D-ASgaitNet)。首先,初始残差卷积层将二进制轮廓数据转换为浮点编码特征图,以提供密集的低级结构特征;在此基础上,光谱层通过频域和时域的联合处理增强特征提取能力,并使用伪3D残差卷积模块进一步提取高级时空特征;最后融合AdaptFormer模块,通过轻量级的下采样-上采样网络结构,以适应不同的数据分布和任务需求,提供灵活的特征变换能力。3D-ASgaitNet分别在4个公开的室内数据集(CASIA-B、OU-MVLP)、室外数据集(GREW、Gait3D)上进行,分别取得99.84%、87.83%、45.32%、72.12%的识别准确率。实验结果表明,所提出方法在CASIA-B、Gait3D数据集中的识别准确率接近SOTA性能。 展开更多
关键词 步态识别 融合transformer 3D残差卷积 二进制轮廓数据
在线阅读 下载PDF
基于动态时空Transformer的城市蜂窝网络流量预测方法
15
作者 于江燕 王倩 +2 位作者 孟宪静 张瑞敏 耿蕾蕾 《计算机工程与应用》 北大核心 2025年第18期290-299,共10页
针对现有的城市蜂窝网络流量预测方法没有考虑到小区间空间相关性的动态性以及不同时间跨度下小区间空间相关性的多样性问题,提出基于动态时空Transformer的城市蜂窝网络流量预测模型(DSTTNet)。提出多尺度时间感知空间Transformer模块M... 针对现有的城市蜂窝网络流量预测方法没有考虑到小区间空间相关性的动态性以及不同时间跨度下小区间空间相关性的多样性问题,提出基于动态时空Transformer的城市蜂窝网络流量预测模型(DSTTNet)。提出多尺度时间感知空间Transformer模块MSTAST,通过分时间段建模小区间的空间相关性,实现小区间动态空间关系的捕获;通过引入多分支结构,在不同的分支上使用不同的时间段划分方式来捕获不同的空间相关性,从而提高空间相关性建模的准确性;基于MSTAST和时间Transformer模块构建时空序列建模模块来捕获城市蜂窝网络流量中的长时间依赖关系和动态空间依赖关系;还将MSTAST应用于特征融合模块,以提高模型对预测特征中远距离小区间全局空间关系的捕获能力。实验结果表明,在RMSE评价指标下,所提模型在SMS、Call、Internet三种网络流量数据集上分别提升了5.43%、4.30%、2.86%。 展开更多
关键词 蜂窝网络流量预测 时空数据挖掘 transformER 注意力机制 无线网络
在线阅读 下载PDF
基于CABFAM-Transformer的输电线路在线测距实测行波预分类方法
16
作者 唐玉涛 束洪春 +3 位作者 刘皓铭 苏萱 韩一鸣 代月 《电工技术学报》 北大核心 2025年第5期1455-1470,共16页
行波采集装置是电力系统保护与测距的重要设备,广泛应用于110 kV及以上输电线路,且正向配电网延拓。由于启动灵敏,非故障信息的采集给故障辨识与行波测距带来了挑战。该文提出了一种基于卷积注意力机制的特征聚合模块(CABFAM)与自适应Tr... 行波采集装置是电力系统保护与测距的重要设备,广泛应用于110 kV及以上输电线路,且正向配电网延拓。由于启动灵敏,非故障信息的采集给故障辨识与行波测距带来了挑战。该文提出了一种基于卷积注意力机制的特征聚合模块(CABFAM)与自适应Transformer模型的输电线路实测故障性质识别方法。首先,通过CBAM机制增强卷积层提取特征信息的表达与理解能力;然后,构建自适应编码层级调整机制的Transformer模型库,以获取多层次差异化特征信息;最后,利用云南电网110~220 kV输电线路的5076条实测数据及220 kV DL站H-P线的15924条伪实测数据进行训练与测试,针对16种典型行波数据进行分类。测试结果表明,该方法降低了模型参数量,提高了准确度,算法的多个关键指标均有不同幅度的提升,表现出优异的检测精度与识别效率。 展开更多
关键词 行波采集装置 基于卷积注意力机制的特征聚合模块 CABFAM 自适应transformer 实测数据故障辨识
在线阅读 下载PDF
基于PCA−Transformer的工作面瓦斯浓度预测算法研究 被引量:1
17
作者 杨建 舒龙勇 +2 位作者 张书林 秦凯 崔聪 《工矿自动化》 北大核心 2025年第5期1-7,共7页
针对目前工作面瓦斯浓度预测的研究样本在特征维度及数据体量方面偏小,难以从大规模时序数据中挖掘出瓦斯浓度长时间尺度上波动规律的问题,提出一种基于主成分分析(PCA)−Transformer的工作面瓦斯浓度预测算法。首先,对瓦斯浓度原始数据... 针对目前工作面瓦斯浓度预测的研究样本在特征维度及数据体量方面偏小,难以从大规模时序数据中挖掘出瓦斯浓度长时间尺度上波动规律的问题,提出一种基于主成分分析(PCA)−Transformer的工作面瓦斯浓度预测算法。首先,对瓦斯浓度原始数据进行数据清洗,采用最小−最大特征缩放标准化公式对清洗后的数据进行归一化操作。然后,利用PCA对7种影响工作面瓦斯浓度的因素(上隅角瓦斯浓度、回风流瓦斯浓度、氧气浓度、一氧化碳浓度、温度、纯流量、风速)进行降维处理,有效剔除与工作面浓度相关性较低的影响因素。最后,将处理后的训练集输入到Transformer模型,通过编码器、解码器提取瓦斯浓度内在的变化规律和特征。以某高瓦斯矿井224工作面监测数据为样本,利用PCA−Transformer预测模型与长短时记忆神经网络(LSTM)、PCA−LSTM及Transformer等预测模型进行对比分析,结果表明:①PCA−Transformer模型的平均绝对误差为0.0203,均方误差为0.0472,运行时间为86 s,能够满足煤矿生产对瓦斯浓度预测的精度与时效要求。②相较于LSTM,PCA−LSTM,Transformer等预测模型,PCA−Transformer预测模型能够更好地拟合瓦斯浓度变化趋势,有效识别波峰、波谷序列特征,计算耗时最少,验证了PCA−Transformer预测模型的有效性。 展开更多
关键词 工作面瓦斯浓度预测 瓦斯时序数据 主成分分析 transformER 降维处理
在线阅读 下载PDF
Transformer在智慧农业中的应用综述 被引量:1
18
作者 杨晔 《智慧农业导刊》 2025年第9期9-16,共8页
智慧农业作为一种利用现代信息技术实现智能化与可持续化的农业发展模式,对多模态农业大数据进行高效精准的分析建模需求正日益增长。Transformer作为近年来在深度学习领域具有重大影响力的模型架构,能够有效解决智慧农业应用场景的各... 智慧农业作为一种利用现代信息技术实现智能化与可持续化的农业发展模式,对多模态农业大数据进行高效精准的分析建模需求正日益增长。Transformer作为近年来在深度学习领域具有重大影响力的模型架构,能够有效解决智慧农业应用场景的各种任务,提高农业生产效率。该文首先介绍Transformer模型的数学原理与模型架构,深入探讨Transformer在农作物病害检测、病虫害识别与监测、作物育种与遗传改良、农业遥感图像分析、牲畜管理、水产养殖管理及农作物产量预测等农业场景的创新应用成果,最后总结Transformer在智慧农业中应用所面临的挑战和未来发展方向。 展开更多
关键词 智慧农业 transformER 深度学习 人工智能 多模态数据
在线阅读 下载PDF
基于频域Swin Transformer的植物叶片病害识别研究
19
作者 陈藜韦 古丽娜孜·艾力木江 伊力亚尔·加尔木哈买提 《中国农机化学报》 北大核心 2025年第10期128-137,共10页
植物病虫害给农业生产带来严重威胁,需对其进行及时监控和预防。由于植物病虫害种类繁多且在初期病症相似,农业工作者极难区分。基于此,提出一种基于频域Swin Transformer的植物叶片病害识别方法。首先,利用改进的CutMix数据增强算法提... 植物病虫害给农业生产带来严重威胁,需对其进行及时监控和预防。由于植物病虫害种类繁多且在初期病症相似,农业工作者极难区分。基于此,提出一种基于频域Swin Transformer的植物叶片病害识别方法。首先,利用改进的CutMix数据增强算法提高模型的训练效率,使模型关注病害图像的重要部分,让模型学习到更多信息避免模型过拟合,提高模型的泛化性能。然后,利用高斯滤波和边缘检测降低病害识别中背景噪声对识别准确性的负面影响,突出叶片轮廓信息。最后,加入频域层来捕捉病害图像的局部特征。结果表明:提出的方法在番茄、水稻和棉花3个数据集上的准确率分别为98.59%、100%、99.58%,比改进前分别提高1.34%、0.12%和0.5%,检测速度分别提升2.54帧/s、4.04帧/s和9.97帧/s。 展开更多
关键词 植物叶片 病害识别 数据增强 频域Swin transformer 边缘检测 高斯滤波
在线阅读 下载PDF
基于改进的Swin Transformer苹果叶片病害识别方法研究
20
作者 汪小丽 郭小燕 《甘肃农业大学学报》 北大核心 2025年第5期309-318,共10页
【目的】为了实现复杂背景下苹果叶片病害的精准识别,提高苹果产量,设计了一种基于改进的Swin Transformer苹果叶片病害识别模型。【方法】为了增强模型的泛化能力,本研究构建了8类共17859幅苹果叶片病害图像作为试验数据集,包括单一背... 【目的】为了实现复杂背景下苹果叶片病害的精准识别,提高苹果产量,设计了一种基于改进的Swin Transformer苹果叶片病害识别模型。【方法】为了增强模型的泛化能力,本研究构建了8类共17859幅苹果叶片病害图像作为试验数据集,包括单一背景图像、复杂背景图像以及应用Mixup混合增强后图像。数据集按照8∶1∶1的比例划分为训练集、验证集和测试集。模型构建过程中,在Swin Transformer网络模型的Stage2后增加了一个额外的stage,且在Stage1、Stage3、Stage4、Stage5后面分别加入多分辨率重叠的注意力模块(Multi-Resolution Overlapped Attention,MOA)以提高模型的全局信息提取能力。为缩短模型训练时间,引入迁移学习。【结果】为了评估本研究提出的模型在复杂背景下苹果叶片病害识别任务中的有效性,将其与Swin Transformer、AlexNet、ResNet-50和VGG-164种模型进行对比试验,结果表明,摸型识别准确率达到95.3%,相比于其他模型,准确率分别提高了17.8%、15.3%、13.1%和6.3%。【结论】在相同参数训练情况下,本研究模型对于复杂背景下苹果叶片病害识别效果更好,且收敛速度更快。 展开更多
关键词 Swin transformer 苹果叶片病害识别 Mixup数据增强 迁移学习 多分辨率重叠的注意力机制
在线阅读 下载PDF
上一页 1 2 111 下一页 到第
使用帮助 返回顶部