一种结合孪生倒残差与自注意力增强的遥感影像变化检测方法

1

作者 张荞 曹志成 +3 位作者 沈洋 汪宙峰 王成武 许嘉欣 《自然资源遥感》 北大核心 2025年第3期85-94,共10页

遥感影像变化检测在国土调查更新、城市发展监测与规划等方面中具有重大的应用需求。针对遥感影像变化检测在实际应用中面临的挑战,文章提出了一种结合孪生倒残差结构与自注意力增强的轻量级变化检测方法。该方法通过引入孪生的改进型... 遥感影像变化检测在国土调查更新、城市发展监测与规划等方面中具有重大的应用需求。针对遥感影像变化检测在实际应用中面临的挑战,文章提出了一种结合孪生倒残差结构与自注意力增强的轻量级变化检测方法。该方法通过引入孪生的改进型倒残差结构替代传统卷积神经网络结构作为骨干网络,充分提取特征信息且大幅降低网络复杂度,使用自注意力增强模块提升网络的全局信息关注能力,在损失函数中加入边缘权重精准优化提取结果的细节,利用多层次的跳接残差连接充分融合全局与局部特征。在公开和自制的遥感影像变化检测数据集上对该方法分别进行性能测试,结果表明,所提方法相较于其他变化检测方法,在不降低检测精度的前提下大幅减少了网络参数量和计算量,实现了遥感影像变化检测模型轻量化。 展开更多

关键词 遥感影像 变化检测 改进型倒残差 自注意力增强模块 轻量化模型

在线阅读 下载PDF 职称材料

基于MacBERT和联合注意力增强网络的物业服务投诉分类方法

2

作者 湛志宏 覃开贤 +1 位作者 彭凌华 湛铖 《广西科学》 CAS 北大核心 2024年第1期110-118,共9页

基于人工的物业投诉文件分类处理方法已经无法满足社会需求,并且已有投诉相关的自动分类方法在物业投诉分类问题上的性能较不足。因此,本研究提出一个基于MacBERT和联合注意力增强网络的物业服务投诉分类方法JAE BERT4Com。JAE BERT4Co... 基于人工的物业投诉文件分类处理方法已经无法满足社会需求,并且已有投诉相关的自动分类方法在物业投诉分类问题上的性能较不足。因此,本研究提出一个基于MacBERT和联合注意力增强网络的物业服务投诉分类方法JAE BERT4Com。JAE BERT4Com使用基于近义词替换与合成少数过采样技术结合的样本增强策略解决类不平衡的问题,以及基于MacBERT的分层注意力、Transformers的多头注意力和关键词注意力等多重注意力联合增强的网络进行文本特征学习和分类。实验结果表明,JAE BERT4Com能够获得比现有模型更高的准确率、F1分数和召回率,比现有较先进模型的性能更优。 展开更多

关键词 物业投诉 投诉分类 文本分类 注意力增强 深度学习

在线阅读 下载PDF 职称材料

基于CycleGAN和注意力增强迁移学习的小样本鱼类识别 被引量：10

3

作者 刘世晶 刘阳春 +3 位作者 钱程 郑浩君 周捷 张成林 《农业机械学报》 EI CAS CSCD 北大核心 2023年第S01期296-302,共7页

围绕水产养殖水下目标精准识别的产业发展需求,针对小样本目标识别精度低、模型算法场景适应能力差等问题,提出一种基于改进循环对抗网络(Cycle constraint adversarial network,CycleGAN)样本扩增和注意力增强迁移学习的小样本养殖鱼... 围绕水产养殖水下目标精准识别的产业发展需求,针对小样本目标识别精度低、模型算法场景适应能力差等问题,提出一种基于改进循环对抗网络(Cycle constraint adversarial network,CycleGAN)样本扩增和注意力增强迁移学习的小样本养殖鱼类识别方法。利用水下采样装备收集实际养殖场景和可控养殖场景大黄鱼图像,并以可控场景图像作为辅助样本集。利用CycleGAN为基础框架实现辅助样本到实际养殖场景图像的迁移,并提出一种基于最大平均差异(Maximum mean discrepancy,MMD)的迁移模型损失函数优化方法。在迁移学习阶段使用ResNet50为基础框架,并引入SK-Net(Selective kernel network)注意力机制优化模型对不同感受野目标的感知能力,提升模型对无约束鱼类目标的识别精度。试验结果表明,本文方法有效提升了小样本鱼类目标的识别能力,鱼类识别召回率达到94.33%,平均精度均值达到96.67%,为鱼类行为跟踪和表型测量提供了有效的技术支撑。 展开更多

关键词 大黄鱼识别 循环对抗网络 注意力增强 SK-Net 迁移学习 注意力机制

在线阅读 下载PDF 职称材料

基于汇聚CNN和注意力增强网络的遮挡人脸检测方法 被引量：2

4

作者 项丽萍 杨红菊 《数据采集与处理》 CSCD 北大核心 2021年第1期95-102,共8页

针对现实场景中遮挡人脸检测精度低的问题,提出了一种基于汇聚CNN和注意力增强网络的遮挡人脸检测方法。首先,在主网络的多层原始特征图上,通过有监督学习的方法增强原始特征图中人脸可见部分的响应值。然后,将多个增强特征图组合成附... 针对现实场景中遮挡人脸检测精度低的问题,提出了一种基于汇聚CNN和注意力增强网络的遮挡人脸检测方法。首先,在主网络的多层原始特征图上,通过有监督学习的方法增强原始特征图中人脸可见部分的响应值。然后,将多个增强特征图组合成附加增强网络与主网络汇聚设置,以加快对多尺度遮挡人脸的检测速度。最后,将有监督信息分散到各个尺寸的特征图上进行监督学习,为不同尺寸的特征图设置了基于锚框尺寸的损失函数。在WIDER FACE和MAFA数据集上的实验结果表明,该方法的检测精度高于当前主流人脸检测方法。 展开更多

关键词 遮挡人脸检测 卷积神经网络 注意力增强网络 有监督学习 多尺度

在线阅读 下载PDF 职称材料

基于特征融合的注意力增强卷积神经网络的航空发动机滚动轴承故障诊断方法 被引量：17

5

作者 李泽东 李志农 +2 位作者 陶俊勇 毛清华 张旭辉 《兵工学报》 EI CAS CSCD 北大核心 2022年第12期3228-3239,共12页

针对现有基于深度卷积神经网络的故障诊断方法只考虑对信息局部特征的提取、忽视全局信息的不足,将可以把握全局信息的注意力机制融入卷积层,使得注意力机制参数和卷积层参数参与网络的训练,提出一种注意力增强卷积神经网络的机械故障... 针对现有基于深度卷积神经网络的故障诊断方法只考虑对信息局部特征的提取、忽视全局信息的不足,将可以把握全局信息的注意力机制融入卷积层,使得注意力机制参数和卷积层参数参与网络的训练,提出一种注意力增强卷积神经网络的机械故障诊断方法。通过经验模态分解、变分模态分解和小波包分解的方法提取滚动轴承振动信号的高维特征模量;将特征模量组成多通道样本输入到注意力增强卷积神经网络中进行训练,利用网络对特征模量自适应地融合和选择,从而挖掘特征模量的隐式特征;使用Softmax分类器进行分类识别;通过训练好的网络对高转速下的滚动轴承进行故障诊断;利用不同信噪比的信号对所提方法进行测试,以验证网络的泛化能力和故障诊断效果。实验结果表明:该方法能准确、有效地对航空发动机滚动轴承不同故障的损伤程度进行分类识别。 展开更多

关键词 注意力增强卷积 深度卷积神经网络 特征融合 航空发动机滚动轴承 故障诊断

在线阅读 下载PDF 职称材料

基于三维图卷积与注意力增强的行为识别模型 被引量：10

6

作者 曹毅 刘晨 +2 位作者 盛永健 黄子龙 邓小龙 《电子与信息学报》 EI CSCD 北大核心 2021年第7期2071-2078,共8页

针对当前行为识别方法无法有效提取非欧式3维骨架序列的时空信息与缺乏针对特定关节关注的问题,该文提出了一种基于3维图卷积与注意力增强的行为识别模型。首先,介绍了3维卷积与图卷积的具体工作原理;其次,基于图卷积中可处理变长邻居... 针对当前行为识别方法无法有效提取非欧式3维骨架序列的时空信息与缺乏针对特定关节关注的问题,该文提出了一种基于3维图卷积与注意力增强的行为识别模型。首先,介绍了3维卷积与图卷积的具体工作原理;其次,基于图卷积中可处理变长邻居节点的图卷积核,引入3维卷积的3维采样空间将2维图卷积核改进为具有3维采样空间的3维图卷积核,提出一种3维图卷积方法。针对3维采样空间内的邻居节点,通过3维图卷积核,实现了对骨架序列中时空信息的有效提取;然后,为增强对于特定关节的关注,聚焦重要的动作信息,设计了一种注意力增强结构;再者,结合3维图卷积方法与注意力增强结构,构建了基于3维图卷积与注意力增强的行为识别模型;最后,基于NTU-RGBD和MSR Action 3D骨架动作数据集开展了骨架行为识别的研究。研究结果进一步验证了基于3维图卷积与注意力增强的行为识别模型针对时空信息的有效提取能力及识别准确率。 展开更多

关键词 行为识别 3维图卷积 注意力增强 时空信息

在线阅读 下载PDF 职称材料

基于注意力增强全卷积神经网络的高分卫星影像建筑物提取 被引量：9

7

作者 郭文 张荞 《国土资源遥感》 CSCD 北大核心 2021年第2期100-107,共8页

从卫星遥感影像中自动提取建筑物在国民经济社会发展中具有广泛的应用价值,由于卫星遥感影像存在地物遮挡、光照、背景环境等因素的影响,传统方法难以实现高精度建筑物提取。采用一种基于注意力增强的特征金字塔神经网络方法(FPN-SENet)... 从卫星遥感影像中自动提取建筑物在国民经济社会发展中具有广泛的应用价值,由于卫星遥感影像存在地物遮挡、光照、背景环境等因素的影响,传统方法难以实现高精度建筑物提取。采用一种基于注意力增强的特征金字塔神经网络方法(FPN-SENet),利用多源高分辨率卫星影像和矢量成果数据快速构建大规模的像素级建筑物数据集(SCRS数据集),实现多源卫星影像的建筑物自动提取,并与常用的全卷积神经网络进行对比。研究结果表明:SCRS数据集的提取精度接近国际领先的卫星影像开源数据集,且假彩色数据精度高于真彩色数据;FPN-SENet的建筑物提取精度优于其他常用的全卷积神经网络;采用交叉熵和dice系数之和为损失函数能够提升建筑物提取精度,最好的分类模型在测试数据上的分类总体精度为95.2%,Kappa系数为79.0%,F1分值和IoU分别达到了81.7%和69.1%。该研究可为高分辨率卫星影像建筑物自动提取提供参考。 展开更多

关键词 国产高分卫星影像 建筑物 语义分割 注意力增强

在线阅读 下载PDF 职称材料

基于多分支注意力增强的细粒度图像分类 被引量：8

8

作者 张文轩 吴秦 《计算机科学》 CSCD 北大核心 2022年第5期105-112,共8页

针对细粒度图像类间差距小、类内差距大的问题,文中提出以弱监督学习的方式使用多分支注意力增强卷积网络,从而实现细粒度图像分类。文中采用Inception-V3网络提取图像的基础特征,从中获取多个局部响应区域并进行特征融合,在此基础上采... 针对细粒度图像类间差距小、类内差距大的问题,文中提出以弱监督学习的方式使用多分支注意力增强卷积网络,从而实现细粒度图像分类。文中采用Inception-V3网络提取图像的基础特征,从中获取多个局部响应区域并进行特征融合,在此基础上采用注意力机制对图像关键区域进行自约束的局部裁剪和局部擦除,避免仅提取目标单个部位的特征,促使网络更加关注目标物体不同部位的细节特征,同时也提升了目标区域的定位精度。此外,文中提出中心正则化损失函数来约束训练过程中获取的注意力区域,以进一步提升目标定位精度和扩大图像特征的类间差距。在3个公开数据集上进行了实验,结果表明,所提方法取得了比当前最优方法更好的结果。 展开更多

关键词 细粒度图像分类 弱监督学习 多分支注意力增强 卷积神经网络 中心正则化损失

在线阅读 下载PDF 职称材料

基于注意力增强的点阵Transformer的中文命名实体识别方法 被引量：4

9

作者 韩晓凯 岳颀 +2 位作者 褚晶 史伟亮 韩展 《厦门大学学报（自然科学版）》 CAS CSCD 北大核心 2022年第6期1062-1071,共10页

对于中文命名实体识别任务,一种非常有效的方法是创建能结合字与词语信息的点阵,利用词语语义信息的同时减少分词错误带来的影响.然而点阵在通过词典匹配句子中潜在词语的过程中,也会引入相关性低的信息以及噪声,导致基于注意力机制的Tr... 对于中文命名实体识别任务,一种非常有效的方法是创建能结合字与词语信息的点阵,利用词语语义信息的同时减少分词错误带来的影响.然而点阵在通过词典匹配句子中潜在词语的过程中,也会引入相关性低的信息以及噪声,导致基于注意力机制的Transformer出现注意力分散的情况,而且引入词语信息也会降低模型对句子语义的关注.为解决这些问题,提出了一种新的注意力增强模型,命名为注意力增强的点阵Transformer(attention-enhanced lattice Transformer,AELT).AELT对注意力进行了稀疏处理,使模型只关注相关性最高的内容,能够有效减少上下文中的噪声干扰,同时并行添加了专用于对语句进行语义分析的Transformer,使模型重点关注语句本身,并将词语信息作为辅助信息完成实体识别任务.实验结果表明:AELT在Weibo、Resume、Ontonotes和MSRA这些主流数据集上有着不错的性能表现. 展开更多

关键词 TRANSFORMER 点阵 稀疏注意力 注意力增强 中文命名实体识别

在线阅读 下载PDF 职称材料

融合预训练和注意力增强的中文自动摘要研究 被引量：2

10

作者 李旭军 王珺 余孟 《计算机工程与应用》 CSCD 北大核心 2023年第14期134-141,共8页

通过对源文本信息压缩来提炼文本核心内容。目前,大多数生成式自动摘要任务采用基于注意力机制的序列到序列模型,但该模型解码预测生成的摘要具有语义准确率低且内容重复率高的问题。针对上述问题,提出了一种融合预训练和注意力增强的... 通过对源文本信息压缩来提炼文本核心内容。目前,大多数生成式自动摘要任务采用基于注意力机制的序列到序列模型,但该模型解码预测生成的摘要具有语义准确率低且内容重复率高的问题。针对上述问题,提出了一种融合预训练和注意力增强的自动摘要生成方法来提高生成摘要的质量。该模型以带覆盖机制的指针生成网络(pointer generator network,PGN)模型为基础,利用Transformer模型的编码器预训练文本获得具有语义联系的词向量;在序列到序列模型的解码器中,通过注意力增强机制让解码端的当前时刻注意力分布参考历史时刻注意力分布信息;优化束搜索算法抑制解码端输出短句。实验评价指标采用ROUGE值。在公共中文数据集NLPCC2018和LCSTS上的实验结果表明,与伴随覆盖机制的PGN模型训练结果相比,ROUGE-1、ROUGE-2和ROUGE-L指标均得到了提高,验证了所提方法的先进性和有效性。 展开更多

关键词 生成式摘要 指针生成网络(PGN) 预训练 注意力增强机制

在线阅读 下载PDF 职称材料

红外弱光下多特征融合与注意力增强铁路异物检测 被引量：2

11

作者 陈永 王镇 +1 位作者 卢晨涛 张娇娇 《北京航空航天大学学报》 EI CAS CSCD 北大核心 2023年第8期1884-1895,共12页

针对红外弱光环境下铁路异物检测时存在目标特征提取不充分、检测精度及实时性低的问题,在CenterNet目标检测模型的基础上,提出了一种红外弱光下多特征融合与注意力增强的无锚框异物检测深度学习模型。在红外目标多尺度特征提取的基础上... 针对红外弱光环境下铁路异物检测时存在目标特征提取不充分、检测精度及实时性低的问题,在CenterNet目标检测模型的基础上,提出了一种红外弱光下多特征融合与注意力增强的无锚框异物检测深度学习模型。在红外目标多尺度特征提取的基础上,引入自适应特征融合(ASFF)模块,充分利用目标高层语义与底层细粒度特征信息,提升红外目标特征提取能力。通过提出的空洞卷积增强注意力模块(Dilated-CBAM)进行关键特征提取,扩大注意力模块感受野范围,克服了原始CenterNet卷积块感受野映射区域变窄、无法检测弱小目标的问题,提升了无锚框网络的检测精度。使用Smooth L1损失函数进行训练,克服了L1损失函数在网络训练过程收敛速度慢及训练不稳定解的问题。通过铁路红外数据集及现场实验测试,结果表明:所提方法较原始CenterNet模型平均检测精度提高了8.03%,检测框置信度提升了31.23%,平均检测速率是Faster R-CNN模型的9.6倍,所提方法在红外弱光环境下能够更加快速准确地检测出铁路异物,主客观评价均优于对比方法。 展开更多

关键词 机器视觉 红外弱光 异物检测 自适应特征融合 空洞卷积增强注意力模块 无锚框网络

在线阅读 下载PDF 职称材料

融合域迁移和注意力机制的水下图像增强 被引量：1

12

作者 姚婷婷 冯子豪 肇恒鑫 《光学精密工程》 北大核心 2025年第2期298-310,共13页

水下环境存在复杂的光线衰减和散射现象,使得成像设备拍摄到的原始图像存在明显的质量退化问题。基于深度学习的水下图像增强方法在一定程度上提高了原始图像成像质量,但现有方法大多使用人工合成或模型生成的配对数据集进行训练。由于... 水下环境存在复杂的光线衰减和散射现象,使得成像设备拍摄到的原始图像存在明显的质量退化问题。基于深度学习的水下图像增强方法在一定程度上提高了原始图像成像质量,但现有方法大多使用人工合成或模型生成的配对数据集进行训练。由于训练样本与真实图像在数据分布上存在较大域差,因此容易出现过度增强、色偏去除不明显等现象。针对上述问题,该文提出了融合域迁移和注意力机制的水下图像增强模型。首先,设计了域迁移图像生成网络,结合物理成像模型和水型分类器,学习不同场景下不同域图像间的特征描述映射关系,减小生成图像与真实图像之间的差异性。然后,设计了多尺度混合注意力编解码网络,通过引入高效的特征连接和注意力融合机制,提高了网络对图像局部细节区域的增强能力。最后,提出了全局域关联一致性损失函数,通过构建域迁移过程中各阶段生成图像的内容和结构一致性关联,更好地训练网络模型参数,提高图像增强质量。所提模型在水下真实数据集UIEB和EUVP上UIQM和UCIQE指标分别取得了3.140 1,0.602 1和3.076 8,0.612 4的精度。实验结果表明,模型可以有效提高水下图像的增强质量,色彩恢复更自然,细节增强效果更显著。 展开更多

关键词 水下图像增强 域迁移 生成对抗网络 注意力增强

在线阅读 下载PDF 职称材料

基于多重相似性和增强注意力预测药物-靶标相互作用

13

作者 王伟 余梦雪 +5 位作者 孙斌 万仕彤 刘栋 周运 张红军 王鲜芳 《河南师范大学学报(自然科学版)》 北大核心 2025年第2期99-107,共9页

在新药发现和药物重定位研究中,发现药物与靶标之间的相互作用是重要的研究内容.针对药物与靶标相互作用网络,提出一种基于多重相似性和增强注意力机制的图卷积神经网络模型(RSGCN)预测药物-靶标相互作用.首先,提出了多重相似性来捕捉... 在新药发现和药物重定位研究中,发现药物与靶标之间的相互作用是重要的研究内容.针对药物与靶标相互作用网络,提出一种基于多重相似性和增强注意力机制的图卷积神经网络模型(RSGCN)预测药物-靶标相互作用.首先,提出了多重相似性来捕捉网络结构特征,以充分利用节点间的直接或间接关系.然后,通过PCA降维减少相似性噪声对实验结果的影响.最后,采用图卷积神经网络(graph convolution neural network,GCN)获得节点嵌入表示,并融入基于注意力的增强层,通过增强注意力机制获得节点间的注意力权重,能够高效地预测药物与靶标之间的相互作用.在黄金标准数据集上的实验结果表明RSGCN模型具有较好的性能. 展开更多

关键词 图卷积神经网络(GCN) 多重相似性 PCA 增强注意力机制 药物-靶标相互作用

在线阅读 下载PDF 职称材料

结合卷积增强窗口注意力的双分支语音增强神经网络

14

作者 张晨辉 原之安 钱宇华 《计算机研究与发展》 北大核心 2025年第4期852-862,共11页

在复杂环境以及突发背景噪音条件下,语音增强任务具有极大的困难和挑战.主要原因是现有的语音增强方法未能有效捕获语谱图特征,尤其是局部信息.在过去的研究中,Transformer模型更专注于音频的全局信息,而忽略了局部信息的重要性.在音频... 在复杂环境以及突发背景噪音条件下,语音增强任务具有极大的困难和挑战.主要原因是现有的语音增强方法未能有效捕获语谱图特征,尤其是局部信息.在过去的研究中,Transformer模型更专注于音频的全局信息,而忽略了局部信息的重要性.在音频经过短时傅里叶变换(STFT)处理后,多数模型仅使用幅值信息,而忽略了相位信息,导致它们未能有效捕获语谱图特征,从而影响了语音增强的效果.基于此设计出一个带有卷积增强窗口注意力的双分支语音增强神经网络.该模型采用U-NET架构,通过双分支结构对音频的幅值和相位信息同时建模;在2个分支之间引入复值计算模块以实现信息交互;在编码器层和解码器层之间的跳跃连接部分采用卷积增强窗口注意力模块,该模块执行基于非重叠窗口的自注意力操作,在捕获局部上下文信息的同时显著降低了语音增强模型的计算复杂度.该模型在公开的Voicebank-Demand数据集上进行测试,与基线模型DCUNET 16和DCUNET20相比,在客观语音质量评估指标PESQ(perceptual evaluation of speech quality)分别提高了0.51和0.47.除了PESQ指标外,其他指标也都有显著的提升.相较于现有的各类语音增强模型,该模型在各项指标上均处于领先水平,尤其是在PESQ得分方面的提升更为显著. 展开更多

关键词 语音增强 双分支网络 语谱图特征 卷积增强窗口注意力 全局信息 局部信息

在线阅读 下载PDF 职称材料

基于频域注意力的结构地震响应预测方法

15

作者 郭茂祖 崔正 +1 位作者 赵玲玲 张庆宇 《计算机应用》 北大核心 2025年第11期3730-3738,共9页

现有方法难以准确预测建筑物对地震等动态载荷的结构响应,存在无法有效学习地震波周期性变化以及解决特征融合不充分等问题。因此,提出一种基于频域注意力机制的结构响应深度学习预测模型。该模型结合频域增强的注意力机制与门控递归单... 现有方法难以准确预测建筑物对地震等动态载荷的结构响应,存在无法有效学习地震波周期性变化以及解决特征融合不充分等问题。因此,提出一种基于频域注意力机制的结构响应深度学习预测模型。该模型结合频域增强的注意力机制与门控递归单元(GRU),利用地震波时间序列数据在频域上稀疏的特点,深度挖掘地震波在频域上的特征信息;并且保留了GRU在时间序列任务上的高效性,从而可有效编码地震波的潜在特征。同时引入权重堆叠的金字塔网络结构,通过跨层的捷径解决了深层网络训练困难的问题。此外,还提出了一种自回归的预测框架,借助历史结构响应作为辅助特征,进一步丰富特征空间,提高网络的预测精度。针对3个案例的实验结果表明,所提模型在预测的准确性和可靠性方面均超越了残差长短时记忆(ResLSTM)网络、物理知识嵌入的长短时记忆(PhyLSTM)网络等。 展开更多

关键词 结构响应预测 时间序列预测 深度学习 门控递归单元 频域注意力增强 频域特征融合

在线阅读 下载PDF 职称材料

基于增强多头注意力机制的Optuna-BiGRU测井岩性识别 被引量：7

16

作者 王婷婷 王振豪 +1 位作者 李方 赵万春 《地球科学与环境学报》 CAS 北大核心 2024年第1期127-142,共16页

测井岩性识别是油气勘探开发中至关重要的内容。针对现有算法模型在处理测井曲线数据时,无法有效捕获曲线内部深层关联和深度方向关系、拟合能力较弱、难以准确提取关键特征、噪声干扰以及模型超参数调优过程复杂困难等问题,提出了一种... 测井岩性识别是油气勘探开发中至关重要的内容。针对现有算法模型在处理测井曲线数据时,无法有效捕获曲线内部深层关联和深度方向关系、拟合能力较弱、难以准确提取关键特征、噪声干扰以及模型超参数调优过程复杂困难等问题,提出了一种通过Optuna超参数优化双向门循环单元(Optuna-BiGRU)结合增强多头注意力机制(EMHA)的测井岩性识别模型——Optuna-BiGRU-EMHA模型。该模型引入残差机制和层归一化以改进多头注意力机制模块,并结合双向门循环单元(BiGRU)解决了处理测井数据时的问题,同时使用Optuna超参数优化框架和小波包自适应阈值方法分别解决了超参数调优和噪声干扰问题。首先通过交会图分析和敏感性箱线图分析选取自然伽马、深感应电阻率、中子-密度孔隙度、平均中子-密度孔隙度和岩性密度5个特征参数的测井数据,通过小波包自适应阈值方法对数据进行去噪,并将测井数据分割成数据块,然后利用Optuna框架优化BiGRU-EMHA模型超参数,最后通过实验对比K-近邻算法(KNN)、随机森林(RF)、极端梯度提升算法(XGBoost)、长短期记忆(LSTM)神经网络、BiGRU、双向长短期记忆(BiLSTM)神经网络、BiGRU-MHA、Optuna-BiGRU-EMHA等8种模型在测井岩性识别中的精度。结果表明:Optuna-BiGRU-EMHA模型识别准确率达到80%,相对于传统机器学习模型和深度学习模型,综合岩性识别准确率分别提高15.94%~23.14%和3.93%~15.94%,该模型为常规测井岩性识别提供了坚实的理论支持。 展开更多

关键词 岩性识别 深度学习 BiGRU 增强多头注意力机制 小波包自适应阈值 超参数优化

在线阅读 下载PDF 职称材料

融合注意力与多尺度特征的遥感图像配准 被引量：3

17

作者 倪力政 陈颖 +2 位作者 李翔 邓修涵 马腾 《计算机工程与应用》 北大核心 2025年第3期275-285,共11页

针对遥感图像地理信息复杂多变、局部细节与上下文信息难以被充分提取,以及部分配准模型精度较低、用时较长等问题,提出了一种融合注意力与多阶尺度特征的配准模型,在特征提取阶段引入Transformer与逆残差结构结合的轻量级卷积网络,通... 针对遥感图像地理信息复杂多变、局部细节与上下文信息难以被充分提取,以及部分配准模型精度较低、用时较长等问题,提出了一种融合注意力与多阶尺度特征的配准模型,在特征提取阶段引入Transformer与逆残差结构结合的轻量级卷积网络,通过嵌入混合注意力块加深对通道空间信息的关注,进一步地,为了更有效地捕获上下文特征信息,使用增强注意力的多尺度扩张卷积模块进行深层次过滤提取,以获取更精细和丰富的特征语义图。在匹配阶段采用互相关最优加权的双向匹配方法,计算密集对应关系得到双向参数,并通过参数回归网络加权合成最终变换参数,仿射变换完成图像配准。实验结果表明,关键点正确估计的比例系数为0.03、0.05和0.1的情况下,在三个数据集上的配准精度达到61.9%、86.2%、93.6%,而平均配准时间仅为1.05 s,证明了该模型有效提升遥感图像配准的精度和效率。 展开更多

关键词 遥感图像配准 上下文特征 增强注意力 双向匹配

在线阅读 下载PDF 职称材料

基于自增强注意力机制的室内单图像分段平面三维重建 被引量：2

18

作者 朱光辉 缪君 +2 位作者 胡宏利 申基 杜荣华 《图学学报》 CSCD 北大核心 2024年第3期464-471,共8页

基于卷积神经网络(CNN)的分段平面三维重建已然成为室内场景建模研究的焦点之一。针对室内场景中,平面和非平面元素常常交织在一起,导致网络提取的平面特征中掺杂了非平面信息,从而影响了最终分割的精度;且室内场景中的平面存在尺度差... 基于卷积神经网络(CNN)的分段平面三维重建已然成为室内场景建模研究的焦点之一。针对室内场景中,平面和非平面元素常常交织在一起,导致网络提取的平面特征中掺杂了非平面信息,从而影响了最终分割的精度;且室内场景中的平面存在尺度差异巨大的情况,带来了明显的类别不平衡,小尺度平面实例往往会失真的问题。提出了一种自增强注意力的多尺度特征融合三维分段平面重建网络,该网络能够自动学习场景中的平面特征,并有效地将不同尺度的特征信息融合,从而提升了平面实例分割的精度。同时,通过为平面实例中的每个像素分配不同的权重,特别是增加了对小尺度平面边缘像素的权重值,进一步增强了小尺度平面分割对象的通道表达。最终,采用平衡交叉熵损失和骰子损失构建了一种新的损失函数来训练模型,进一步提升了平面分割的精度。实验证明,该算法在平面召回率和分割准确度方面均取得了显著地提升,能够产生更为准确的室内三维分段平面重建模型。 展开更多

关键词 深度学习 分段平面重建 多尺度融合 增强注意力 自注意力

在线阅读 下载PDF 职称材料

基于非对称增强注意力与特征交叉融合的行人重识别方法 被引量：1

19

作者 金梅 李媛媛 +2 位作者 郝兴军 杨曼 张立国 《计量学报》 CSCD 北大核心 2022年第12期1573-1580,共8页

针对现有的行人重识别方法提取到的特征信息充分性与辨识性不足导致检索精度低的问题,提出一种基于非对称增强注意力与特征交叉融合的行人重识别方法。首先,构建非对称增强注意力模块,通过多重池化聚合的跨邻域通道交互注意力增强显著... 针对现有的行人重识别方法提取到的特征信息充分性与辨识性不足导致检索精度低的问题,提出一种基于非对称增强注意力与特征交叉融合的行人重识别方法。首先,构建非对称增强注意力模块,通过多重池化聚合的跨邻域通道交互注意力增强显著特征表示,使网络聚焦于图像中的行人区域;其次,考虑到网络各层特征间的差异性与关联性,构建特征交叉融合模块,利用交叉融合方式实现同层不同级特征的跨层级融合,进而实现多尺度融合;最后,水平切分输出特征以获取局部特征,从而实现在特定区域上描述行人。在Market1501、DukeMTMC-reID与CUHK03这3个公开数据集上对提出的方法进行了验证,首位命中率(Rank-1)分别达到了93.5%、85.1%和64.3%,证明了该方法在提升行人重识别性能上具有优越性。 展开更多

关键词 计量学 行人重识别 非对称增强注意力 特征交叉融合 深度学习 首位命中率

在线阅读 下载PDF 职称材料

基于空谱增强变换的高光谱壁画图像修复

20

作者 张勉 赵家昱 +1 位作者 周晗 廉玉生 《光谱学与光谱分析》 北大核心 2025年第7期2045-2053,共9页

壁画和彩绘的无损修复是建筑文化遗产保护和传承的重要课题和研究热点。高光谱成像技术具有“图谱合一”的优势,可同时获得图像目标的二维空间信息和一维光谱信息;能在无接触、无需独立样本的条件下,对壁画和彩绘文物进行光谱数字典藏... 壁画和彩绘的无损修复是建筑文化遗产保护和传承的重要课题和研究热点。高光谱成像技术具有“图谱合一”的优势,可同时获得图像目标的二维空间信息和一维光谱信息;能在无接触、无需独立样本的条件下,对壁画和彩绘文物进行光谱数字典藏和无损分析,已经成为文物数字典藏、修复和分析的重要技术手段。现有的RGB彩色壁画图像修复方法,无法实现高光谱图像中多波段光谱信息的典藏、修复和分析;此外,现有的基于卷积神经网络的深度生成式彩色壁画图像修复方法,存在空间结构和光谱特征建模能力不足、全局信息探索和建模能力弱等缺点,严重影响图像的修复精度。为解决以上问题,本文提出一种基于空谱增强变换的高光谱壁画图像修复方法。首先将待修复的高光谱壁画图像光谱降维,转换为RGB彩色图像;然后,利用提出的基于空谱增强变换的生成对抗网络,对该RGB彩色图像的空间和颜色信息进行修复;提出的修复网络分为空间信息预修复网络(Spa-PIN)和空间-颜色信息修复网络(Spa-Color-IN),结合空间注意力和光谱注意力模块(SAESA),实现壁画图像的有效修复。在空间信息结构重建阶段,着重于壁画图像的基本形态与纹理重构;在色彩修复阶段,则进行空间注意力和光谱注意力的增强,提高修复质量;最后,利用提出的聚类BPNN将修复的RGB图像升维重建,得到修复的目标高光谱图像数据立方体。本文提出的空谱增强变换注意力机制对图像特征进行空间坐标卷积融合和光谱立方体局部-全局注意力融合,可同时关注图像全局和局部范围的空谱相关性,增强空谱细节的修复能力。公共数据集上的实验结果表明,与当前的三种先进修复方法比,本方法具有最优的定量指标和修复效果,可有效、准确地修复高光谱壁画彩绘图像,为壁画和彩绘等建筑遗产的高精度典藏、修复和分析提供新的先进技术手段。 展开更多

关键词 壁画修复 空谱联合注意力增强 TRANSFORMER 高光谱图像修复

在线阅读 下载PDF 职称材料