检索结果-维普期刊中文期刊服务平台

基于交叉多头注意力的查询式文本摘要生成: 1; 作者何东欢李旸王素格《中文信息学报》北大核心 2025年第7期138-147,共10页; 生成是一项根据给定文档和查询,生成与查询相关摘要的任务。该文将查询式摘要生成任务转换为阅读理解任务,将文档与查询进行交互,建立了基于交叉多头注意力的Transformer架构的多源指针生成式摘要新模型。该模型通过BERT预训练模型,建... 展开更多; 关键词查询式文本摘要生成机器阅读理解交叉多头注意力机制多源指针生成网络; 在线阅读下载PDF 职称材料

多尺度注意力融合与视觉Transformer方法优化的电阻抗层析成像深度学习方法被引量：2: 2; 作者王琦张涛 +2 位作者徐超炜卢梦凡王子辰《仪器仪表学报》 EI CAS CSCD 北大核心 2024年第7期52-63,共12页; 电阻抗层析成像(EIT)具有显著的可视化和非侵入性等特点,在工业和生物医学工程领域展现了其广阔的应用潜力。由于其逆问题存在高度非线性和病态性特点,导致了数值成像方法在空间分辨率上的局限性,尤其是在多相介质分布情况下,现有EIT技... 展开更多; 关键词电阻抗层析成像卷积注意力机制 SE-ViT连接多头交叉注意力模块 U型卷积网络无损测量; 在线阅读下载PDF 职称材料

解耦知识蒸馏在文档级关系抽取中的应用: 3; 作者刘乐肖蓉杨肖《计算机科学》北大核心 2025年第8期277-287,共11页; 文档级关系抽取是自然语言处理领域中的一个重要研究方向,旨在从无结构或半结构的自然语言文档中提取实体之间的语义关系。提出了结合使用解耦知识蒸馏方法和交叉多头注意力机制来解决文档级关系抽取任务。首先,交叉多头注意机制不仅能... 展开更多; 关键词自然语言处理文档级关系抽取 DocRED 交叉多头注意力解耦知识蒸馏远程监督数据 KL散度; 在线阅读下载PDF 职称材料

一种融合CNN与Transformer的高鲁棒性目标跟踪算法: 4; 作者刘沛津付雪峰 +2 位作者孙浩峰何林刘淑婕《系统仿真学报》 CAS CSCD 北大核心 2024年第8期1854-1868,共15页; 针对因目标物体形变、尺度变化、快速运动和遮挡等导致目标跟踪算法性能下降的问题,基于孪生网络架构提出了一种融合CNN与Transformer的高鲁棒性目标跟踪算法。在特征提取阶段,使用标准卷积提取浅层局部特征信息,在深层网络中设计了一... 展开更多; 关键词目标跟踪孪生网络 TRANSFORMER 多头交叉注意力机制高鲁棒性; 在线阅读下载PDF 职称材料

基于并联分支联合编码的网络恶意流量分类研究: 5; 作者马自强崔梦真 +1 位作者杨天宇张宁宁《通信学报》 2025年第8期193-204,共12页; 针对单分支模型无法完整表述流量信息且并联分支模型无法很好地融合各个支路提取特征的问题,提出了一种基于并联分支联合编码的网络恶意流量分类模型。在特征提取方面,采用分裂注意力残差网络和双向长短期记忆网络(Bi-LSTM)对原始流量... 展开更多; 关键词流量分类并联分支联合双向长短期记忆网络交叉多头自注意力机制; 在线阅读下载PDF 职称材料

融合场景特征的跨模态图像美学评价: 6; 作者牛玉贞陈珊珊 +1 位作者李悦洲刘文犀《计算机辅助设计与图形学学报》 2025年第7期1270-1282,共13页; 现有的图像美学评价方法通常依赖图像本身而忽略了用户评论中的丰富语义信息,因此在性能方面呈现一定的局限性.一些研究尝试结合用户评论辅助进行图像美学评价,但未能充分地挖掘图像特征,且未能较好地对图像-文本特征的复杂关系进行建模... 展开更多; 关键词图像美学评价跨模态学习场景特征多头交叉注意力机制多尺度特征融合; 在线阅读下载PDF 职称材料

题名基于交叉多头注意力的查询式文本摘要生成: 1; 作者何东欢李旸王素格; 机构山西大学计算机与信息技术学院山西财经大学金融学院山西大学计算智能与中文信息处理教育部重点实验室; 出处《中文信息学报》北大核心 2025年第7期138-147,共10页; 基金国家自然科学基金(62376143,62076158,62106130) 山西省自然科学基金(20210302124084)。; 文摘生成是一项根据给定文档和查询,生成与查询相关摘要的任务。该文将查询式摘要生成任务转换为阅读理解任务,将文档与查询进行交互,建立了基于交叉多头注意力的Transformer架构的多源指针生成式摘要新模型。该模型通过BERT预训练模型,建立文档、查询和摘要的嵌入表示,再在Transformer架构中,通过交叉的多头注意力机制,建立查询与文档的交互深层语义表示。在此基础上,使用多源指针生成网络,使生成的摘要与文档和查询内容具有语义一致性和表达连贯性。最后,在查询式文本摘要生成数据集Debatepedia和Querysum-data上,与已有方法进行对比实验,实验结果验证了该文摘要生成模型CMAT-PG的有效性。; 关键词查询式文本摘要生成机器阅读理解交叉多头注意力机制多源指针生成网络; Keywords query focused summarization generation machine reading comprehension cross multi-head attention mechanism multi-source pointer-generator network; 分类号 TP391 [自动化与计算机技术—计算机应用技术]; 在线阅读下载PDF 职称材料

题名多尺度注意力融合与视觉Transformer方法优化的电阻抗层析成像深度学习方法被引量：2: 2; 作者王琦张涛徐超炜卢梦凡王子辰; 机构天津工业大学电子与信息工程学院天津市光电检测技术与系统重点实验室; 出处《仪器仪表学报》 EI CAS CSCD 北大核心 2024年第7期52-63,共12页; 基金国家自然科学基金(62072335,62071328,61872269,61903273)项目资助。; 文摘电阻抗层析成像(EIT)具有显著的可视化和非侵入性等特点,在工业和生物医学工程领域展现了其广阔的应用潜力。由于其逆问题存在高度非线性和病态性特点,导致了数值成像方法在空间分辨率上的局限性,尤其是在多相介质分布情况下,现有EIT技术在成像过程中出现边界失真和电导率误差,从而影响最终的成像精度。本文提出了一种基于卷积注意力机制的U型深度成像方法——MAT-UNet,将卷积块注意力模块(CBAM)与U-Net结构相结合,在特征提取与融合过程中嵌入卷积块注意力模块,以增强模型的注意力定向和特征表征能力,同时跳跃连接引入了压缩-激励(SE)注意力机制与视觉Transformer(ViT)来优化全局特征的学习,使用多头交叉注意力模块(MHCA)实现编码器与解码器的多尺度信息融合。MAT-UNet通过大量的仿真数据训练获得最优模型参数,并在多样化复杂形状和肺部仿真模型进行了实验验证。定量评估指标表明,该方法在重建图像中的均方根误差(RMSE)结果为2.3156,结构相似性指数(SSIM)结果为0.9437,可视化结果与真实分布和边界具有很好的一致性。实验结果表明,本文提出的MAT-UNet模型展现出良好的鲁棒性和泛化能力,相较于传统的单一卷积结构,集成Transformer结构提供了更精准的EIT图像重建效果,在无损测量与检测应用中存在很大的潜力和价值。; 关键词电阻抗层析成像卷积注意力机制 SE-ViT连接多头交叉注意力模块 U型卷积网络无损测量; Keywords electrical impedance tomography convolutional attention mechanism SE-ViT connection multi-head cross-attention mechanism U-shaped convolutional network non-destructive measurement; 分类号 R318 [医药卫生—生物医学工程] TH701 [机械工程—精密仪器及机械]; 在线阅读下载PDF 职称材料

题名解耦知识蒸馏在文档级关系抽取中的应用: 3; 作者刘乐肖蓉杨肖; 机构湖北大学计算机与信息工程学院; 出处《计算机科学》北大核心 2025年第8期277-287,共11页; 基金湖北省自然科学基金(E1KF291005) 云南省自然科学基金(2022KZ00125)。; 文摘文档级关系抽取是自然语言处理领域中的一个重要研究方向,旨在从无结构或半结构的自然语言文档中提取实体之间的语义关系。提出了结合使用解耦知识蒸馏方法和交叉多头注意力机制来解决文档级关系抽取任务。首先,交叉多头注意机制不仅能够并行关注不同注意力头中的元素,使模型在不同粒度和层级上进行信息的交流和整合,而且允许模型在计算头实体与尾实体之间的注意力时,同时考虑它们与关系之间的相关性,从而提升模型对复杂关系的理解能力,增强模型对实体特征表示的学习。此外,为了进一步优化模型性能,还引入了解耦知识蒸馏方法去适应远程监督数据。该方法将原始KL散度损失中的目标类别知识蒸馏损失TCKDL和非目标类别知识蒸馏损失NCKDL解耦为了两个可以通过超参数调整其权重重要性的独立部分,提高了知识蒸馏过程的灵活性和有效性,特别是在处理DocRED远程监督数据中的噪声时,能够更精准地进行知识迁移和学习。实验结果表明,所提模型在DocRED数据集上能够更有效地提取实体对之间的关系。; 关键词自然语言处理文档级关系抽取 DocRED 交叉多头注意力解耦知识蒸馏远程监督数据 KL散度; Keywords Natural language processing Document-Level relation extraction DocRED Cross Multi-head attention Decoupled knowledge distillation Distantly supervised data Kullback-Leibler divergence; 分类号 TP391 [自动化与计算机技术—计算机应用技术]; 在线阅读下载PDF 职称材料

题名一种融合CNN与Transformer的高鲁棒性目标跟踪算法: 4; 作者刘沛津付雪峰孙浩峰何林刘淑婕; 机构西安建筑科技大学机电工程学院西安建筑科技大学理学院中国地质大学机械与电子信息学院; 出处《系统仿真学报》 CAS CSCD 北大核心 2024年第8期1854-1868,共15页; 基金陕西省重点研发计划(2022GY-134) 陕西省教育厅专项科研(21JK0732) 西安建筑科技大学自然科学专项项目(ZR19058)。; 文摘针对因目标物体形变、尺度变化、快速运动和遮挡等导致目标跟踪算法性能下降的问题,基于孪生网络架构提出了一种融合CNN与Transformer的高鲁棒性目标跟踪算法。在特征提取阶段,使用标准卷积提取浅层局部特征信息,在深层网络中设计了一种类卷积Transformer模块建模全局信息,并采用滑窗方式计算Transformer中的像素值,大大降低了计算量。在特征聚合阶段,采用多头交叉注意力模块构建特征增强与聚合网络,滤除干扰信息,突出与模板相关的信息以提高特征的判别性。与目前的主流算法相比,所提算法在OTB2015数据集上的形变、尺度变化、快速运动和遮挡4种不同挑战下的评估指标均为最优。在GOT-10K数据集上的平均重叠度为70.8%,相比TransT和SiamR-CNN算法分别提高3.7%和5.9%。在LaSOT、UAV123数据集上成功率分别为67.7%、71.9%,相比TransT和SiamR-CNN算法分别提高2.8%、2.8%和2.9%、7%。在VOT2018和VOT2019数据集上的鲁棒性评估结果,所提算法跟踪失败次数最少,鲁棒性指标得分分别为0.112和0.266,相比Ocean算法分别提高0.5%和5%,进一步验证了所提算法具有更高鲁棒性。; 关键词目标跟踪孪生网络 TRANSFORMER 多头交叉注意力机制高鲁棒性; Keywords object tracking siamese network Transformer multi-head cross-attention mechanism high robustness; 分类号 TP391.9 [自动化与计算机技术—计算机应用技术]; 在线阅读下载PDF 职称材料

题名基于并联分支联合编码的网络恶意流量分类研究: 5; 作者马自强崔梦真杨天宇张宁宁; 机构宁夏大学信息工程学院; 出处《通信学报》 2025年第8期193-204,共12页; 基金宁夏自然科学基金资助项目(No.2020AAC03035)。; 文摘针对单分支模型无法完整表述流量信息且并联分支模型无法很好地融合各个支路提取特征的问题,提出了一种基于并联分支联合编码的网络恶意流量分类模型。在特征提取方面,采用分裂注意力残差网络和双向长短期记忆网络(Bi-LSTM)对原始流量分别提取空间特征和时序特征。在分支融合方面,采用交叉多头自注意力机制来利用分支间的关联性,并获得有效的特征融合。最终输入全连接层中进行网络恶意流量分类。在公开数据集USTC-TFC2016上的广泛实验表明,所提模型在准确率、精确度、召回率和F1值等关键性能指标上均表现出显著优势;在针对新型恶意流量的在线学习能力评估中,所提模型同样表现出优越的性能。; 关键词流量分类并联分支联合双向长短期记忆网络交叉多头自注意力机制; Keywords traffic classification parallel branch joint bidirectional long short-term memory network cross multi-head self-attention mechanism; 分类号 TN919 [电子电信]; 在线阅读下载PDF 职称材料

题名融合场景特征的跨模态图像美学评价: 6; 作者牛玉贞陈珊珊李悦洲刘文犀; 机构福州大学计算机与大数据学院; 出处《计算机辅助设计与图形学学报》 2025年第7期1270-1282,共13页; 基金国家自然科学基金联合基金重点项目(U21A20472) 国家自然科学基金面上项目(61972097) +3 种基金福建省科技厅高校产学合作项目(2021H6022).; 文摘现有的图像美学评价方法通常依赖图像本身而忽略了用户评论中的丰富语义信息,因此在性能方面呈现一定的局限性.一些研究尝试结合用户评论辅助进行图像美学评价,但未能充分地挖掘图像特征,且未能较好地对图像-文本特征的复杂关系进行建模,导致图像-文本信息利用不充分且交互不够紧密.为解决上述问题,提出一种融合场景特征的跨模态图像美学评价方法.由于图像场景通常会影响人们对图像的美学评价,因此首先提取图像的场景特征和美学特征,并使用多尺度特征融合模块将两者深度融合;考虑图像-文本特征之间的内在相关性,使用多头交叉注意力机制在图像特征和文本特征之间进行交叉注意力计算,将图像-文本模态信息进行交互融合;最后将融合后的跨模态特征用于美学评价.在通用的大型图像美学评价数据集AVA上的广泛实验结果表明,所提方法在ACC,SRCC和PLCC指标上分别达到了86.96%,0.8523和0.8648,超越了文中对比的跨模态图像美学评价方法.; 关键词图像美学评价跨模态学习场景特征多头交叉注意力机制多尺度特征融合; Keywords image aesthetics assessment cross-modal learning scene features multi-headed cross-attention mechanism multi-scale feature fusion; 分类号 TP391.41 [自动化与计算机技术]; 在线阅读下载PDF 职称材料

	题名	作者	出处	发文年	被引量	操作
1	基于交叉多头注意力的查询式文本摘要生成	何东欢李旸王素格	《中文信息学报》北大核心	2025	0	在线阅读下载PDF 职称材料
2	多尺度注意力融合与视觉Transformer方法优化的电阻抗层析成像深度学习方法	王琦张涛徐超炜卢梦凡王子辰	《仪器仪表学报》 EI CAS CSCD 北大核心	2024	2	在线阅读下载PDF 职称材料
3	解耦知识蒸馏在文档级关系抽取中的应用	刘乐肖蓉杨肖	《计算机科学》北大核心	2025	0	在线阅读下载PDF 职称材料
4	一种融合CNN与Transformer的高鲁棒性目标跟踪算法	刘沛津付雪峰孙浩峰何林刘淑婕	《系统仿真学报》 CAS CSCD 北大核心	2024	0	在线阅读下载PDF 职称材料
5	基于并联分支联合编码的网络恶意流量分类研究	马自强崔梦真杨天宇张宁宁	《通信学报》	2025		在线阅读下载PDF 职称材料
6	融合场景特征的跨模态图像美学评价	牛玉贞陈珊珊李悦洲刘文犀	《计算机辅助设计与图形学学报》	2025		在线阅读下载PDF 职称材料