期刊文献+
共找到4篇文章
< 1 >
每页显示 20 50 100
基于交叉多头注意力的查询式文本摘要生成
1
作者 何东欢 李旸 王素格 《中文信息学报》 北大核心 2025年第7期138-147,共10页
生成是一项根据给定文档和查询,生成与查询相关摘要的任务。该文将查询式摘要生成任务转换为阅读理解任务,将文档与查询进行交互,建立了基于交叉多头注意力的Transformer架构的多源指针生成式摘要新模型。该模型通过BERT预训练模型,建... 生成是一项根据给定文档和查询,生成与查询相关摘要的任务。该文将查询式摘要生成任务转换为阅读理解任务,将文档与查询进行交互,建立了基于交叉多头注意力的Transformer架构的多源指针生成式摘要新模型。该模型通过BERT预训练模型,建立文档、查询和摘要的嵌入表示,再在Transformer架构中,通过交叉的多头注意力机制,建立查询与文档的交互深层语义表示。在此基础上,使用多源指针生成网络,使生成的摘要与文档和查询内容具有语义一致性和表达连贯性。最后,在查询式文本摘要生成数据集Debatepedia和Querysum-data上,与已有方法进行对比实验,实验结果验证了该文摘要生成模型CMAT-PG的有效性。 展开更多
关键词 查询式文本摘要生成 机器阅读理解 交叉多头注意力机制 多源指针生成网络
在线阅读 下载PDF
一种融合CNN与Transformer的高鲁棒性目标跟踪算法
2
作者 刘沛津 付雪峰 +2 位作者 孙浩峰 何林 刘淑婕 《系统仿真学报》 CAS CSCD 北大核心 2024年第8期1854-1868,共15页
针对因目标物体形变、尺度变化、快速运动和遮挡等导致目标跟踪算法性能下降的问题,基于孪生网络架构提出了一种融合CNN与Transformer的高鲁棒性目标跟踪算法。在特征提取阶段,使用标准卷积提取浅层局部特征信息,在深层网络中设计了一... 针对因目标物体形变、尺度变化、快速运动和遮挡等导致目标跟踪算法性能下降的问题,基于孪生网络架构提出了一种融合CNN与Transformer的高鲁棒性目标跟踪算法。在特征提取阶段,使用标准卷积提取浅层局部特征信息,在深层网络中设计了一种类卷积Transformer模块建模全局信息,并采用滑窗方式计算Transformer中的像素值,大大降低了计算量。在特征聚合阶段,采用多头交叉注意力模块构建特征增强与聚合网络,滤除干扰信息,突出与模板相关的信息以提高特征的判别性。与目前的主流算法相比,所提算法在OTB2015数据集上的形变、尺度变化、快速运动和遮挡4种不同挑战下的评估指标均为最优。在GOT-10K数据集上的平均重叠度为70.8%,相比TransT和SiamR-CNN算法分别提高3.7%和5.9%。在LaSOT、UAV123数据集上成功率分别为67.7%、71.9%,相比TransT和SiamR-CNN算法分别提高2.8%、2.8%和2.9%、7%。在VOT2018和VOT2019数据集上的鲁棒性评估结果,所提算法跟踪失败次数最少,鲁棒性指标得分分别为0.112和0.266,相比Ocean算法分别提高0.5%和5%,进一步验证了所提算法具有更高鲁棒性。 展开更多
关键词 目标跟踪 孪生网络 TRANSFORMER 多头交叉注意力机制 高鲁棒性
在线阅读 下载PDF
基于并联分支联合编码的网络恶意流量分类研究
3
作者 马自强 崔梦真 +1 位作者 杨天宇 张宁宁 《通信学报》 2025年第8期193-204,共12页
针对单分支模型无法完整表述流量信息且并联分支模型无法很好地融合各个支路提取特征的问题,提出了一种基于并联分支联合编码的网络恶意流量分类模型。在特征提取方面,采用分裂注意力残差网络和双向长短期记忆网络(Bi-LSTM)对原始流量... 针对单分支模型无法完整表述流量信息且并联分支模型无法很好地融合各个支路提取特征的问题,提出了一种基于并联分支联合编码的网络恶意流量分类模型。在特征提取方面,采用分裂注意力残差网络和双向长短期记忆网络(Bi-LSTM)对原始流量分别提取空间特征和时序特征。在分支融合方面,采用交叉多头自注意力机制来利用分支间的关联性,并获得有效的特征融合。最终输入全连接层中进行网络恶意流量分类。在公开数据集USTC-TFC2016上的广泛实验表明,所提模型在准确率、精确度、召回率和F1值等关键性能指标上均表现出显著优势;在针对新型恶意流量的在线学习能力评估中,所提模型同样表现出优越的性能。 展开更多
关键词 流量分类 并联分支联合 双向长短期记忆网络 交叉多头注意力机制
在线阅读 下载PDF
融合场景特征的跨模态图像美学评价
4
作者 牛玉贞 陈珊珊 +1 位作者 李悦洲 刘文犀 《计算机辅助设计与图形学学报》 2025年第7期1270-1282,共13页
现有的图像美学评价方法通常依赖图像本身而忽略了用户评论中的丰富语义信息,因此在性能方面呈现一定的局限性.一些研究尝试结合用户评论辅助进行图像美学评价,但未能充分地挖掘图像特征,且未能较好地对图像-文本特征的复杂关系进行建模... 现有的图像美学评价方法通常依赖图像本身而忽略了用户评论中的丰富语义信息,因此在性能方面呈现一定的局限性.一些研究尝试结合用户评论辅助进行图像美学评价,但未能充分地挖掘图像特征,且未能较好地对图像-文本特征的复杂关系进行建模,导致图像-文本信息利用不充分且交互不够紧密.为解决上述问题,提出一种融合场景特征的跨模态图像美学评价方法.由于图像场景通常会影响人们对图像的美学评价,因此首先提取图像的场景特征和美学特征,并使用多尺度特征融合模块将两者深度融合;考虑图像-文本特征之间的内在相关性,使用多头交叉注意力机制在图像特征和文本特征之间进行交叉注意力计算,将图像-文本模态信息进行交互融合;最后将融合后的跨模态特征用于美学评价.在通用的大型图像美学评价数据集AVA上的广泛实验结果表明,所提方法在ACC,SRCC和PLCC指标上分别达到了86.96%,0.8523和0.8648,超越了文中对比的跨模态图像美学评价方法. 展开更多
关键词 图像美学评价 跨模态学习 场景特征 多头交叉注意力机制 多尺度特征融合
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部