多头图注意机制的深度学习地铁客流预测方法 被引量：4

1

作者 张阳 陈燕玲 《铁道运输与经济》 北大核心 2024年第2期167-175,共9页

挖掘地铁站点间的客流时空关联性是实现高精度地铁实时客流预测的关键。由于地铁网络中站点间客流的空间关联强弱性较为复杂且难以量化,从而导致客流预测过分依赖时间关联性。为克服该缺陷,提出一种多头图注意机制的深度学习地铁客流预... 挖掘地铁站点间的客流时空关联性是实现高精度地铁实时客流预测的关键。由于地铁网络中站点间客流的空间关联强弱性较为复杂且难以量化,从而导致客流预测过分依赖时间关联性。为克服该缺陷,提出一种多头图注意机制的深度学习地铁客流预测方法,通过构建面向地铁网络的多头图注意机制对多个关联站点间的客流空间关联性进行学习,得出差异化权重值,量化目标站点与关联站点群之间的客流空间关联强弱性;同时,将多头图注意机制融入长短时记忆学习模型,以量化后的空间关联性数据为输入,结合地铁客流量的时间关联性实现客流预测。实验结果表明,所提出的方法可行、有效,能够提升地铁客流预测精度且预测结果优于经典预测方法。 展开更多

关键词 地铁 客流预测 图注意机制 长短时记忆神经网络 客流时空关联性

在线阅读 下载PDF 职称材料

面向图嵌入的改进图注意机制模型 被引量：1

2

作者 李智杰 韩津津 +1 位作者 李昌华 张颉 《计算机工程与应用》 CSCD 北大核心 2023年第17期152-158,共7页

针对图神经网络模型学习图嵌入节点表示过程中易丢失大量特征信息及其图拓扑保留不完整的问题,提出了一种改进的图注意力(graph attention)机制模型。该模型分为节点级双向注意力机制和图级自注意图池化两部分。在学习图节点新的特征向... 针对图神经网络模型学习图嵌入节点表示过程中易丢失大量特征信息及其图拓扑保留不完整的问题,提出了一种改进的图注意力(graph attention)机制模型。该模型分为节点级双向注意力机制和图级自注意图池化两部分。在学习图节点新的特征向量表示过程中,采取计算双向图注意力权重的方式,为邻域节点的保留提供可靠选择的同时增强节点间的相似属性;在图的整体拓扑上结合自注意图池,使用节点特征向量作为输入,通过注意卷积层提供的自注意权重在池化层生成图嵌入表示;在Cora、Citeseer、Pubmed数据集上进行了测试,实验结果表明:相比于基准图注意力机制模型,改进模型能够充分考虑图的局部和整体结构特征,有效增强模型聚合邻域信息的能力,减少了图嵌入过程中原始特征的丢失,明显提升了模型在下游任务的表现性能。 展开更多

关键词 图嵌入 双向图注意力机制 自注意图池 特征表示 图拓扑

在线阅读 下载PDF 职称材料

基于图注意力机制和对抗训练的语音反欺骗方法 被引量：1

3

作者 陆华庆 葛子瑞 +2 位作者 王天朗 郭海燕 杨震 《信号处理》 北大核心 2025年第1期161-173,共13页

语音反欺骗任务旨在通过设计网络结构和学习算法来区分真实语音和欺骗语音,以提升语音系统安全性。本文提出了一种结合图注意力机制和对抗训练的语音反欺骗方法,以应对语音反欺骗任务中的挑战。具体地,基于说话人吸引子多中心单类(speak... 语音反欺骗任务旨在通过设计网络结构和学习算法来区分真实语音和欺骗语音,以提升语音系统安全性。本文提出了一种结合图注意力机制和对抗训练的语音反欺骗方法,以应对语音反欺骗任务中的挑战。具体地,基于说话人吸引子多中心单类(speaker attractor multi-center one-class, SAMO)学习算法,利用图信号处理(graph signal processing, GSP)理论,本文提出了采用图注意力网络(graph attention network, GAT)提取说话人吸引子中心的方法。通过引入注意力机制来聚合说话人特征表示,以计算出更具代表性的说话人吸引子中心,从而提高系统对真实语音和欺骗语音的区分能力。另外,考虑到当网络只学习到训练集中已知欺骗类型的特定欺骗伪影时,则分类网络可能无法有效应对未知类型的欺骗攻击。本文在反欺骗网络结构中引入欺骗类型分类对抗网络,通过特征表示学习模块和欺骗类型分类辅助网络的对抗训练,促使网络能够从不同类型的欺骗语音中学习到共同的欺骗伪影特征,从而提升系统对实际测试中未知类型欺骗语音的检测能力。在ASVspoof 2019 LA、CFAD和ASVspoof 2021 LA数据集上进行了实验,实验结果表明所提方法在性能上优于基线系统和其他对比系统。此外,本文还采用了t分布随机邻居嵌入(t-distributed stochastic neighbor embedding, t-SNE)和相似度矩阵热力图的可视化方法,直观展示了所提方法在准确区分真实语音和欺骗语音方面的优势,并验证了对抗训练技术在学习共同欺骗伪影特征方面的有效性。 展开更多

关键词 语音反欺骗 图注意力机制 单分类 对抗训练 多任务学习

在线阅读 下载PDF 职称材料

融合降噪微调与图注意力机制的藏文长文本分类

4

作者 敬容 万福成 +2 位作者 黄锐 于洪志 马宁 《计算机工程与科学》 北大核心 2025年第6期1133-1140,共8页

在藏文长文本分类任务中,长距离依赖问题尤为突出。同时,多语言预训练模型在处理藏文文本分类任务时也存在一定的偏差。针对以上问题,基于预训练语言模型CINO-Large,提出融合降噪微调与图注意力机制的藏文长文本分类方法。首先,在CINO-L... 在藏文长文本分类任务中,长距离依赖问题尤为突出。同时,多语言预训练模型在处理藏文文本分类任务时也存在一定的偏差。针对以上问题,基于预训练语言模型CINO-Large,提出融合降噪微调与图注意力机制的藏文长文本分类方法。首先,在CINO-Large中引入不完全信任损失函数In-trust,通过任务适应性损失增强模型在下游任务中的泛化能力。其次,在图结构建模中引入滑动窗口和线性分类,选择性增加文档与文档边缘,提高节点间的特征区分度。最后,利用图注意力机制GAT捕捉不同节点在图中的重要性,完成藏文长文本分类任务。在TNCC中的新闻长文本上,由所提方法构建的模型的分类准确率达到了71.66%,与预训练语言模型CINO-Large相比,其准确率、精确度和F1分数分别提高了1.77%、2.67%和2.03%,在部分分类困难的子类别上,模型的F1分数能显著提升20%左右。 展开更多

关键词 预训练模型 降噪微调 图注意力机制 藏文长文本分类

在线阅读 下载PDF 职称材料

基于跨模态融合与双曲图注意力机制的视频异常检测

5

作者 姜迪 赖惠成 汪烈军 《通信学报》 北大核心 2025年第6期136-152,共17页

针对视频异常检测中模态信息不平衡、视听噪声不平均以及模态异步等问题,提出了一个动态跨模态融合模块与双曲图注意力机制融合的多模态视频异常检测方法CM-HVAD,以准确检测异常行为。首先,提出了一种新的动态跨模态融合模块,动态压缩... 针对视频异常检测中模态信息不平衡、视听噪声不平均以及模态异步等问题,提出了一个动态跨模态融合模块与双曲图注意力机制融合的多模态视频异常检测方法CM-HVAD,以准确检测异常行为。首先,提出了一种新的动态跨模态融合模块,动态压缩多模态数据特征,自主学习跨模态权重,动态平衡视觉特征和音视频特征并进行融合增强。然后,针对多模态数据中存在的模态异步问题,提出了模态一致性对齐模块,按时间帧序列对齐模态语义,确保多模态数据在时间和语义上的一致性。最后,引入了双曲图注意力机制,通过双曲空间的模式分离特性,有效捕捉正常和异常表示之间的层次关系,从而提高检测准确率。实验结果表明,所提方法在XD-Violence上AP达到了86.47%,在UCF-Crime上AUC达到了87.12%,性能优于基线方法。 展开更多

关键词 视频异常检测 跨模态融合 双曲图注意力机制 多模态

在线阅读 下载PDF 职称材料

基于多视图图注意力机制的软件定义光传输网络路由优化算法

6

作者 陈俊彦 李欣梅 +1 位作者 朱昌洪 肖微 《计算机工程与科学》 北大核心 2025年第7期1193-1204,共12页

针对传统深度强化学习在软件定义光传输网络路由优化应用中收敛性能差、泛化能力弱等问题,提出了一种基于多视图注意力机制的深度Q网络MGATDQN算法来优化软件定义光传输网络的路由决策。首先,设计了基于深度强化学习的路由决策模型,为... 针对传统深度强化学习在软件定义光传输网络路由优化应用中收敛性能差、泛化能力弱等问题,提出了一种基于多视图注意力机制的深度Q网络MGATDQN算法来优化软件定义光传输网络的路由决策。首先,设计了基于深度强化学习的路由决策模型,为光网络每个输入的源目的地流量需求寻找最佳路由策略。其次,考虑到光网络中节点的稀疏连接特点,使用多视图注意力网络作为深度Q网络的网络模型,通过计算邻边的注意力权重,使强化学习智能体有意识地聚合重要的网络信息,提高模型的泛化能力。同时,结合多视图来提升图注意力网络模型的收敛速度和收敛稳定性。最后,基于Gym设计仿真路由实验,并在不同的网络拓扑中评估算法的负载均衡能力和泛化能力。实验结果表明,MGATDQN算法在软件定义光传输网络的路由优化中具有较好的收敛性能和负载均衡能力,并且能够泛化新的网络结构,即使在网络某些节点出现故障时仍然能保持较好的决策能力。 展开更多

关键词 光传输网络 软件定义网络 深度强化学习 多视图图注意力机制

在线阅读 下载PDF 职称材料

基于多头图注意力机制的神经协同过滤推荐算法 被引量：1

7

作者 顾亦然 史家旺 黄丽亚 《小型微型计算机系统》 CSCD 北大核心 2024年第12期2929-2935,共7页

目前主流的基于用户—项目二分图表征学习的推荐系统主要采用度归一化或平均池化的方法作为图上的近邻消息聚合策略,来学习用户和项目的表征向量.但是这两种聚合操作忽略了不同相邻节点对目标节点的重要性不同,从而导致最终刻画的用户... 目前主流的基于用户—项目二分图表征学习的推荐系统主要采用度归一化或平均池化的方法作为图上的近邻消息聚合策略,来学习用户和项目的表征向量.但是这两种聚合操作忽略了不同相邻节点对目标节点的重要性不同,从而导致最终刻画的用户和项目的表征表示不够准确.为此,本文提出了一种基于多头图注意力机制的神经协同过滤推荐模型(MGAT4Rec)来显示的建模目标节点与邻居节点之间的亲和力.该模型采用图注意力机制来捕获不同相邻节点的重要性并降低噪声信息的干扰,实现了对近邻节点信息的可解释性聚合;在此基础上,为了学习到更丰富的节点表征,通过使用多头图注意力机制来学习节点在不同潜在空间下的表征,将不同空间下的表征进行融合得到最终节点的表征向量.在MovieLens-100K和Amazon两个公开的数据集上进行了对比实验,MGAT4Rec在Recall@10和NDCG@10两个性能指标上相较于基线模型均有所提升. 展开更多

关键词 协同过滤 节点重要性 图注意力机制 可解释性聚合

在线阅读 下载PDF 职称材料

基于邻居采样和图注意力机制的产业链风险评估模型 被引量：1

8

作者 孙鹏钊 毕可骏 +3 位作者 唐潮 李冬芬 应时 王瑞锦 《计算机科学》 CSCD 北大核心 2024年第10期218-226,共9页

风险评估是提高产业链韧性的重要途径,也是降低产业链不稳定性的有效手段。然而,现有风险评估的研究基于供应链结构,忽略了其他因素,无法准确地刻画产业链上下游各节点的关联关系,导致评估效果存在偏差。针对上述问题,考虑到产业链内部... 风险评估是提高产业链韧性的重要途径,也是降低产业链不稳定性的有效手段。然而,现有风险评估的研究基于供应链结构,忽略了其他因素,无法准确地刻画产业链上下游各节点的关联关系,导致评估效果存在偏差。针对上述问题,考虑到产业链内部各节点相互关联、风险状况多样、存在风险传递的特性,提出了基于邻居采样和图注意力机制的产业链风险评估模型GANS。首先,构建了产业链的异质图,利用“产品-公司”“产品-产品”刻画了产业链节点之间的关联关系,并从产业链中提取财务数据等作为节点的数据特征;其次,提出了基于元路径和公司投融资关联规则的公司关系图生成模块,实现对产业链中公司节点关系的高效转化和结构特征的高效学习;接着,针对生成的多种公司关系图,设计了结合邻居采样和图注意力机制的产业链风险评估模块,对节点邻域特征进行随机采样和聚合,同时结合注意力机制对基于多种公司图的节点特征进行自适应聚合,并通过分类器实现节点级风险评估;最后,依据节点风险等级与节点的结构特征对产业链进行风险评估。实验表明,在真实产业链数据集上,GANS在准确性、F1分数等方面均优于现有的模型,证明了GANS实现产业链风险评估的准确性和有效性。 展开更多

关键词 产业链 风险评估 异质图 邻域采样 图注意力机制

在线阅读 下载PDF 职称材料

基于轻量化图注意力机制的露天矿卡车调度优化算法 被引量：2

9

作者 黄石 陈钊宇 曾蕾 《金属矿山》 CAS 北大核心 2024年第4期202-208,共7页

有效地管理和调度露天矿卡车,有助于大幅提升运输效率、降低矿山运营成本。现有研究聚焦于利用深度强化学习(Deep Reinforcement Learning,DRL)构建学习模型求解路径优化问题,然而,该模型针对Transformer架构的参数训练时,会产生大量参... 有效地管理和调度露天矿卡车,有助于大幅提升运输效率、降低矿山运营成本。现有研究聚焦于利用深度强化学习(Deep Reinforcement Learning,DRL)构建学习模型求解路径优化问题,然而,该模型针对Transformer架构的参数训练时,会产生大量参数冗余。为此,提出了一种轻量化图注意力机制的露天矿卡车调度优化算法。将微分方程数值解法——阿当姆斯(Adams)法用于Transformer模型的权重学习中,通过Adams的残差训练方法,可提高网络后期的优化精度,进一步压缩模型的规模,高效求解露天矿卡车调度优化问题。研究表明:该方法在降低最优间隙的同时将源模型的参数量压缩1/2,减少了对GPU设备的训练依赖。采用随机生成的露天矿卡数据集算例对该算法性能进行了验证,反映出采用Adams-Transformer模型有助于提升露天矿卡车调度效率。 展开更多

关键词 露天矿 卡车调度优化 阿当姆斯法 图注意力机制 深度强化学习

在线阅读 下载PDF 职称材料

基于图卷积的注意力聚焦时空融合人体活动识别研究

10

作者 刘艳 赵明 +3 位作者 马萌 曹清清 刘芳 聂凯 《传感技术学报》 北大核心 2025年第4期695-704,共10页

准确地识别人体活动数据可以为运动分析、医疗康复训练等领域提供重要帮助。鉴于现有的人体活动识别模型对于具有非欧氏空间数据特征的人体活动数据识别准确率不高的问题,提出了一种结合了图卷积、图注意力机制(GAT)和长短时记忆网络(LS... 准确地识别人体活动数据可以为运动分析、医疗康复训练等领域提供重要帮助。鉴于现有的人体活动识别模型对于具有非欧氏空间数据特征的人体活动数据识别准确率不高的问题,提出了一种结合了图卷积、图注意力机制(GAT)和长短时记忆网络(LSTM)的新型人体活动识别特征提取方法GCN-AL,并基于GCN-AL构建了人体活动识别模型GCT-net。通过在开源的DaLiAc数据集上对GCT-net模型、GAN模型和GCN模型进行对比仿真实验表明,GCT-net模型的总体准确率、平均精确率、平均召回率相较于基于图卷积、图注意力机制的GAN模型和基于图卷积的GCN模型分别提高了2.0%、2.4%、2.4%和2.3%、2.5%、3.1%,与其他最新参考文献中提出的分类模型相比,GCT-net模型在总体准确率方面也有所改进。 展开更多

关键词 可穿戴惯性传感器 人体活动识别 GCT-net模型 图卷积 图注意力机制 长短时记忆网络

在线阅读 下载PDF 职称材料

一种基于图注意力机制的威胁情报归因方法

11

作者 王婷 严寒冰 郎波 《北京航空航天大学学报》 EI CAS CSCD 北大核心 2024年第7期2293-2303,共11页

威胁情报关联分析已成为网络攻击溯源的有效方式。从公开威胁情报源爬取了不同高级持续性威胁(APT)组织的威胁情报分析报告,并提出一种基于图注意力机制的威胁情报报告归类的方法,目的是检测新产生的威胁情报分析报告类别是否为已知的... 威胁情报关联分析已成为网络攻击溯源的有效方式。从公开威胁情报源爬取了不同高级持续性威胁(APT)组织的威胁情报分析报告,并提出一种基于图注意力机制的威胁情报报告归类的方法,目的是检测新产生的威胁情报分析报告类别是否为已知的攻击组织,从而有助于进一步的专家分析。通过设计威胁情报知识图谱,提取战术和技术情报,对恶意样本、IP和域名进行属性挖掘,构建复杂网络,使用图注意力神经网络进行威胁情报报告节点分类。评估表明:所提方法在考虑类别分布不均衡的情况下,可以达到78%的准确率,达到对威胁情报报告所属组织进行有效判定的目的。 展开更多

关键词 威胁情报 高级持续性威胁组织 知识图谱 图注意力机制 攻击溯源

在线阅读 下载PDF 职称材料

基于图注意力机制的三维点云感知 被引量：2

12

作者 高瑞贞 王诗浩 +2 位作者 王皓乾 张京军 李志杰 《中国测试》 CAS 北大核心 2024年第7期155-162,共8页

基于PointNet++网络的三维点云感知方法能够通过提取目标的几何特征信息来对目标进行分类。虽然PointNet++网络能够提取到点云数据的局部特征,但未考虑点与其邻域点之间的关系,因此一旦缺失一个点的局部特征,网络的性能会受到较大的影... 基于PointNet++网络的三维点云感知方法能够通过提取目标的几何特征信息来对目标进行分类。虽然PointNet++网络能够提取到点云数据的局部特征,但未考虑点与其邻域点之间的关系,因此一旦缺失一个点的局部特征,网络的性能会受到较大的影响。针对这一问题,该文提出一种基于图注意力机制(graphic attention mecahnism)的新网络架构GA-PointNet++。模型利用图注意力机制在点与其邻域点之间分配注意力系数,完成点云局部特征的提取。在分类实验中,该文在ModelNet40数据集上的实验结果表明,提出的GA-PointNet++模型最终的平均分类准确率达到了88.8%,总体准确率达到了91.3%。相较于PointNet++基线模型总体准确率提高1.1百分点,验证了GA-PointNet++在分类任务中的有效性。 展开更多

关键词 图像处理 深度学习 图注意力机制 邻域点

在线阅读 下载PDF 职称材料

多邻域融合的图注意力电子元器件点云分割

13

作者 沈巍 倪国林 郑金来 《组合机床与自动化加工技术》 北大核心 2025年第1期223-227,233,共6页

针对电子元器件装配过程中稠密点云语义分割困难的问题,提出一种基于多邻域融合的图注意力卷积电子元器件点云分割算法。该算法通过栅格概率采样的训练策略保证点云几何结构和初始感受野;在二阶局部邻域内建立局部特征图,以图注意力卷... 针对电子元器件装配过程中稠密点云语义分割困难的问题,提出一种基于多邻域融合的图注意力卷积电子元器件点云分割算法。该算法通过栅格概率采样的训练策略保证点云几何结构和初始感受野;在二阶局部邻域内建立局部特征图,以图注意力卷积与池化操作逐层编码丰富语义特征;将全局特征与局部特征融合逐层上采样,完成电子元器件稠密点云的语义分割任务。实验结果表明,在电子元器件数据集上总体准确率达到96.5%,平均准确率达到93.6%,平均交并比达到85.6%,有效提高了电子元器件等稠密点云语义分割的精度。 展开更多

关键词 多邻域融合 图注意力机制 电子元器件 点云分割

在线阅读 下载PDF 职称材料

基于图注意增强的多时空残差网络交通预测 被引量：1

14

作者 李志鹃 张文标 +3 位作者 孙兴 于淼 龚朝晖 王巍琳 《控制工程》 CSCD 北大核心 2024年第8期1426-1435,共10页

如何准确且快速地预测长期的交通流量十分具有挑战。大多数研究采用的图卷积网络(graph convolution network,GCN)模型多用k阶切比雪夫多项式近似,同时需要特征分解或类似计算复杂的矩阵操作,且感受野有限,无法捕获动态的空间相关性。... 如何准确且快速地预测长期的交通流量十分具有挑战。大多数研究采用的图卷积网络(graph convolution network,GCN)模型多用k阶切比雪夫多项式近似,同时需要特征分解或类似计算复杂的矩阵操作,且感受野有限,无法捕获动态的空间相关性。为了改进这种做法,提出了一种结合图注意增强网络(enhanced graph attention network,EGAT)、双向长短时记忆(bi-directional long short-term memory,Bi-LSTM)网络和残差网络(residual network,ResNet)的多时空残差网络(multi-spatial-temporal residual network,MST-Res-Net),用以捕获交通流量的时空动态相关性。该网络采用了EGAT提取道路路段之间的动态空间依赖关系。同时,将EGAT的输出作为输入,该网络引入Bi-LSTM提取时间和周期特性,同时增加残差模块以构建时空残差网络,最后三组件融合进行预测。基于2个真实数据集的实验结果表明,所提MST-Res-Net用于预测多步交通流量快速有效,优于现有先进的基线方法,且其训练时间仅需要先进基线方法的一半,更便于实时控制。 展开更多

关键词 交通流量预测 深度学习 时空相关性 图注意机制

在线阅读 下载PDF 职称材料

基于动态关联图注意力网络的虚拟电厂居民短期负荷预测 被引量：2

15

作者 张峻凯 胡旭光 +3 位作者 刘要博 许晴 马大中 孙秋野 《电力系统自动化》 EI CSCD 北大核心 2024年第21期120-128,共9页

居民短期负荷预测能够为虚拟电厂提供实时、灵活的电力需求信息,有助于虚拟电厂实现能源高效利用与优化电力市场交易。由于居民负荷相关性的日益凸显,传统预测方法仅基于单个居民历史负荷进行时序预测,无法满足规模化虚拟电厂对居民负... 居民短期负荷预测能够为虚拟电厂提供实时、灵活的电力需求信息,有助于虚拟电厂实现能源高效利用与优化电力市场交易。由于居民负荷相关性的日益凸显,传统预测方法仅基于单个居民历史负荷进行时序预测,无法满足规模化虚拟电厂对居民负荷关联性的综合需求。基于此,文中提出一种基于动态关联图注意力网络的虚拟电厂居民短期负荷预测方法。首先,提出了混合相关性分析方法来刻画居民负荷之间的线性和非线性关系,并进一步提出了权重剪枝阈值机制得到居民负荷混合相关性矩阵;然后,基于该矩阵构建动态关联图结构,进而提出时间图注意力网络机制以深入学习居民负荷的时空关联特性,并实现居民短期负荷预测目标;最后,以某地区实际居民负荷数据为例,验证了所提方法的有效性。 展开更多

关键词 虚拟电厂 短期负荷预测 混合相关性 动态关联图 图神经网络 时间图注意力机制

在线阅读 下载PDF 职称材料

TMGAT:类型匹配约束的图注意力网络 被引量：1

16

作者 孙首男 汪璟玢 +3 位作者 吴仁飞 游常凯 柯禧帆 黄皓 《计算机科学》 CSCD 北大核心 2024年第3期235-243,共9页

近年来利用图结构来解决知识图补全(KGC)问题取得了不错的进展,其中图神经网络(GNNs)通过聚合实体的局部邻域信息来不断更新中心实体的表示,图注意力网络(GATs)使用注意力机制有侧重地聚合邻居,以获得更准确的中心实体表示。这些模型虽... 近年来利用图结构来解决知识图补全(KGC)问题取得了不错的进展,其中图神经网络(GNNs)通过聚合实体的局部邻域信息来不断更新中心实体的表示,图注意力网络(GATs)使用注意力机制有侧重地聚合邻居,以获得更准确的中心实体表示。这些模型虽然在KGC中取得了不错的性能,但它们都忽略了中心实体的类型信息,仅仅使用邻域信息来计算注意力,将导致计算出来的注意力不够精准。针对这些问题,文中提出了一种类型匹配约束的图注意力网络(TMGAT),该方法通过计算中心实体类型对每个邻域关系的注意力,来得到实体类型-关系级别的注意力,以进一步计算出中心实体与各邻域关系的类型匹配度,再通过邻域关系及对应的邻居实体,结合类型匹配度计算实体-关系级别的注意力,得到邻域节点对中心实体的最终注意力。使用类型匹配度来约束传统的注意力机制,提升注意力机制的准确性,得到更加精准的中心实体嵌入,进而提升知识图补全的准确性。截至目前,文中提出的TMGAT是第一个在GATs中结合显式类型进行知识图补全任务的模型。文中加工了两个现有的数据集,使数据集中每个实体都拥有若干个类型,以验证TMGAT模型的性能。最后,实验部分展现了TMGAT在知识补全任务中优秀的竞争力,并研究了类型个数对模型性能的影响。 展开更多

关键词 知识图谱 知识图补全 图结构 图注意力机制 类型信息

在线阅读 下载PDF 职称材料

融合用户特征的图注意力微博谣言检测模型 被引量：1

17

作者 杨帆 李邵梅 《中文信息学报》 CSCD 北大核心 2024年第8期140-146,共7页

随着网络和通信技术的发展,谣言借助微博等平台可快速扩散,形成病毒式传播,给国家安全和社会稳定造成严重的安全隐患。为了提高谣言自动检测的准确率,对基于图注意力网络的全局-局部注意力编码谣言检测模型进行了改进。首先,引入用户属... 随着网络和通信技术的发展,谣言借助微博等平台可快速扩散,形成病毒式传播,给国家安全和社会稳定造成严重的安全隐患。为了提高谣言自动检测的准确率,对基于图注意力网络的全局-局部注意力编码谣言检测模型进行了改进。首先,引入用户属性信息对微博文本内容特征和传播结构特征进行补充,得到更高阶特征;其次,改进图注意力机制以得到更健壮的节点聚合特征,为判决是否为谣言提供更准确的依据。在微博谣言数据集上的实验结果表明,相对于已有算法,该文提出的检测模型具有更高的检测准确率。 展开更多

关键词 谣言检测 图注意力机制 用户属性信息 传播结构信息

在线阅读 下载PDF 职称材料

基于特征图注意力机制的图像超分辨率重建 被引量：9

18

作者 鲁甜 刘蓉 +1 位作者 刘明 冯杨 《计算机工程》 CAS CSCD 北大核心 2021年第3期261-268,共8页

图像超分辨率重建中的高频分量通常包含较多轮廓、纹理等细节信息,为更好地处理特征图中的高频分量与低频分量,实现自适应调整信道特征,提出一种基于特征图注意力机制的图像超分辨重建网络模型。利用特征提取块提取原始低分辨率图像中... 图像超分辨率重建中的高频分量通常包含较多轮廓、纹理等细节信息,为更好地处理特征图中的高频分量与低频分量,实现自适应调整信道特征,提出一种基于特征图注意力机制的图像超分辨重建网络模型。利用特征提取块提取原始低分辨率图像中的特征信息,基于多个结合特征图注意力机制的信息提取块,通过特征信道之间的相互依赖性自适应调整信道特征,以恢复更多细节信息。在此基础上利用重建模块重建出不同尺度的高分辨率图像。在Set5数据集上的实验结果表明,与基于双三次插值的重建模型相比,该模型能够有效提升图像的视觉效果,且峰值信噪比与结构相似度分别提高了3.92 dB和0.056。 展开更多

关键词 超分辨率重建 特征图注意力机制 自适应调整 残差信息 高分辨率图像

在线阅读 下载PDF 职称材料

基于动态图注意力机制的秦俑点云鲁棒配准 被引量：1

19

作者 海琳琦 耿国华 +2 位作者 杨兴 李康 张海波 《光学精密工程》 EI CAS CSCD 北大核心 2022年第24期3210-3224,共15页

针对目前的点云配准方法在处理秦俑等文物模型时不能很好地解决分辨率不匹配、点云部分重叠、噪声点较多等问题,提出一种基于动态图注意力机制的ResUNet配准模型。该模型将残差模块融入U-Net网络中,使用三维稀疏体素卷积计算点云特征,... 针对目前的点云配准方法在处理秦俑等文物模型时不能很好地解决分辨率不匹配、点云部分重叠、噪声点较多等问题,提出一种基于动态图注意力机制的ResUNet配准模型。该模型将残差模块融入U-Net网络中,使用三维稀疏体素卷积计算点云特征,并引入一种新的归一化技术:批邻域归一化(Batch-Neighborhood Normalization,BNHN),来提高特征对于点密度变化的鲁棒性;为了进一步提高配准性能,该模型通过自注意力机制和交叉注意力机制聚合局部特征和上下文特征,最后结合随机抽样一致性算法来估计源点云与目标点云之间的变化矩阵,完成秦俑文物模型的鲁棒配准。为了验证本文方法的有效与鲁棒,使用四组数据集(3DMatch、3DLoMatch、分辨率不匹配的3DMatch数据集以及两组秦俑数据)对配准模型进行测试,实验结果表明,该算法在3DMatch数据集和3DLoMatch数据集上的配准召回率分别达到90.1%和61.0%;在分辨率不匹配的3DMatch数据集,相比与基于特征学习的配准算法,该算法在配准召回率上提升了5%~20%;在秦俑数据集上,相对旋转误差均小于0.071,相对平移误差均小于0.016,相较于同类算法减少了一个量级或几倍。因此,本文的模型能够提取三维点云的关键特征信息,并且对点密度和重叠度变化具有更高的鲁棒性。 展开更多

关键词 点云配准 动态图注意力机制 低重叠点云 点密度变化 残差网络

在线阅读 下载PDF 职称材料

融合层次类型信息的双向图注意力机制的知识图谱嵌入模型 被引量：3

20

作者 翟社平 李方怡 +1 位作者 李航 杨锐 《计算机应用研究》 CSCD 北大核心 2023年第7期2031-2038,共8页

知识图谱嵌入旨在将实体与关系映射到低维且稠密的向量空间中。目前已有的嵌入模型仍存在以下两个方面的缺陷:现有的模型大多只关注知识图谱的语义信息,而忽略了大量三元组的隐藏信息;现有的模型仅关注了实体的单向信息,而忽略了双向的... 知识图谱嵌入旨在将实体与关系映射到低维且稠密的向量空间中。目前已有的嵌入模型仍存在以下两个方面的缺陷:现有的模型大多只关注知识图谱的语义信息,而忽略了大量三元组的隐藏信息;现有的模型仅关注了实体的单向信息,而忽略了双向的潜在信息。针对以上问题,提出了一种融合层次类型信息的双向图注意力机制的知识图谱嵌入模型Bi-HTGAT,该模型设计了层次类型注意力机制,考虑不同关系下每种类型的不同实体对中心实体的贡献。同时引入了关系的方向注意力机制,通过融合不同方向的邻居信息来更新实体和关系嵌入,最终聚合两部分信息以得到实体的最终嵌入。在基准数据集上的实验证明,Bi-HTGAT在链接预测任务上性能明显优于其他基线模型,充分证明了Bi-HTGAT能够进一步提高嵌入结果的精准度。 展开更多

关键词 知识图谱嵌入 图注意力机制 层次类型信息 链接预测

在线阅读 下载PDF 职称材料