-
题名面向半监督归纳式学习的自训练增强图模型
- 1
-
-
作者
杨瀚轩
余昭昕
李子乾
徐会芳
孔庆超
-
机构
中国科学院大学人工智能学院
中国科学院自动化研究所多模态人工智能系统全国重点实验室
国家电网有限公司客户服务中心
中国电力科学研究院有限公司
-
出处
《计算机学报》
北大核心
2025年第10期2263-2277,共15页
-
基金
国家电网有限公司电力大型语言模型关键技术研究及在客服中的示范应用科技项目(No.5700-202353595A-3-2-ZN)资助。
-
文摘
图表示学习是图数据分析的一个基础研究问题,在多种应用领域中均具有重要的研究价值。不同于一般的直推式学习,归纳式图表示学习要求对训练过程中不可见的未知节点进行推理和分类,因此具有更大的研究挑战。现有归纳式学习方法主要采用建立在全监督学习下的图神经网络,这些方法依赖于大量带标注的数据进行训练,因而在面对可见结构中节点标注稀缺的半监督归纳式学习问题时可能存在模型过拟合问题。本文首次提出半监督归纳式图表示学习问题,并建立了一种自训练增强的归纳式图(Self-Training Augmented Inductive Graph,STAIG)模型,该模型由一个使用图神经网络学习节点向量表示的编码器和一个通过重构节点标签和属性特征训练模型的解码器组成。针对半监督归纳式图学习问题,所提出的模型采用自训练增强方法,并在编码器中提出一种基于随机游走的节点掩码方法提高预测未知节点的泛化性。在此基础上,为了进一步应对标注稀缺问题,该模型使用解码器生成节点伪标签来增强标注信息,并通过置信度过滤机制提高伪标签的可靠性。基于基准归纳式学习图数据集的实验验证了本文提出的STAIG模型在半监督节点分类任务上取得了优于对比方法的结果,且在标注数据比例低于10%的弱监督学习设置下具有显著优势。
-
关键词
归纳式图表示学习
半监督节点分类
变分图自编码
自训练增强
-
Keywords
inductive graph representation learning
semi-supervised node classification
variational graph auto-encoder
self-training augmentation
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
-
题名双侧鲁棒增强的图节点分类模型
- 2
-
-
作者
沈雅文
李平
-
机构
西南石油大学计算机与软件学院
-
出处
《指挥与控制学报》
2025年第5期550-559,共10页
-
基金
国家自然科学基金(62276099)
四川省自然科学基金(2023NSFSCO501)资助。
-
文摘
图表示学习广泛应用于节点分类任务,但在结构投毒攻击下鲁棒性较差,甚至低于基础图卷积神经网络。现有方法主要关注嵌入侧优化,忽略任务侧鲁棒性。提出基于对比学习的双侧鲁棒增强节点分类模型。在嵌入侧,引入基于边曲率的图卷积,增强同类节点的聚合能力,并结合局部-全局对比学习获取鲁棒节点表示。利用节点嵌入重构邻接关系,降低攻击边对表示的影响。在任务侧,结合原始特征与重构结构的多视图信息,优化分类器,使不同视图的输出保持一致,从而提升鲁棒性。在3个基准数据集上,采用无目标攻击、目标攻击及随机攻击进行实验,该模型在对抗攻击下的鲁棒性优于或相当于当前强基线模型,通过嵌入优化与任务增强的双侧协同机制,提高图神经网络在对抗攻击下的稳定性,为图神经网络的安全性研究提供新思路。
-
关键词
图表示学习
半监督节点分类
鲁棒性
结构对抗攻击
多层感知机
-
Keywords
graph representation learning
semi-supervised node classification
robustness
structural adversarial attacks
multi-layer perceptron
-
分类号
O157.5
[理学]
-
-
题名面向鲁棒图结构防御的过参数化图神经网络
- 3
-
-
作者
初旭
马辛宇
林阳
王鑫
王亚沙
朱文武
梅宏
-
机构
清华大学计算机科学与技术系
北京大学计算机学院
高可信软件技术教育部重点实验室(北京大学)
清华大学北京信息科学与技术国家研究中心
北京大学软件工程国家工程研究中心
-
出处
《软件学报》
EI
CSCD
北大核心
2024年第8期3878-3896,共19页
-
基金
国家科技攻关计划(2020AAA0106300)
国家自然科学基金(62250008,62222209,62102222,61936011)
北京信息科学与技术国家研究中心基金(BNR2023RC01003)。
-
文摘
图数据在现实应用中普遍存在,图神经网络(GNN)被广泛应用于分析图数据,然而GNN的性能会被图结构上的对抗攻击剧烈影响.应对图结构上的对抗攻击,现有的防御方法一般基于图内聚先验进行低秩图结构重构.但是现有的图结构对抗防御方法无法自适应秩真值进行低秩图结构重构,同时低秩图结构与下游任务语义存在错配.为了解决以上问题,基于过参数化的隐式正则效应提出过参数化图神经网络(OPGNN)方法,并形式化证明所提方法可以自适应求解低秩图结构,同时证明节点深层表征上的过参数化残差链接可以有效解决语义错配.在真实数据集上的实验结果表明,OPGNN方法相对于现有基线方法具有更好的鲁棒性,同时,OPGNN方法框架在不同的图神经网络骨干上如GCN、APPNP和GPRGNN上显著有效.
-
关键词
图节点半监督分类
图结构对抗防御
过参数化
隐式正则化
图神经网络
-
Keywords
semi-supervised classification of graph nodes
graph structure adversarial defense
over-parameterization
implicit regularization
graph neural network(GNN)
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-