-
题名一种抗标签翻转攻击的联邦学习方法
- 1
-
-
作者
周景贤
韩威
张德栋
李志平
-
机构
中国民航大学计算机科学与技术学院
中国铁道科学研究院集团有限公司电子计算技术研究所
-
出处
《信息安全研究》
北大核心
2025年第3期205-213,共9页
-
基金
国家自然科学基金项目(U2333201)
民航安全能力建设项目(PESA2022093,PESA2023101)
+1 种基金
中央高校基本科研业务费资金项目(3122022058)
中国高校产学研创新基金项目(2023IT277)。
-
文摘
由于联邦学习参与训练的用户自主性较高且身份难以辨别,从而易遭受标签翻转攻击,使模型从错误的标签中学习到错误的规律,降低模型整体性能.为有效抵抗标签翻转攻击,提出了一种多阶段训练模型的稀释防护联邦学习方法.该方法通过对训练数据集进行随机划分,采用稀释防护联邦学习算法将部分数据分发给参与训练的客户端,以限制客户端所拥有的数据量,避免拥有大量数据的恶意参与者对模型造成较大影响.在每次训练结束后,对该阶段中所有训练轮次的梯度通过降维算法进行梯度聚类,以便识别潜在的恶意参与者,并在下一阶段中限制其训练.同时,在每个阶段训练结束后保存全局模型参数,确保每个阶段的训练都基于上一个阶段的模型基础.在数据集上的实验结果表明,该方法在降低攻击影响的同时不损害模型准确率,并且模型收敛速度平均提升了25.2%~32.3%.
-
关键词
联邦学习
数据安全
恶意行为
标签翻转攻击
防御
-
Keywords
federated learning
data security
malicious behavior
label flip attack
defense
-
分类号
TP309.2
[自动化与计算机技术—计算机系统结构]
-
