-
题名基于矩阵映射的拜占庭鲁棒联邦学习算法
被引量:8
- 1
-
-
作者
刘飚
张方佼
王文鑫
谢康
张健毅
-
机构
北京电子科技学院
信息网络安全公安部重点实验室(公安部第三研究所)
中国科学院网络测评技术重点实验室(中国科学院信息工程研究所)
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2021年第11期2416-2429,共14页
-
基金
国家重点研发计划项目(2018YFB1004100)
信息网络安全公安部重点实验室(公安部第三研究所)开放基金资助课题(C18612)
中国科学院网络测评技术重点实验室(中国科学院信息工程研究所)项目(KFKT2019-004)。
-
文摘
联邦学习(federated learning)由于参数服务器端只收集客户端模型而不接触客户端本地数据,从而更好地保护数据隐私.然而其基础聚合算法FedAvg容易受到拜占庭客户端攻击.针对此问题,很多研究提出了不同聚合算法,但这些聚合算法存在防守能力不足、模型假设不贴合实际等问题.因此,提出一种新型的拜占庭鲁棒聚合算法.与现有聚合算法不同,该算法侧重于检测Softmax层的概率分布.具体地,参数服务器在收集客户端模型之后,通过构造的矩阵去映射模型的更新部分来获取此模型的Softmax层概率分布,排除分布异常的客户端模型.实验结果表明:在不降低FedAvg精度的前提下,在阻碍收敛攻击中,将拜占庭容忍率从40%提高到45%,在后门攻击中实现对边缘后门攻击的防守.此外,根据目前最先进的自适应攻击框架,设计出专门针对该聚合算法的自适应攻击,并进行了实验评估,实验结果显示,该聚合算法可以防御至少30%的拜占庭客户端.
-
关键词
联邦学习
矩阵映射
阻碍收敛攻击
后门攻击
鲁棒聚合算法
-
Keywords
federated learning
matrix mapping
convergence prevention attack
backdoor attack
robust aggregation algorithm
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
TP309.2
[自动化与计算机技术—计算机系统结构]
-