-
题名基于共享数据集和梯度补偿的分层联邦学习框架
被引量：3
- 1
-
-
作者
刘吉强
王雪微
梁梦晴
王健
-
机构
北京交通大学智能交通数据安全与隐私保护技术北京市重点实验室
-
出处
《信息网络安全》
CSCD
北大核心
2023年第12期10-20,共11页
-
基金
国家重点研发计划[2020YFB2103800]。
-
文摘
联邦学习允许车辆在本地保留数据并进行模型训练,从而更好地保护用户隐私,但车载传感器和行驶路线等条件不同,参与联邦学习的车辆可能具有不同数据分布,从而降低模型泛化能力,增大收敛难度。为了确保实时性,车联网中广泛应用了异步随机梯度下降技术,但梯度延迟问题会导致模型训练不准确。为了解决上述问题,文章提出一种基于共享数据集和梯度补偿的分层联邦学习框架。该框架使用共享数据集和基于Re LU值加权的聚合方法减少模型偏差,并利用梯度函数的泰勒展开近似原始损失函数,对异步随机梯度下降进行梯度补偿。在MNIST和CIFAR-10数据集上的实验结果表明,与Fed AVG、MOON和Hier FAVG算法相比,该方法平均准确率分别提高了13.8%、2.2%和3.5%,时间开销仅为同步随机梯度下降和异步随机梯度下降的1/2。
-
关键词
车联网
联邦学习
梯度补偿
异质数据
异步通信
-
Keywords
Internet of vehicle
federated learning
gradient compensation
heterogeneous data
asynchronous communication
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
