系统异构性和统计异构性的存在使得通信开销和通信效率成为联邦学习的关键瓶颈之一,在众多参与方中只选取一部分客户端执行模型更新和聚合可以有效降低通信开销,但是选择偏差和客户端上的数据质量分布不平衡对客户端采样方法提出了额外...系统异构性和统计异构性的存在使得通信开销和通信效率成为联邦学习的关键瓶颈之一,在众多参与方中只选取一部分客户端执行模型更新和聚合可以有效降低通信开销,但是选择偏差和客户端上的数据质量分布不平衡对客户端采样方法提出了额外的挑战。为此,提出数据质量评估的高效强化联邦学习节点动态采样优化方法(client dynamic sampling optimization of efficient reinforcement federated learning based on data quality assessment,RQCS),该方法采用沙普利值的贡献指数评估客户端上的数据质量,基于深度强化学习模型,智能的动态选择具有高数据质量且能提高最终模型精度的客户端参与每一轮的联邦学习,以抵消数据质量分布不平衡引入的偏差,加速模型收敛并提高模型精度。在MNIST及CIFAR-10数据集上的实验表明,所提出算法与其他算法相比,在减少通信开销的同时进一步加快了收敛速度,同时在模型最终准确性上也有较好的性能。展开更多
文摘系统异构性和统计异构性的存在使得通信开销和通信效率成为联邦学习的关键瓶颈之一,在众多参与方中只选取一部分客户端执行模型更新和聚合可以有效降低通信开销,但是选择偏差和客户端上的数据质量分布不平衡对客户端采样方法提出了额外的挑战。为此,提出数据质量评估的高效强化联邦学习节点动态采样优化方法(client dynamic sampling optimization of efficient reinforcement federated learning based on data quality assessment,RQCS),该方法采用沙普利值的贡献指数评估客户端上的数据质量,基于深度强化学习模型,智能的动态选择具有高数据质量且能提高最终模型精度的客户端参与每一轮的联邦学习,以抵消数据质量分布不平衡引入的偏差,加速模型收敛并提高模型精度。在MNIST及CIFAR-10数据集上的实验表明,所提出算法与其他算法相比,在减少通信开销的同时进一步加快了收敛速度,同时在模型最终准确性上也有较好的性能。
