-
题名联邦遗忘学习隐私安全与算法效率研究综述
- 1
-
-
作者
唐湘云
王伟
翁彧
沈蒙
张焘
王伟
祝烈煌
-
机构
中央民族大学信息工程学院
北京理工大学网络空间安全学院
北京交通大学网络空间安全学院(国家保密学院)
西安交通大学智能网络与网络安全教育部重点实验室
-
出处
《计算机学报》
北大核心
2025年第9期2064-2093,共30页
-
基金
国家自然科学基金青年基金(62302539、62402029)
国家自然科学基金联合基金重点项目(U23A20304)
中国博士后科学基金(2024T170047,GZC20230223,2024M750165)资助。
-
文摘
在数据驱动的人工智能应用迅猛发展的背景下,用户对其个人数据安全与隐私保护的需求持续提升。联邦学习作为一种分布式机器学习范式,通过共享模型参数而非原始数据来完成模型训练,缓解了用户数据的隐私泄露风险。然而,联邦学习仍难以满足用户从已训练模型中删除其个人数据的需求。为此,联邦遗忘学习被提出,旨在响应用户发起的数据遗忘请求,以擦除其数据对模型的影响,同时保持模型的有效性。但目前的联邦遗忘学习技术还存在隐私泄露隐患和数据安全问题,以及模型恢复开销过高的威胁。为深入探讨联邦遗忘学习技术在隐私安全和算法效率方面的研究现状,本文首先系统性地介绍了联邦遗忘学习的基本概念,并揭示了其所面临的隐私泄露风险高、模型性能难恢复、计算开销大和存储成本高四大核心挑战。随后,从隐私保护、模型恢复、计算效率和存储效率四个方面,详尽综述了联邦遗忘学习的研究进展,对相关方案进行了清晰的分类及对比总结,为后续研究提供了明确的理论与实践指导。最后,本文总结了联邦遗忘学习的实际应用,并对未来的研究方向进行了展望,以促进联邦遗忘学习在人工智能领域中的安全应用。
-
关键词
联邦学习
联邦遗忘学习
隐私保护
人工智能安全
隐私攻击
-
Keywords
federated learning
federated unlearning
privacy protection
artificial intelligence security
privacy attacks
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
