期刊文献+
共找到6篇文章
< 1 >
每页显示 20 50 100
面向资源异构的通信高效去中心化联邦学习
1
作者 潘沭伽 陈思光 《系统工程与电子技术》 北大核心 2025年第4期1374-1383,共10页
为缓解去中心化联邦学习中不同终端节点数据异构带来的负面影响,在提升系统异步兼容性的同时降低整体通信开销,提出一种基于掩码位置图的去中心化联邦学习算法。具体地,设计一种不对称的掩码更新方案。通过逐渐提升稀疏度,将掩码范数与... 为缓解去中心化联邦学习中不同终端节点数据异构带来的负面影响,在提升系统异步兼容性的同时降低整体通信开销,提出一种基于掩码位置图的去中心化联邦学习算法。具体地,设计一种不对称的掩码更新方案。通过逐渐提升稀疏度,将掩码范数与训练程度绑定,同时使用可信任的稀疏联邦聚合,在有效利用稀疏梯度的同时保障系统的安全性。其次,设计动态掩码社区分割算法,将梯度掩码与社区分割结合,可有效利用全网梯度之间的相似性,主动选择相似聚合目标,提升模型性能。进一步,在网络结构上将模型层与掩码层分离,可降低算力异构对系统可拓展性的影响。最后,设计一种单线程、可同时模拟数据异构、算力异构与终端节点异步的实验方案。实验结果表明,与现有相关方法相比,所提算法在两种数据集与严苛异步条件设置下均可维持高准确率,并且将通信开销降低了14%~21%。 展开更多
关键词 边缘计算 联邦学习 去中心化系统 稀疏训练
在线阅读 下载PDF
分布式训练系统及其优化算法综述 被引量:8
2
作者 王恩东 闫瑞栋 +1 位作者 郭振华 赵雅倩 《计算机学报》 EI CAS CSCD 北大核心 2024年第1期1-28,共28页
人工智能利用各种优化技术从海量训练样本中学习关键特征或知识以提高解的质量,这对训练方法提出了更高要求.然而,传统单机训练无法满足存储与计算性能等方面的需求.因此,利用多个计算节点协同的分布式训练系统成为热点研究方向之一.本... 人工智能利用各种优化技术从海量训练样本中学习关键特征或知识以提高解的质量,这对训练方法提出了更高要求.然而,传统单机训练无法满足存储与计算性能等方面的需求.因此,利用多个计算节点协同的分布式训练系统成为热点研究方向之一.本文首先阐述了单机训练面临的主要挑战.其次,分析了分布式训练系统亟需解决的三个关键问题.基于上述问题归纳了分布式训练系统的通用框架与四个核心组件.围绕各个组件涉及的技术,梳理了代表性研究成果.在此基础之上,总结了基于并行随机梯度下降算法的中心化与去中心化架构研究分支,并对各研究分支优化算法与应用进行综述.最后,提出了未来可能的研究方向. 展开更多
关键词 分布式训练系统 (去)中心化架构 中心化架构算法 (异)同步算法 并行随机梯度下降 收敛速率
在线阅读 下载PDF
基于多智能体深度强化学习的多船协同避碰策略
3
作者 黄仁贤 罗亮 《计算机集成制造系统》 EI CSCD 北大核心 2024年第6期1972-1988,共17页
为了提高多船会遇时智能避碰策略的协同性、安全性、实用性和节能性,在中心化训练去中心化执行框架下,结合优先经验回放机制提出一种多智能体Softmax深层双确定性策略梯度PER-MASD3算法,用于解决多船协同避碰问题,该算法不仅解决了双延... 为了提高多船会遇时智能避碰策略的协同性、安全性、实用性和节能性,在中心化训练去中心化执行框架下,结合优先经验回放机制提出一种多智能体Softmax深层双确定性策略梯度PER-MASD3算法,用于解决多船协同避碰问题,该算法不仅解决了双延迟确定策略梯度(TD3)算法存在的值估计偏差问题,还在模型训练过程中引入熵正则项,以促进探索和控制随机控制策略,采用自适应噪声对不同阶段的任务进行有效探索,进一步提升了算法的学习效果和稳定性。通过实验验证,所提算法在解决多船协同避碰问题上具有较好的决策效果、更快的收敛速度和更稳定的性能。 展开更多
关键词 多智能体深度强化学习 协同避碰 中心化训练去中心化执行 优先经验回放 多智能体Softmax深层双确定性策略梯度
在线阅读 下载PDF
区块链技术在警犬技术方面的应用及案例分析
4
作者 李冰 朱为豪 《中国工作犬业》 2024年第7期15-17,共3页
区块链技术作为一种去中心化、不可篡改的分布式账本技术,近年来在各个领域得到了广泛关注和应用。警犬技术是指利用经过专门训练的犬进行各种任务,包括缉毒、搜爆、搜救、追踪等。警犬通过其灵敏的嗅觉和高超的搜索能力,在打击犯罪和... 区块链技术作为一种去中心化、不可篡改的分布式账本技术,近年来在各个领域得到了广泛关注和应用。警犬技术是指利用经过专门训练的犬进行各种任务,包括缉毒、搜爆、搜救、追踪等。警犬通过其灵敏的嗅觉和高超的搜索能力,在打击犯罪和维护公共安全方面发挥了重要作用。然而,警犬技术也面临着管理和追踪方面的挑战,如警犬的训练效果、健康状况、任务记录等信息的管理。区块链技术如何有效运用于警犬技术是个很有价值的研究方向。 展开更多
关键词 警犬技术 区块链技术 公共安全 打击犯罪 去中心化 有效运用 案例分析 训练效果
在线阅读 下载PDF
基于无线D2D网络的分层联邦学习
5
作者 刘翀赫 余官定 刘胜利 《浙江大学学报(工学版)》 EI CAS CSCD 北大核心 2023年第5期892-899,966,共9页
为了解决在无线网络中部署联邦学习面临的通信资源消耗大和设备计算资源有限的问题,提出一种基于无线设备直通(D2D)网络的分层联邦学习框架.与传统架构不同,模型训练采用分层聚合.该框架通过D2D网络进行簇内聚合,各个簇同时进行去中心... 为了解决在无线网络中部署联邦学习面临的通信资源消耗大和设备计算资源有限的问题,提出一种基于无线设备直通(D2D)网络的分层联邦学习框架.与传统架构不同,模型训练采用分层聚合.该框架通过D2D网络进行簇内聚合,各个簇同时进行去中心化训练,从每个簇中选择一个簇头上传模型至服务器进行全局聚合.通过将去中心化学习与分层联邦学习结合,降低了中央节点网络流量.使用D2D网络中节点的度来衡量模型收敛性能,通过最大化所有簇头的度之和,对簇头选择与带宽分配问题进行联合优化,并且设计一种基于动态规划的算法求出最优解.仿真结果表明,与基线算法相比,该框架不仅能够有效地降低全局聚合的频率和减少训练时间,而且能够提高最终训练得到的模型性能. 展开更多
关键词 联邦学习 设备直通网络 去中心化学习 资源分配 训练加速
在线阅读 下载PDF
清华大学研究团队在分布式机器学习的隐私安全关键技术领域取得进展
6
《信息网络安全》 CSCD 北大核心 2023年第9期130-130,共1页
分布式机器学习能够协同实际系统中分布在不同节点的数据和资源,通过节点间共享学习中间变量(如模型参数)进行模型训练。该技术具有去中心化的特性,一定程度上避免了数据集中存储带来的隐私风险,是目前面向隐私保护的主流机器学习方法。
关键词 隐私风险 机器学习方法 中间变量 模型训练 共享学习 隐私安全 去中心化 研究团队
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部