期刊文献+
共找到2篇文章
< 1 >
每页显示 20 50 100
基于镜像下降的分布式弱凸优化算法研究
1
作者 程松松 陈茹 +1 位作者 樊渊 邱剑彬 《自动化学报》 北大核心 2025年第8期1842-1856,共15页
机器学习中的诸多非凸优化问题,如鲁棒相位恢复、低秩矩阵补全以及稀疏字典学习等,本质上可归结为弱凸优化问题.然而,弱凸优化问题固有的非凸特性使得此类问题的求解极具挑战.此外,由于系统复杂度和问题规模的增加以及相关参数的分布式... 机器学习中的诸多非凸优化问题,如鲁棒相位恢复、低秩矩阵补全以及稀疏字典学习等,本质上可归结为弱凸优化问题.然而,弱凸优化问题固有的非凸特性使得此类问题的求解极具挑战.此外,由于系统复杂度和问题规模的增加以及相关参数的分布式存储需求,传统的基于单个个体的集中式计算框架难以高效求解此类问题.针对上述挑战,设计一种分布式镜像下降算法,并从Bregman-Moreau包络的角度分析其收敛性,证明算法的收敛速度为O(lnK/√K),其中K为算法的迭代步数.进一步地,考虑目标函数梯度信息难以精确获取的情形,采用正交随机方向矩阵法进行梯度估计.相较于传统的基于随机向量的方法,该方法利用多维方向信息进行估计,从而显著提高梯度信息的估计精度和效率.基于高效的梯度信息估计,提出一种分布式零阶镜像下降算法,并获得与已知精确梯度信息情形下相一致的收敛速度.最后,通过基于相位恢复问题的数值仿真和实验验证了所提出的两种算法的有效性. 展开更多
关键词 分布式优化 弱凸 镜像下降 Bregman-Moreau包络 零阶梯度
在线阅读 下载PDF
基于Bandit反馈的自适应量化分布式在线镜像下降算法 被引量:1
2
作者 谢俊如 高文华 谢奕彬 《控制理论与应用》 EI CAS CSCD 北大核心 2023年第10期1774-1782,共9页
多智能体系统的在线分布式优化常用于处理动态环境下的优化问题,节点间需要实时传输数据流.在很多情况下,各节点无法获取个体目标函数的全部信息(包括梯度信息),并且节点间信息传输存在一定的通信约束.考虑到非欧投影意义下的镜像下降... 多智能体系统的在线分布式优化常用于处理动态环境下的优化问题,节点间需要实时传输数据流.在很多情况下,各节点无法获取个体目标函数的全部信息(包括梯度信息),并且节点间信息传输存在一定的通信约束.考虑到非欧投影意义下的镜像下降算法在处理高维数据和大规模在线学习上的优势,本文使用个体目标函数在两点处的函数值信息对缺失的梯度信息进行估计,并且根据镜像下降算法的性质设计自适应量化器,提出基于Bandit反馈的自适应量化分布式在线镜像下降算法.然后分析了量化误差界和Regret界的关系,适当选择参数可得所提算法的Regret界为O(√T).最后,通过数值仿真验证了算法和理论结果的有效性. 展开更多
关键词 镜像下降算法 多智能体系统 优化 量化 Bandit反馈
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部