期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
2
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
基于镜像下降的分布式弱凸优化算法研究
1
作者
程松松
陈茹
+1 位作者
樊渊
邱剑彬
《自动化学报》
北大核心
2025年第8期1842-1856,共15页
机器学习中的诸多非凸优化问题,如鲁棒相位恢复、低秩矩阵补全以及稀疏字典学习等,本质上可归结为弱凸优化问题.然而,弱凸优化问题固有的非凸特性使得此类问题的求解极具挑战.此外,由于系统复杂度和问题规模的增加以及相关参数的分布式...
机器学习中的诸多非凸优化问题,如鲁棒相位恢复、低秩矩阵补全以及稀疏字典学习等,本质上可归结为弱凸优化问题.然而,弱凸优化问题固有的非凸特性使得此类问题的求解极具挑战.此外,由于系统复杂度和问题规模的增加以及相关参数的分布式存储需求,传统的基于单个个体的集中式计算框架难以高效求解此类问题.针对上述挑战,设计一种分布式镜像下降算法,并从Bregman-Moreau包络的角度分析其收敛性,证明算法的收敛速度为O(lnK/√K),其中K为算法的迭代步数.进一步地,考虑目标函数梯度信息难以精确获取的情形,采用正交随机方向矩阵法进行梯度估计.相较于传统的基于随机向量的方法,该方法利用多维方向信息进行估计,从而显著提高梯度信息的估计精度和效率.基于高效的梯度信息估计,提出一种分布式零阶镜像下降算法,并获得与已知精确梯度信息情形下相一致的收敛速度.最后,通过基于相位恢复问题的数值仿真和实验验证了所提出的两种算法的有效性.
展开更多
关键词
分布式优化
弱凸
镜像下降
Bregman-Moreau包络
零阶梯度
在线阅读
下载PDF
职称材料
基于Bandit反馈的自适应量化分布式在线镜像下降算法
被引量:
1
2
作者
谢俊如
高文华
谢奕彬
《控制理论与应用》
EI
CAS
CSCD
北大核心
2023年第10期1774-1782,共9页
多智能体系统的在线分布式优化常用于处理动态环境下的优化问题,节点间需要实时传输数据流.在很多情况下,各节点无法获取个体目标函数的全部信息(包括梯度信息),并且节点间信息传输存在一定的通信约束.考虑到非欧投影意义下的镜像下降...
多智能体系统的在线分布式优化常用于处理动态环境下的优化问题,节点间需要实时传输数据流.在很多情况下,各节点无法获取个体目标函数的全部信息(包括梯度信息),并且节点间信息传输存在一定的通信约束.考虑到非欧投影意义下的镜像下降算法在处理高维数据和大规模在线学习上的优势,本文使用个体目标函数在两点处的函数值信息对缺失的梯度信息进行估计,并且根据镜像下降算法的性质设计自适应量化器,提出基于Bandit反馈的自适应量化分布式在线镜像下降算法.然后分析了量化误差界和Regret界的关系,适当选择参数可得所提算法的Regret界为O(√T).最后,通过数值仿真验证了算法和理论结果的有效性.
展开更多
关键词
镜像下降
算法
多智能体系统
优化
量化
Bandit反馈
在线阅读
下载PDF
职称材料
题名
基于镜像下降的分布式弱凸优化算法研究
1
作者
程松松
陈茹
樊渊
邱剑彬
机构
安徽大学电气工程与自动化学院
哈尔滨工业大学智能控制与系统研究所
出处
《自动化学报》
北大核心
2025年第8期1842-1856,共15页
基金
国家自然科学基金(62103003,U21B6001,62273121)
安徽省科技创新攻坚计划(202423i08050033)资助。
文摘
机器学习中的诸多非凸优化问题,如鲁棒相位恢复、低秩矩阵补全以及稀疏字典学习等,本质上可归结为弱凸优化问题.然而,弱凸优化问题固有的非凸特性使得此类问题的求解极具挑战.此外,由于系统复杂度和问题规模的增加以及相关参数的分布式存储需求,传统的基于单个个体的集中式计算框架难以高效求解此类问题.针对上述挑战,设计一种分布式镜像下降算法,并从Bregman-Moreau包络的角度分析其收敛性,证明算法的收敛速度为O(lnK/√K),其中K为算法的迭代步数.进一步地,考虑目标函数梯度信息难以精确获取的情形,采用正交随机方向矩阵法进行梯度估计.相较于传统的基于随机向量的方法,该方法利用多维方向信息进行估计,从而显著提高梯度信息的估计精度和效率.基于高效的梯度信息估计,提出一种分布式零阶镜像下降算法,并获得与已知精确梯度信息情形下相一致的收敛速度.最后,通过基于相位恢复问题的数值仿真和实验验证了所提出的两种算法的有效性.
关键词
分布式优化
弱凸
镜像下降
Bregman-Moreau包络
零阶梯度
Keywords
Distributed optimization
weakly convex
mirror descent
Bregman-Moreau envelope
zeroth-order gradient
分类号
TP18 [自动化与计算机技术—控制理论与控制工程]
在线阅读
下载PDF
职称材料
题名
基于Bandit反馈的自适应量化分布式在线镜像下降算法
被引量:
1
2
作者
谢俊如
高文华
谢奕彬
机构
华南理工大学数学学院
出处
《控制理论与应用》
EI
CAS
CSCD
北大核心
2023年第10期1774-1782,共9页
基金
国家自然科学基金项目(62273157)
广州市科技计划项目(202002030158)资助。
文摘
多智能体系统的在线分布式优化常用于处理动态环境下的优化问题,节点间需要实时传输数据流.在很多情况下,各节点无法获取个体目标函数的全部信息(包括梯度信息),并且节点间信息传输存在一定的通信约束.考虑到非欧投影意义下的镜像下降算法在处理高维数据和大规模在线学习上的优势,本文使用个体目标函数在两点处的函数值信息对缺失的梯度信息进行估计,并且根据镜像下降算法的性质设计自适应量化器,提出基于Bandit反馈的自适应量化分布式在线镜像下降算法.然后分析了量化误差界和Regret界的关系,适当选择参数可得所提算法的Regret界为O(√T).最后,通过数值仿真验证了算法和理论结果的有效性.
关键词
镜像下降
算法
多智能体系统
优化
量化
Bandit反馈
Keywords
mirror descent algorithm
multi-agent systems
optimization
quantization
Bandit feedback
分类号
TP18 [自动化与计算机技术—控制理论与控制工程]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
基于镜像下降的分布式弱凸优化算法研究
程松松
陈茹
樊渊
邱剑彬
《自动化学报》
北大核心
2025
0
在线阅读
下载PDF
职称材料
2
基于Bandit反馈的自适应量化分布式在线镜像下降算法
谢俊如
高文华
谢奕彬
《控制理论与应用》
EI
CAS
CSCD
北大核心
2023
1
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部