-
题名图像恢复问题的梯度稀疏化正则方法
被引量：1
- 1
-
-
作者
赵晨萍
冯象初
王卫卫
贾西西
-
机构
西安电子科技大学数学与统计学院
河南科技学院数学科学学院
-
出处
《系统工程与电子技术》
EI
CSCD
北大核心
2017年第10期2353-2358,共6页
-
基金
国家自然科学基金(61362129
61379030
+1 种基金
61472303)
中央高校基本科研业务费专项资金(NSIY21)资助课题
-
文摘
针对图像恢复中边缘损坏及细节丢失等问题,从分析梯度直方图的分布特征及梯度稀疏性最佳表示出发,提出了一种基于梯度稀疏性的正则方法,建立了具有梯度先验信息的图像恢复模型。该模型不仅能够增强图像的细节特征,而且能够在去除模糊及噪声与保持图像边缘之间取得很好的平衡。设计了一种新的优化算法对模型进行求解。实验结果表明,新算法快速有效且收敛性好,新模型能够在很好地去除模糊和噪声的同时,有效保留图像边缘及纹理等信息。
-
关键词
图像恢复
梯度直方图
梯度稀疏化
优化算法
-
Keywords
image restoration
gradient histogram
gradient sparse
optimization algorithm
-
分类号
TN911.73
[电子电信—通信与信息系统]
-
-
题名面向数据并行深度学习的准确率感知稀疏梯度融合算法
- 2
-
-
作者
李洪亮
张蒙
王子琛
李想
-
机构
吉林大学计算机科学与技术学院
-
出处
《吉林大学学报(理学版)》
北大核心
2025年第5期1356-1365,共10页
-
基金
吉林省自然科学基金面上项目(批准号:20230101062JC).
-
文摘
针对数据并行的深度学习作业中梯度同步导致的性能瓶颈问题,提出一种动态的稀疏梯度融合算法.该算法将梯度压缩、流水线技术与张量融合技术进行协同建模,建立稀疏梯度融合行为对准确率影响的理论模型,并基于此寻找加快梯度同步的同时提高验证准确率的梯度融合方案,以解决稀疏梯度融合导致验证准确率不稳定的问题.实验结果表明,该稀疏梯度融合算法比分层稀疏化方法缩短了1.63倍的通信时间,比已有的稀疏梯度融合算法缩短了2.68倍的收敛时间.
-
关键词
并行深度学习
梯度稀疏化
张量融合
通信流水线技术
-
Keywords
parallel deep learning
gradient sparsification
tensor fusion
communication pipeline technology
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名地理分布式机器学习:超越局域的框架与技术
- 3
-
-
作者
李宗航
虞红芳
汪漪
-
机构
电子科技大学
南方科技大学
鹏城实验室
-
出处
《中兴通讯技术》
2020年第5期16-22,共7页
-
基金
国家重点研发计划(2019YFB1802800)
鹏城实验室大湾区未来网络试验与应用环境项目(LZC0019)。
-
文摘
提出了一种面向地理分布式机器学习的软件框架Geo MX,该框架从通信架构和压缩传输机制两方面着手优化通信。对应设计了分层参数服务器(HiPS)架构和双向稀疏梯度传输(BiSparse)技术,旨在分别减少广域传输的梯度流数量和流大小。GeoMX在跨广域分布的数据中心上最高可取得4倍于数据中心内MXNET的训练效率,且几乎无精度损失。
-
关键词
大数据
人工智能
地理分布式机器学习
梯度稀疏化
-
Keywords
big data
artificial intelligence
geo-distributed machine learning
gradient sparsification
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
