-
题名面向GPU集群的动态资源调度方法
被引量：5
- 1
-
-
作者
傅懋钟
胡海洋
李忠金
-
机构
杭州电子科技大学计算机学院
浙江省北大信息技术高等研究院智能软件技术与应用研究中心
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2023年第6期1308-1321,共14页
-
基金
浙江省自然科学基金项目(LY22F020021)
浙江省重点研发计划“领雁”项目(2023C01145)
国家自然科学基金项目(61802095,61572162)。
-
文摘
深度神经网络(deep neural network,DNN)已广泛应用于人类社会的许多领域.大规模的DNN模型可显著提高识别精度,然而在单个GPU设备上训练大规模的DNN模型需要耗费大量的时间.因此,如何借助分布式深度学习(distributed deep learning,DDL)技术,在GPU集群上并行地训练多DNN模型已受到工业界和学术界的广泛关注.基于此,提出一种面向GPU集群的动态资源调度(dynamic resource scheduling,DRS)方法,解决异构带宽环境下具有截止时间要求的多DNN任务调度问题.具体来说,首先基于Ring-AllReduce通信方式构建资源-时间模型,以衡量DDL任务在不同资源方案下的运行时间;然后基于截止时间需求构建了资源-性能模型,以实现高效的资源利用;最后,结合上述资源-时间和资源-性能模型设计了DRS算法,为多DNN任务训练实现资源方案决策.在DRS算法中融入最近截止时间原则进行实际资源分配,并利用资源迁移机制减少调度过程中出现的资源碎片场景的影响.在4个NVIDIA GeForce RTX 2080 Ti的GPU集群上的异构带宽的实验表明,DRS相较于对比算法提升了39.53%的截止时间保证率,并在调度过程中GPU集群节点的资源利用率达到了91.27%.
-
关键词
资源调度
GPU集群
分布式深度学习
异构带宽
资源迁移
-
Keywords
resource scheduling
GPU cluster
distributed deep learning
heterogeneous bandwidth
resource migration
-
分类号
TP301.6
[自动化与计算机技术—计算机系统结构]
-
-
题名基于条件生成对抗网络的梯级表面高光去除方法
被引量：2
- 2
-
-
作者
胡宇航
胡海洋
李忠金
-
机构
杭州电子科技大学计算机学院
浙江省北大信息技术高等研究院智能软件技术与应用研究中心
-
出处
《计算机应用研究》
CSCD
北大核心
2022年第9期2867-2872,2880,共7页
-
文摘
针对传统高光去除方法对梯级图像高光去除表现不佳问题,提出了一种基于条件生成对抗网络的梯级图像高光去除方法(multi-scale spatial dense gradient cascade generative adversarial network,MSDGC-GAN)。该方法设计了一种空间上下文密集模块(spatial contextual feature dense block,SCFDB)能够深度提取像素行与列之间的空间背景信息。此外,设计了一种多尺度梯度级联结构以弥补网络下采样中的尺度特征损失,并且该结构能够赋予模型多尺度鉴别能力同时稳定训练梯度分布。在分析了经典双色反射模型基础上,将最大漫反射度估计应用于损失函数以监督网络训练。实验结果表明,该方法在经典高光数据集和自制梯级高光图像数据集中表现均优于对比方法。
-
关键词
高光去除
条件生成对抗网络
多尺度
特征级联
漫反射估计
密集连接网络
-
Keywords
highlight removal
conditional generative adversarial network
multi-scale
feature cascade
diffuse reflectance estimation
densely connected network
-
分类号
TP391.4
[自动化与计算机技术—计算机应用技术]
-
