-
题名深度神经网络在线训练硬件加速器的数据量化综述
被引量:1
- 1
-
-
作者
汪航
李宝婷
张旭翀
李红光
杜明超
孙宏滨
-
机构
西安交通大学微电子学院
西安交通大学人工智能学院
西安应用光学研究所
-
出处
《微电子学与计算机》
2024年第3期1-11,共11页
-
基金
国家自然科学基金(62204200,62004157)
中央高校基本科研业务费专项(xhj032021005-01)。
-
文摘
随着算法和数据的爆炸式增长,深度神经网络(Deep Neural Network, DNN)逐渐在实际应用中扮演愈发重要的角色。然而,真实场景中的数据与线下训练数据之间往往并不满足独立同分布假设,导致预训练DNN模型在实际应用中性能严重下降。所以,在资源供给相对有限的平台上进行DNN模型在线训练成为其有效应用的保证。为了满足真实场景对DNN模型质量与速度的多维度性能要求,如何在保证算法精度的同时显著降低计算复杂度是在此类应用中部署DNN的关键。数据量化是降低计算复杂度的主流优化技术之一,能够通过降低模型参数、中间值等数据的位宽来减少硬件加速器的资源耗费。因此,从软件和硬件两个方面对深度神经网络训练加速器中关于数据量化的研究进行总结。对国内外最新发表的相关文献进行归纳总结。首先,从软件的角度总结了不同的量化方法,包括简单映射数据量化和复杂映射数据量化;其次,从硬件的角度总结了DNN加速器对网络在线训练各计算步骤的量化支持;再次,阐述了数据量化对加速器设计的影响,包括存储单元和计算单元;最后,对本领域的研究进行总结,并展望了未来本领域的发展方向。文章提出的分类方法有助于对之前的DNN加速器在数据量化方面的工作进行分类。
-
关键词
深度神经网络
在线训练
加速器
数据量化
-
Keywords
deep neural network
on-line training
accelerator
data quantization
-
分类号
TP402
[自动化与计算机技术]
-
-
题名一种可重构的数字视频处理SoC芯片验证平台
被引量:5
- 2
-
-
作者
葛晨阳
王东
孙宏滨
张超
张斌
-
机构
西安交通大学SoC设计中心
-
出处
《微电子学与计算机》
CSCD
北大核心
2009年第2期62-65,共4页
-
基金
国家"八六三"计划项目(2006AA01Z192)
-
文摘
为降低平板电视数字视频处理芯片开发的成本和周期、适应平板显示器件技术的快速更新,提出了一种基于FPGA的可重构的数字视频处理SoC芯片验证平台,并详细介绍了该验证平台主子板分离设计的思想和结构组成.基于该平台的数字视频处理芯片DTV100验证过程说明该平台具有较强的通用性、可重用性和可配置性,缩短了芯片开发周期、降低了成本.该平台已成功地应用在数字视频处理系列芯片开发的设计流程中.
-
关键词
数字视频
验证平台
SOC
可编程逻辑门阵列
可重构
-
Keywords
digital video
verification platform
SoC
FPGA
re-configurable
-
分类号
TN47
[电子电信—微电子学与固体电子学]
-
-
题名构件化中间件技术研究
- 3
-
-
作者
孙宏滨
张大志
-
机构
黑龙江省邮政信息技术局
亿阳信通公司
-
出处
《黑龙江科技信息》
2004年第10期30-30,共1页
-
文摘
网络计算带领软件产业进入了一个新的时代。商机无限,但同时挑战也无限。以电子商务为代表的技术潮流正将大到企业计算、小到个人数字代理的各种应用。在世界范围内联结起来。软件制造业正面临着一些新的课题。传统的软件设计思想已远远不够。在这一背景下,构件技术应运而生。构件推广了对象封装的内涵,侧重于复杂系统中组成部分的协调关系,强调实体在环境中的存在形式,形成一个专门的技术领域。
-
关键词
软件产业
电子商务
商机
制造业
协调关系
正面
世界范围
企业计算
构件化
构件技术
-
分类号
G633
[文化科学—教育学]
TP311
[自动化与计算机技术—计算机软件与理论]
-
-
题名分布计算中间件的特点及发展趋势研究
- 4
-
-
作者
孙宏滨
张大志
-
机构
黑龙江省邮政信息技术局
亿阳信通公司
-
出处
《黑龙江科技信息》
2004年第10期236-236,共1页
-
文摘
分布计算中间件的主旨是简化分布系统的构造,其基本思想是:抽取分布系统构造中的共性问题,封装这些共性问题的解决机制。对外提供简单统一的接口,从而减少开发人员在解决这些共性问题时的难度和工作量。中间件技术近年取得了很大的成功,不仅成为产业界开发分布系统的首选,也吸引了学术界的众多研究。随着应用的普及和研究的深人以及Internet的发展,中间件技术呈现出一些新的特点。
-
关键词
分布计算
分布系统
中间件技术
接口
封装
抽取
简化
产业界
难度
开发人员
-
分类号
G633
[文化科学—教育学]
TP311
[自动化与计算机技术—计算机软件与理论]
-