-
题名Bi-SCNN:二值随机混合神经网络加速器
- 1
-
-
作者
于启航
文渊博
杜子东
-
机构
中国科学院计算技术研究所处理器芯片国家重点实验室
中国科学院大学
上海处理器技术创新中心
-
出处
《高技术通讯》
北大核心
2024年第12期1243-1255,共13页
-
基金
国家重点研发计划(2022YFB4501601)
国家自然科学基金(62222214,61925208,U19B2019,U22A2028)
中国科学院稳定支持基础研究领域青年团队计划(YSBR-029)资助项目。
-
文摘
二值神经网络(BNN)具有硬件友好的特性,但为了保证计算精度,在输入层仍需要使用浮点或定点计算,增加了硬件开销。针对该问题,本文将另一种同样具有硬件友好特性的随机计算方法应用于BNN,实现了BNN输入层的高效计算,并设计了二值随机混合计算架构Bi-SCNN。首先,在BNN输入层使用高精度的随机运算单元,实现了与定点计算近似的精度;其次,通过在处理单元(PE)内和PE间2个层次对随机数生成器进行复用,并优化运算单元,有效降低了硬件开销;最后,根据输入数据的特性对权值配置方式进行优化,进而降低了整体计算延迟。相比于现有性能最优的BNN加速器,Bi-SCNN在保证计算精度的前提下,实现了2.4倍的吞吐量、12.6倍的能效比和2.2倍的面积效率提升,分别达到2.2 TOPS、7.3 TOPS·W^(-1)和1.8 TOPS·mm^(-2)。
-
关键词
二值神经网络(BNN)
随机计算(SC)
神经网络加速器
-
Keywords
binary neural network(BNN)
stochastic computing(SC)
deep learning accelerator
-
分类号
TP3
[自动化与计算机技术—计算机科学与技术]
-
