-
题名容错深度学习加速器跨层优化
- 1
-
-
作者
张青
刘成
刘波
黄海同
王颖
李华伟
李晓维
-
机构
处理器芯片全国重点实验室(中国科学院计算技术研究所)
中国科学院大学
北京控制工程研究所
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2024年第6期1370-1387,共18页
-
基金
国家重点研发计划(2022YFB4500405)
国家自然科学基金项目(62174162)
空间可信计算与电子信息技术实验室开放基金资助(OBCandETL-2022-07)。
-
文摘
容错深度学习加速器是保障高可靠深度学习的基石,也是深度学习应用于安全关键领域如宇航、机器人等面临的一个关键环节.然而,深度学习计算和访存都非常密集,传统基于冗余计算的容错方法直接应用于深度学习加速器的容错设计会导致严重的功耗、芯片面积等硬件资源开销.为此,从神经元计算任务和神经元的数据位宽2个维度挖掘深度学习模型对于故障的敏感度差异,并利用这些差异从架构和电路层分别对于敏感的部分提供更多的保护以降低容错代价.同时,利用深度学习自身的容错特性,通过限制量化缩小电路层需要保护的电路逻辑规模.最后,利用贝叶斯优化协同优化算法、架构和电路的跨层设计参数,在保障深度学习可靠性、精度以及性能的前提下,最小化硬件资源开销.
-
关键词
跨层优化
容错深度学习加速器
脆弱因子
异构架构
选择性冗余
-
Keywords
cross-layer optimization
fault-tolerant deep learning accelerator
vulnerability factor
hybrid architecture
selective redundancy
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
