期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
1
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
结合半波高斯量化与交替更新的神经网络压缩方法
被引量:
4
1
作者
张红梅
严海兵
张向利
《计算机工程》
CAS
CSCD
北大核心
2021年第5期80-87,共8页
为使神经网络模型能在实时性要求较高且内存容量受限的边缘设备上部署使用,提出一种基于半波高斯量化与交替更新的混合压缩方法。对神经网络模型输入部分进行2 bit均匀半波高斯量化,将量化值输入带有缩放因子的二值网络通过训练得到初...
为使神经网络模型能在实时性要求较高且内存容量受限的边缘设备上部署使用,提出一种基于半波高斯量化与交替更新的混合压缩方法。对神经网络模型输入部分进行2 bit均匀半波高斯量化,将量化值输入带有缩放因子的二值网络通过训练得到初始二值模型,利用交替更新方法对已训练的二值模型进行逐层微调以提高模型测试精度。在CIFAR-10和ImageNet数据集上的实验结果表明,该方法能有效降低参数和结构冗余所导致的内存和时间开销,在神经网络模型压缩比接近30的前提下,测试精度相比HWGQ-Net方法提高0.8和2.0个百分点且实现了10倍的训练加速。
展开更多
关键词
卷积神经网络
量化
模型压缩
半波高斯量化
交替更新
在线阅读
下载PDF
职称材料
题名
结合半波高斯量化与交替更新的神经网络压缩方法
被引量:
4
1
作者
张红梅
严海兵
张向利
机构
桂林电子科技大学广西高校云计算与复杂系统重点实验室
出处
《计算机工程》
CAS
CSCD
北大核心
2021年第5期80-87,共8页
基金
国家自然科学基金(61461010)
认知无线电与信息处理省部共建教育部重点实验室基金(CRKL170103,CRKL170104)
广西密码学与信息安全重点实验室基金(GCIS201626)。
文摘
为使神经网络模型能在实时性要求较高且内存容量受限的边缘设备上部署使用,提出一种基于半波高斯量化与交替更新的混合压缩方法。对神经网络模型输入部分进行2 bit均匀半波高斯量化,将量化值输入带有缩放因子的二值网络通过训练得到初始二值模型,利用交替更新方法对已训练的二值模型进行逐层微调以提高模型测试精度。在CIFAR-10和ImageNet数据集上的实验结果表明,该方法能有效降低参数和结构冗余所导致的内存和时间开销,在神经网络模型压缩比接近30的前提下,测试精度相比HWGQ-Net方法提高0.8和2.0个百分点且实现了10倍的训练加速。
关键词
卷积神经网络
量化
模型压缩
半波高斯量化
交替更新
Keywords
Convolutional Neural Network(CNN)
quantization
model compression
half-wave
gaussian
quantization
(
hwgq
)
alternate update
分类号
TP183 [自动化与计算机技术—控制理论与控制工程]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
结合半波高斯量化与交替更新的神经网络压缩方法
张红梅
严海兵
张向利
《计算机工程》
CAS
CSCD
北大核心
2021
4
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部