期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
1
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
基于中间层频域特征蒸馏的元学习算法
1
作者
张灵
郭林威
《沈阳工业大学学报》
CAS
北大核心
2023年第3期313-318,共6页
针对目前知识蒸馏忽略特征图全局统计信息的问题,提出利用离散余弦变换(DCT)频域释义的全局统计特征知识,并对各类别的频域特征使用Logistic分类器进行二分类,提取类间差异性信息.利用元学习算法(MPL)对教师模型参数进行更新,使教师模...
针对目前知识蒸馏忽略特征图全局统计信息的问题,提出利用离散余弦变换(DCT)频域释义的全局统计特征知识,并对各类别的频域特征使用Logistic分类器进行二分类,提取类间差异性信息.利用元学习算法(MPL)对教师模型参数进行更新,使教师模型能动态调整所传递的频域特征.实验模型在CIFAR-10,CIFAR-100以及ImageNet 2012数据集上有0.12%~0.16%的精度提升,结果表明,频域特征与类间相似性信息为学生模型的训练提供更多有用的知识,且两模型的知识交互更有利于教师的知识迁移.
展开更多
关键词
知识
蒸馏
元学习
离散余弦变换
自监督
中间
特征
层
Logistic分类器
全局统计特征知识
类间差异性信息
在线阅读
下载PDF
职称材料
题名
基于中间层频域特征蒸馏的元学习算法
1
作者
张灵
郭林威
机构
广东工业大学计算机学院
出处
《沈阳工业大学学报》
CAS
北大核心
2023年第3期313-318,共6页
基金
广东省自然科学基金项目(2021A1515012233)。
文摘
针对目前知识蒸馏忽略特征图全局统计信息的问题,提出利用离散余弦变换(DCT)频域释义的全局统计特征知识,并对各类别的频域特征使用Logistic分类器进行二分类,提取类间差异性信息.利用元学习算法(MPL)对教师模型参数进行更新,使教师模型能动态调整所传递的频域特征.实验模型在CIFAR-10,CIFAR-100以及ImageNet 2012数据集上有0.12%~0.16%的精度提升,结果表明,频域特征与类间相似性信息为学生模型的训练提供更多有用的知识,且两模型的知识交互更有利于教师的知识迁移.
关键词
知识
蒸馏
元学习
离散余弦变换
自监督
中间
特征
层
Logistic分类器
全局统计特征知识
类间差异性信息
Keywords
knowledge distillation
meta learning
discrete cosine transform
self-supervision
intermediate feature layer
Logistic classifier
global statistical feature knowledge
inter-class difference information
分类号
TP391 [自动化与计算机技术—计算机应用技术]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
基于中间层频域特征蒸馏的元学习算法
张灵
郭林威
《沈阳工业大学学报》
CAS
北大核心
2023
0
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
