-
题名语义分割中的自适应通道特征蒸馏
- 1
-
-
作者
马健
陈良
凌志
章月圆
-
机构
苏州大学机电工程学院
-
出处
《江苏大学学报(自然科学版)》
北大核心
2025年第5期556-561,共6页
-
基金
国家自然科学基金资助面上项目(52375114)。
-
文摘
传统的知识蒸馏方法并未对语义分割任务进行优化,且其往往只考虑了模型空间层面的知识对齐,另外还存在师生架构的限制、冗余知识的传播等问题.针对以上不足,使用分割模型的主干部分、特征融合(加强)层和预测标签三者的通道层面特征,并利用自注意力机制、softmax量纲一化、相关性矩阵等理论,最终基于主干层改进的自适应特征蒸馏、融合层通道相关性蒸馏及标签层通道显著性蒸馏设计出了自适应通道特征蒸馏框架.为验证框架的有效性,在PSPNet语义分割网络上进行了系统的试验.结果表明:所提出框架在保持PSPNet-ResNet18学生模型推理效率的同时,将分割精度提升5.79百分点,并且,框架支持师生模型采用异构主干网络.
-
关键词
语义分割
知识蒸馏
模型轻量化
自注意力机制
量纲一化
相关性矩阵
-
Keywords
semantic segmentation
knowledge distillation
model light weighting
self-attention mechanism
normalization
correlation matrix
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
