-
题名一种多终端视频流智能识别模型共进演化方法研究
被引量:1
- 1
-
-
作者
王乐豪
刘思聪
於志文
于昊艺
郭斌
-
机构
西北工业大学计算机学院
哈尔滨工程大学
-
出处
《计算机学报》
EI
CAS
CSCD
北大核心
2024年第5期947-970,共24页
-
基金
国家自然科学基金重点项目(61960206008)
国家杰出青年科学基金(62025205)
国家自然科学基金面上项目(62102317)资助。
-
文摘
在泛在的智能物联网终端部署深度模型并提供智能应用/服务受到越来越多关注.但是,受限于终端硬件资源,研究人员从模型轻量化技术入手,为深度模型的轻量化、高精度部署提供技术支撑.然而基于轻量化深度模型的视频应用会面临实际场景中的数据漂移问题,导致推理精度急剧下降,并且该问题在移动场景中尤为显著.边缘辅助的模型在线演化是解决数据漂移问题的一种有效方式,可实现自演化的可成长的智能计算系统.然而,模型演化速度会影响终端模型高精度服务时间占比,从而影响模型全生命周期推理性能.为了提升多终端协同的模型演化精度和速度,本文提出基于软硬一体理念的多终端视频流智能识别模型共进演化方法和系统.一方面,本文提出了新颖的多终端互学习共进演化方法,借助终端新场景数据,克服模型数据异构挑战,实现多终端模型和全局模型的高增益协同演化和共进学习;另一方面,结合互学习算法特点,提出基于存内计算的训练加速方法,利用自适应数据压缩和模型训练优化提升系统性能,在保证演化精度增益的同时加速多个终端模型的演化速度.最后,通过不同真实移动场景下的轻量化模型持续演化任务实验验证,并对比六种基准方法证明NestEvo可以有效减少51.98%演化延迟,并提升42.6%终端轻量化模型平均推理精度.
-
关键词
数据漂移
模型共进演化
互学习
训练加速方案
存内计算
智能物联网
-
Keywords
data drift
model evolution
mutual learning
training acceleration scheme
in-memory computing
Artificial Intelligence of Things
-
分类号
TP393
[自动化与计算机技术—计算机应用技术]
-