期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
边-端协作下基于早期退出机制的深度神经网络动态自适应分区
1
作者 丁男 王佳佳 +2 位作者 冀承慧 胡创业 许力 《电子与信息学报》 北大核心 2025年第10期4005-4017,共13页
在工业智能化场景中,深度神经网络(DNN)的推理任务因有向无环图(DAG)复杂结构特性与动态资源约束,面临延迟与精度难以协同优化的挑战。现有方法多局限于链式DNN,且缺乏对网络波动与异构计算资源的自适应支持。为此,该文提出一种边-端协... 在工业智能化场景中,深度神经网络(DNN)的推理任务因有向无环图(DAG)复杂结构特性与动态资源约束,面临延迟与精度难以协同优化的挑战。现有方法多局限于链式DNN,且缺乏对网络波动与异构计算资源的自适应支持。为此,该文提出一种边-端协作下基于早期退出机制的DNN动态自适应分区框架(DAPDEE),通过边-端协作实现高精度低延迟推理。其核心创新如下:将链式与复杂DNN统一表征为DAG结构,为分区优化提供通用拓扑基础;基于多任务学习离线优化各层早期退出分类器,部署时仅需加载预训练模型参数,结合实时网络带宽、终端计算负载等指标,动态选择最优退出点与分区策略;通过逆向搜索机制联合优化延迟与精度,轻负载下最小化单帧端到端延迟,重负载下最大化系统吞吐量。实验表明,在CIFAR-10数据集与VGG16和AlexNet模型上,DAPDEE在CAT1/3G/4G网络中较Device-Only方法降低延迟达7.7%(重负载)与7.5%(轻负载),吞吐量提升9.9倍,且精度损失始终低于1.2%。该框架为智能制造、自动驾驶等时敏场景中DAG结构DNN的高效推理提供了理论与技术支撑。 展开更多
关键词 边缘计算 深度神经网络分区 边-端协作 早期退出机制 边缘推理加速
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部