期刊文献+
共找到4篇文章
< 1 >
每页显示 20 50 100
边缘资源轻量化需求下深度神经网络双角度并行剪枝方法 被引量:1
1
作者 张云翔 高圣溥 《沈阳工业大学学报》 北大核心 2025年第2期250-257,共8页
【目的】深度神经网络的应用面临庞大的计算需求和存储开销,这已成为限制其在边缘设备上广泛应用的主要瓶颈。边缘设备因受限于有限的计算资源和存储空间,难以高效运行复杂的深度神经网络模型。因此,在保证模型精度的前提下,如何降低深... 【目的】深度神经网络的应用面临庞大的计算需求和存储开销,这已成为限制其在边缘设备上广泛应用的主要瓶颈。边缘设备因受限于有限的计算资源和存储空间,难以高效运行复杂的深度神经网络模型。因此,在保证模型精度的前提下,如何降低深度神经网络的复杂度和计算量以适应边缘设备对资源轻量化的需求,已成为当前研究的重要方向。提出了一种结合蚁群算法与双角度并行剪枝的深度神经网络优化方法,以提升深度神经网络在边缘设备中的性能。【方法】分析了深度神经网络的结构特点,并构建了包含多个隐藏层的模型。通过蚁群算法模拟蚂蚁觅食过程中的信息素传递机制,在复杂空间中寻找近似最优解,对隐藏层中的相似节点进行聚类,识别并归类高度相似的神经元节点,从而缩减网络规模并降低复杂性。在聚类结果的基础上,提出了对聚类后的冗余节点及游离节点双角度并行剪枝策略:一方面,从权重矩阵的稀疏性出发,裁剪权重较小的节点,以减少计算开销;另一方面,从节点贡献度角度评估每个节点对整体输出的影响,裁剪贡献度较低的节点,从而进一步优化网络结构。【结果】实验结果表明,与未剪枝的原始模型相比,在相同的计算时间内,本文方法剪枝后的深度神经网络在保持较高精度的同时,其数据量高达120 MB、网络复杂度平均值为88.32%、可拓展性为99%。这一结果表明,在有限的资源条件下,该方法能够显著提升深度神经网络的运行效率,更好地满足边缘设备的应用需求。实验结果不仅验证了该方法的有效性,也为深度神经网络在边缘设备上的部署和应用提供了新思路。【结论】提出的优化方法通过在剪枝过程中应用蚁群算法,实现了隐藏层相似节点的精准聚类,为后续的剪枝处理提供了明确目标。同时,双角度并行剪枝策略提升了剪枝的效率和效果,确保剪枝后模型在精度和可拓展性方面的平衡。该方法不仅能够促进深度神经网络在边缘设备上的广泛应用,也为复杂网络优化问题提供了借鉴和参考价值。 展开更多
关键词 边缘资源 轻量化需求 深度神经网络 双角度并行 剪枝方法 蚁群算法 冗余节点 游离节点
在线阅读 下载PDF
基于知识蒸馏的卷积神经网络压缩方法 被引量:1
2
作者 郑筠 高朋 《沈阳工业大学学报》 北大核心 2025年第3期348-354,共7页
【目的】卷积神经网络作为深度学习领域的一项重要技术,在图像识别、目标检测、自然语言处理等多个领域展现出了卓越的性能。然而,随着模型深度和复杂度的增加,卷积神经网络模型的大小和计算需求也急剧上升,这为模型的部署和实时应用提... 【目的】卷积神经网络作为深度学习领域的一项重要技术,在图像识别、目标检测、自然语言处理等多个领域展现出了卓越的性能。然而,随着模型深度和复杂度的增加,卷积神经网络模型的大小和计算需求也急剧上升,这为模型的部署和实时应用提出了严峻挑战。【方法】为减少神经网络的大小和计算量,并提高模型的效率和可部署性,提出了基于知识蒸馏的卷积神经网络压缩方法。通过将大型复杂模型(教师网络模型)中的知识转移给小型精简模型(学生网络模型)来实现模型的压缩和加速,本文建立了性能优异的教师网络和结构更简单、参数更少的学生网络。教师网络负责提供丰富的特征表示和准确的预测结果,学生网络则通过学习教师网络行为来逼近其性能。使用标准损失函数,并通过反向传播算法迭代更新其参数,确保其在训练数据集上达到良好的性能。采用改进知识蒸馏方法获取综合阈值函数,评估教师网络和学生网络之间的知识差异,并指导学生网络的学习过程。在训练过程中,学生网络利用综合阈值函数进行监督,逐步逼近教师网络的输出,同时保持较小的模型结构和计算复杂度,从而实现了卷积神经网络的压缩处理。【结果】实验结果表明:本文方法在ImageNet和Labelme数据集上均表现出较好的模型压缩效果。其中,本文方法在压缩前后卷积神经网络输出结果的拟合度较高,表明学生网络成功学到了教师网络的关键特征;交叉熵损失值较低,在1.0左右,进一步验证了其良好的预测性能;完成卷积神经网络模型的压缩时间较短,为79.8~89.4 s,表明本文方法具有较高的计算效率。【结论】由以上结果可知,基于知识蒸馏卷积神经网络压缩方法能够有效减小模型结构、降低计算量,并保持甚至提升了模型的性能。本文方法不仅为模型压缩提供了一种新的思路,还为深度学习模型的部署和应用提供了有力支持。此外,本文方法在知识蒸馏方法上进行了改进,通过引入综合阈值函数来更全面地评估和指导模型的学习过程,在一定程度上提升了知识蒸馏的效果和效率。因此,本文方法不仅具有理论价值,还具有重要的实践意义。 展开更多
关键词 卷积神经网络压缩 改进知识蒸馏方法 判别器 学生网络 教师网络 标准损失函数 综合阈值函数 交叉熵损失值
在线阅读 下载PDF
云边协同下的电网脆弱线路辨识方法设计 被引量:1
3
作者 罗伟峰 黄建华 +1 位作者 赖丹辉 任彬华 《沈阳工业大学学报》 CAS 北大核心 2024年第2期132-137,共6页
针对以单纯云计算为基础的电网脆弱线路辨识中,存在主节点计算压力大、耗时过高的问题,引入云边协同方法,设计了一种以云边协同为基础的电网脆弱线路辨识方法。以云边协同逻辑架构为基础,将云计算与边缘计算相融合,构建电网脆弱线路辨... 针对以单纯云计算为基础的电网脆弱线路辨识中,存在主节点计算压力大、耗时过高的问题,引入云边协同方法,设计了一种以云边协同为基础的电网脆弱线路辨识方法。以云边协同逻辑架构为基础,将云计算与边缘计算相融合,构建电网脆弱线路辨识模型。利用PageRank算法建立DNS缓存,整合云计算下的边缘设备数据源,以基尔霍夫定律为基础,计算不同线路的潮流值,根据潮流结果完成电网脆弱线路辨识。结果表明,所提方法对电网中的脆弱线路辨识性能更强、耗时更短。 展开更多
关键词 云边协同 最优潮流 云计算 边缘计算 功率转移分布因子 PAGERANK算法 脆弱线路
在线阅读 下载PDF
基于段路由的IPv6网络优化算法 被引量:6
4
作者 刘威 黄萍 孙凤杰 《计算机工程与设计》 北大核心 2022年第4期930-940,共11页
随着互联网的发展,需要对IPv6网络进行性能提升,软件定义网络可以通过其特有的段路由架构对IPv6进行改进。将现有的IPv6网络直接升级为完整的SRv6网络是非常困难的。因此,提出一种基于部分部署的SRv6的网络优化算法。通过对分散的SRv6... 随着互联网的发展,需要对IPv6网络进行性能提升,软件定义网络可以通过其特有的段路由架构对IPv6进行改进。将现有的IPv6网络直接升级为完整的SRv6网络是非常困难的。因此,提出一种基于部分部署的SRv6的网络优化算法。通过对分散的SRv6节点中的TE算法进行权重调整,将TE问题转化为深度强化学习问题,优化OSPF权重、SRv6节点部署和流量路径。实验结果表明,提出的优化算法,在不同数量的节点下,可以获得与完整SR网络相同的性能,有着满足实际需求,具有较好性能。 展开更多
关键词 段路由 深度强化学习 软件定义网络 IPV6 网络优化
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部