-
题名基于通道相似度熵的卷积神经网络裁剪
- 1
-
-
作者
耿丽丽
牛保宁
-
机构
太原理工大学计算机科学与技术学院(大数据学院)
山西财经大学实验实训中心
-
出处
《计算机工程》
CAS
CSCD
北大核心
2024年第7期133-143,共11页
-
基金
山西省重点研发计划(201903D421007)。
-
文摘
卷积神经网络(CNN)中包含大量滤波器,参数训练以及存储占用大量内存资源。裁剪滤波器是减小网络规模、释放内存、提高计算速度的有效方法。现有滤波器裁剪方法的主要问题是将滤波器权值作为孤立的数值计算,裁剪小权值滤波器,保留权值大的滤波器,忽视了部分小权值滤波器在特征提取过程中的重要性。通过分析滤波器通道之间的相似性,提出一种基于通道相似度的滤波器熵值计算方法(FEC)。针对滤波器结构特征,对权值张量进行均值压缩,并证明其合理性。先计算滤波器通道距离判断通道之间的相似性,再根据通道相似度计算滤波器熵,由熵值大小进行滤波器排序,删除一定比例熵值较小的滤波器。实验设计针对不同卷积层采用不同的裁剪比例,在CIFAR10以及Image Net标准数据集上对VGG-16和Res Net-34网络进行裁剪。实验结果表明:在基本保持原始准确度的情况下,分别减少了约94%和70%的参数数量;在目标检测网络SSD上参数数量减少了55.72%,平均精度均值(mAP)提高了1.04个百分点。
-
关键词
卷积神经网络
通道相似度
熵
滤波器
裁剪
-
Keywords
Convolutional Neural Network(CNN)
channel similarity
entropy
filter
pruning
-
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于标签相关性学习网络的多标签图像分类方法
- 2
-
-
作者
王路芳
张海云
-
机构
山西财经大学实验实训中心
山西大学大数据科学与产业研究院
山西大学计算机与信息技术学院
-
出处
《太原理工大学学报》
CAS
北大核心
2024年第6期1097-1106,共10页
-
基金
国家自然科学基金资助项目(62072291)。
-
文摘
【目的】针对多标签图像分类任务中的标签特征混乱和标签关系局限性问题,提出了一种基于标签相关性学习网络的多标签图像分类方法(MLLCLN)。【方法】采用掩码注意力方法和多头自注意力机制。在掩码注意力方法中,通过图像真实标签对应的状态词向量遮盖注意力机制产生的标签特征,使模型能获得更多上下文信息,一定程度上避免了注意力机制的注意力区域重叠的问题。设计了标签相关性学习网络,该网络是由多层多头注意力机制和图神经网络组成。多头自注意力机制能够基于标签特征学习局部标签关系,而图神经网络使用了现有的方法MLGCN作为引导,使模型能同时考虑全局标签关系,缓解了由于标签关系局限性导致的模型出现虚假预测的问题。【结果】MLLCLN在公开数据集MSCOCO2014和VOC2007上的实验结果表明了其较好的性能,分类精度分别达到了84.4%和96.0%,为多标签图像分类提供了新思路。
-
关键词
多头自注意力机制
多标签图像分类
注意力机制
自适应权重
卷积神经网络
-
Keywords
multi-head self-attention
multi-label image classification
attention mechanism
adaptive weight
convolutional neural networks
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于局部关系卷积的点云分类与分割模型
被引量：4
- 3
-
-
作者
高金金
李潞洋
-
机构
山西财经大学实验中心
中北大学大数据学院
-
出处
《计算机工程与应用》
CSCD
北大核心
2022年第19期276-283,共8页
-
基金
国家重点研发计划(2018YFB2101504)
国家自然科学基金(61801279)
山西省回国留学人员科研资助项目(2020-113)。
-
文摘
深度学习已成为点云分析的主要方法,但是现有方法在点云特征抽象时无法充分参考局部形状信息,因此对局部形状变化感知的鲁棒性较差,难以针对形状特征生成合适的卷积核。为此,提出了局部关系卷积(local relation convolution,LRConv),一种通过全面局部关系感知形状特征的卷积算子。参考点云局部中所有邻域点之间的低维空间关系,定义了一种不依赖于点的顺序与刚性变换的局部关系描述;使用多层感知机从关系描述中学习得到局部区域中每个点对应的卷积权重;通过卷积权重来变换点的特征,并聚合局部区域的抽象特征。在基准测试实验中,LRConv分类网络在ModelNet上的分类准确率较PointNet++提高了2.1个百分点,LRConv零件分割网络在ShapeNet上的分割类别平均重合度较PointNet++提高了1.5个百分点。实验结果充分验证了LRConv在特征抽象中的有效性。
-
关键词
点云
局部关系
分类与分割
卷积神经网络
深度学习
-
Keywords
point cloud
local relationship
classification and segmentation
convolutional neural network(CNN)
deep learning
-
分类号
TP391.7
[自动化与计算机技术—计算机应用技术]
-
-
题名高性能计算与虚拟桌面基础设施融合使用研究
被引量：1
- 4
-
-
作者
路芳瑞
-
机构
山西财经大学实验中心
-
出处
《现代电子技术》
2022年第20期167-170,共4页
-
基金
山西省软科学研究计划项目(2019041033-4)
山西财经大学教学改革创新项目(2019247)
山西省哲学社会科学规划课题(2020YY098)。
-
文摘
随着机器学习、神经网络、深度学习相关研究的广泛开展,以及近年来人工智能、大数据相关专业的增设,很多高校的高性能计算系统存在算力紧张的情况;同时,高校中的很多信息设施由于负载的时段性波动,也存在计算资源闲置浪费的情况,因而对这些闲置资源如何有效利用进行研究意义重大。虚拟桌面基础设施计算力可观,负载空闲时间段较长且具有规律性,基于此,文中提出一种通过在虚拟桌面基础设施中创建虚拟机形式的高性能计算节点进而组成计算队列,通过错时启动虚拟桌面池和高性能计算队列融合使用的方法,来解决高性能计算算力紧张的问题。文中方法既不影响虚拟桌面基础设施原有的提供桌面池的功能,同时又能够提供额外的高性能计算算力,使得既有信息设备发挥更大的功效。
-
关键词
高性能计算
虚拟桌面基础设施
融合使用
机器学习
集群
体系结构
闲置设施
-
Keywords
HPC
VDI
fusion use
machine learning
cluster
system architecture
idle equipment
-
分类号
TN919-34
[电子电信—通信与信息系统]
TP399
[自动化与计算机技术—计算机应用技术]
G482
[文化科学—教育技术学]
-
-
题名一种基于AHP的无线传感器网络分簇路由算法
被引量：4
- 5
-
-
作者
王珊
梁敏
路芳瑞
赵冬琴
-
机构
山西财经大学实验中心
山西财经大学信息学院
-
出处
《火力与指挥控制》
CSCD
北大核心
2023年第9期77-81,91,共6页
-
基金
山西省基础研究计划青年科学研究项目(202103021223308)
山西省基础研究计划自然科学研究面上基金资助项目(202103021224289)。
-
文摘
为提升无线传感器网络分簇效果及提高簇头选举质量,提出了基于层次分析法(analytic hierarchy pro-cess,AHP)的改进K均值聚类路由算法。分簇阶段通过计算节点间最远距离方法优化K-means聚类中心点选取,确定出K个大小均匀的簇群;簇头选举阶段引入AHP模型计算影响簇头选举的各因素权重,从而提高簇头选举质量。实验结果表明,该算法分簇结构良好,簇头选取质量更佳,能有效均衡网络能耗,延长网络生命周期。
-
关键词
无线传感器网络
K均值聚类
AHP模型
簇头选举
-
Keywords
wireless sensor networks
K-means clustering
AHP model
cluster head election
-
分类号
TP393
[自动化与计算机技术—计算机应用技术]
-
-
题名深度神经网络模型压缩综述
被引量：20
- 6
-
-
作者
耿丽丽
牛保宁
-
机构
太原理工大学信息与计算机学院
山西财经大学实验中心
-
出处
《计算机科学与探索》
CSCD
北大核心
2020年第9期1441-1455,共15页
-
基金
国家重点研发计划(No.2017YFB1401000)
山西省重点研发计划(No.201903D421007)。
-
文摘
近年来,随着深度学习的飞速发展,深度神经网络受到了越来越多的关注,在许多应用领域取得了显著效果。通常,在较高的计算量下,深度神经网络的学习能力随着网络层深度的增加而不断提高,因此深度神经网络在大型数据集上的表现非常卓越。然而,由于其计算量大、存储成本高、模型复杂等特性,使得深度学习无法有效地应用于轻量级移动便携设备。因此,压缩、优化深度学习模型成为目前研究的热点。当前主要的模型压缩方法有模型裁剪、轻量级网络设计、知识蒸馏、量化、体系结构搜索等。对以上方法的性能、优缺点和最新研究成果进行了分析总结,并对未来研究方向进行了展望。
-
关键词
深度学习
模型压缩
神经网络
-
Keywords
deep learning
model compression
neural networks
-
分类号
TP391.4
[自动化与计算机技术—计算机应用技术]
-
-
题名RDX基装药安全跌落的数值仿真及验证
- 7
-
-
作者
赵冬琴
张银
廖宏哲
王亚辉
路芳瑞
王珊
-
机构
山西财经大学实验实训中心
-
出处
《兵器材料科学与工程》
2025年第5期136-143,共8页
-
文摘
为研究RDX基装药跌落的安全性,构建缩比战斗部装药跌落数值计算模型,通过数值模拟深入分析3种不同跌落姿态、跌落高度冲击下,装药内部应力演变过程及变形规律。结果表明:缩比战斗部装药跌落时,应力波在其内部持续往复反射与叠加,决定了装药变形分布与程度;跌落姿态是影响装药结构力学响应特征的关键因素,其中水平跌落时,装药内部安全性最低;跌落高度主要影响过载幅值和变形程度。试验与仿真结果误差为5.21%~6.17%,表明构建的跌落数值计算模型准确,材料参数选择合理,能有效满足水中兵器战斗部RDX炸药装药跌落的数值模拟需求。此外,跌落时产生的最大应力值低于装药的爆炸极限值,处于安全范围。研究结果可为RDX基炸药在海军武器的应用提供技术支持。
-
关键词
RDX基炸药
数值仿真
安全性
跌落
-
Keywords
RDX based explosive
numerical simulation
security
to fall
-
分类号
TP
[自动化与计算机技术]
-
