基于网络结构搜索的野生动物自动识别方法

1

作者 孟继森 马玉明 +5 位作者 吕佳楠 孙茜 巨友娟 谢将剑 张长春 张军国 《野生动物学报》 北大核心 2025年第2期386-397,共12页

野生动物自动识别是野生动物监测的重要手段。为解决现有识别方法高度依赖人工设计和专家经验,需要较高时间成本的问题,提出一种基于网络结构搜索的野生动物自动识别方法。首先,选择集单元堆叠的局部搜索模式、梯度优化的搜索策略以及... 野生动物自动识别是野生动物监测的重要手段。为解决现有识别方法高度依赖人工设计和专家经验,需要较高时间成本的问题,提出一种基于网络结构搜索的野生动物自动识别方法。首先,选择集单元堆叠的局部搜索模式、梯度优化的搜索策略以及权值共享的性能评估方法于一体的神经网络结构搜索算法,基于可微分搜索策略的野生动物识别模型自动生成机制,构建特征性搜索空间;随后,在可微分搜索策略基础上,为解决搜索后期模型性能坍塌以及搜索需要较高计算资源的问题,引入基于早停和部分通道采样的可微分搜索策略进一步提高模型搜索效率;最后,开展对比试验验证模型性能。结果表明:本研究方法生成的模型准确率在NACTI公共野生动物数据集上的平均准确率达到95.22%,均优于对比模型。与经典可微分网络结构搜索方法相比,平均准确率提升6.29个百分点,搜索耗时减少2.99 GPU/d。研究结果表明,本研究模型可以实现野生动物图像识别模型的自动化设计,能够进一步提高野生动物监测识别系统的自动化与智能化水平。 展开更多

关键词 野生动物识别 网络结构搜索 可微分搜索策略 早停机制

在线阅读 下载PDF 职称材料

神经网络结构搜索在脑数据分析领域的研究进展 被引量：1

2

作者 李晴 汪启昕 +5 位作者 李子遇 祝志远 张诗皓 牟浩南 杨文婷 邬霞 《软件学报》 EI CSCD 北大核心 2024年第4期1682-1702,共21页

神经网络结构搜索(neural architecture search,NAS)是自动化机器学习的重要组成部分,已被广泛应用于多个领域,包括计算机视觉、语音识别等,能够针对特定数据、场景、任务寻找最优的深层神经网络结构.将NAS引入至脑数据分析领域,能够在... 神经网络结构搜索(neural architecture search,NAS)是自动化机器学习的重要组成部分,已被广泛应用于多个领域,包括计算机视觉、语音识别等,能够针对特定数据、场景、任务寻找最优的深层神经网络结构.将NAS引入至脑数据分析领域,能够在图像分割、特征提取、辅助诊断等多个应用领域大幅度提升性能,展现低能耗自动化机器学习的优势.基于NAS进行脑数据分析是当前的研究热点之一,同时也具有一定挑战.目前,在此领域,国内外可供参考的综述性文献较少.对近年来国内外相关文献进行了细致地调研分析,从算法模型、研究任务、实验数据等不同方面对NAS在脑数据分析领域的研究现状进行了综述.同时,也对能够支撑NAS训练的脑数据集进行了系统性总结,并对NAS在脑数据分析中存在的挑战和未来的研究方向进行了分析和展望. 展开更多

关键词 神经网络结构搜索 脑数据分析 神经网络 深度学习

在线阅读 下载PDF 职称材料

基于神经网络结构搜索的目标识别方法 被引量：2

3

作者 卞伟伟 邱旭阳 申研 《空军工程大学学报（自然科学版）》 CSCD 北大核心 2020年第4期88-92,共5页

针对目标识别需求,对基于神经网络的深度学习方法展开研究。由于深度学习模型中包含了对数据的先验假设,因此人工设计神经网络需要领域内专家丰富的先验知识,且具有劳动密集与时间成本高的缺点。为了获得超越专家个人经验、表现更好的网... 针对目标识别需求,对基于神经网络的深度学习方法展开研究。由于深度学习模型中包含了对数据的先验假设,因此人工设计神经网络需要领域内专家丰富的先验知识,且具有劳动密集与时间成本高的缺点。为了获得超越专家个人经验、表现更好的网络,采用一种可微神经结构搜索的高效结构搜索方法,将搜索空间放宽为连续的空间,然后通过梯度下降来优化体系结构的验证集性能,从而找到面向目标识别的最优神经网络结构。仿真实验结果表明,将基于神经网络结构搜索的目标识别方法应用于“低慢小”类目标识别是可行的。 展开更多

关键词 目标识别 卷积神经网络 神经网络结构搜索 深度学习

在线阅读 下载PDF 职称材料

神经网络结构搜索方法综述 被引量：5

4

作者 刘建伟 王新坦 《控制理论与应用》 EI CAS CSCD 北大核心 2023年第1期12-31,共20页

如今,深度学习广泛地应用于生活、工作中的各个方面,给我们带来了极大的便利.在此背景下,需要设计针对不同任务的神经网络结构,满足不同的需求.但是,人工设计神经网络结构需要专业的知识,进行大量的实验.因此,神经网络结构搜索算法的研... 如今,深度学习广泛地应用于生活、工作中的各个方面,给我们带来了极大的便利.在此背景下,需要设计针对不同任务的神经网络结构,满足不同的需求.但是,人工设计神经网络结构需要专业的知识,进行大量的实验.因此,神经网络结构搜索算法的研究显得极为重要.神经网络结构搜索(NAS)是自动深度学习(AutoDL)过程中的一个基本步骤,对深度学习的发展与应用有着重要的影响.早期,一些神经网络结构搜索算法虽然搜索到了性能优越的神经网络结构,但是需要大量的计算资源且搜索效率低下.因此,研究人员探索了多种设计神经网络结构的算法,也提出了许多减少计算资源、提高搜索效率的方法.本文首先简要介绍了神经网络结构的搜索空间,其次对神经网络结构搜索算法进行了全面的分类汇总、分析,主要包括随机搜索算法、进化算法、强化学习、基于梯度下降的方法、基于顺序模型的优化算法,再其次探索并总结了提高神经网络结构搜索效率的方法,最后探讨了目前神经网络结构搜索工作中存在的问题以及未来的研究方向. 展开更多

关键词 神经网络结构搜索 搜索空间 搜索策略 性能评估策略

在线阅读 下载PDF 职称材料

单次神经网络结构搜索研究综述

5

作者 董佩杰 牛新 +1 位作者 魏自勉 陈学晖 《计算机工程与科学》 CSCD 北大核心 2023年第2期191-203,共13页

深度学习技术的快速发展与神经网络结构的创新关系密切。为提升网络结构设计效率,自动化网络结构设计算法—神经网络结构搜索NAS成为近年的研究热点。早期NAS算法通常要对大量候选网络进行训练和评估,带来了巨大的计算开销。通过迁移学... 深度学习技术的快速发展与神经网络结构的创新关系密切。为提升网络结构设计效率,自动化网络结构设计算法—神经网络结构搜索NAS成为近年的研究热点。早期NAS算法通常要对大量候选网络进行训练和评估,带来了巨大的计算开销。通过迁移学习技术,可以加速候选网络的收敛,从而提升网络结构搜索效率。基于权重迁移技术的单次神经网络结构搜索(One-shot NAS)算法以超图为基础,子图之间进行权重共享,提高了搜索效率,但是也面临着协同适应、排序相关性差等挑战性问题。首先介绍了基于权重共享的One-shot NAS算法的相关研究,然后从采样策略、过程解耦和阶段性3个方面对关键技术进行分析梳理,比较分析了典型算法的搜索效果,并对未来的研究方向进行了展望。 展开更多

关键词 神经网络结构搜索 单次神经网络结构搜索 权重共享 迁移学习 深度学习

在线阅读 下载PDF 职称材料

基于网络结构搜索的工业过程自动故障诊断方法 被引量：3

6

作者 李显 李歆 +2 位作者 周晓锋 李帅 金樑 《计算机应用研究》 CSCD 北大核心 2022年第3期807-813,共7页

针对现有基于深度神经网络的工业过程故障诊断方法存在网络结构设计烦琐及参数寻优耗时等问题,提出了一种基于网络结构搜索的工业过程自动故障诊断方法(automatic fault diagnosis, AutoFD),该方法采用AutoFD网络结构搜索算法,来自动完... 针对现有基于深度神经网络的工业过程故障诊断方法存在网络结构设计烦琐及参数寻优耗时等问题,提出了一种基于网络结构搜索的工业过程自动故障诊断方法(automatic fault diagnosis, AutoFD),该方法采用AutoFD网络结构搜索算法,来自动完成卷积神经网络的网络结构设计和网络参数寻优。在此基础上,首先通过在原始数据上施加操作生成新通道;接着利用表现预测加速获取通道适应性排序的过程;然后依据通道适应性排序,通过表现预测来快速选取最优卷积通道数;最终根据最优卷积通道来搜索表现最优的多通道卷积神经网络模型用于工业过程自动故障诊断。采用田纳西—伊斯曼(Tennessee Eastman, TE)工业过程和数值系统对提出方法进行验证,结果表明该方法可以实现网络结构自动设计及网络参数的自动寻优,并且具有优良的故障诊断性能。 展开更多

关键词 自动故障诊断 工业过程 网络结构搜索 多通道卷积神经网络 表现预测

在线阅读 下载PDF 职称材料

神经网络结构搜索前沿综述 被引量：1

7

作者 杨木润 曹润柘 +3 位作者 杜权 李垠桥 肖桐 朱靖波 《中文信息学报》 CSCD 北大核心 2023年第10期1-15,共15页

深度学习已经在多个领域得到了广泛的使用,并取得了令人瞩目的成绩。然而优秀的网络结构设计在很大程度上仍然依赖于研究者的先验知识和大量的实验验证,整个过程对于人力、算力等资源消耗巨大。因此,能否让计算机自动地找到最适用于当... 深度学习已经在多个领域得到了广泛的使用,并取得了令人瞩目的成绩。然而优秀的网络结构设计在很大程度上仍然依赖于研究者的先验知识和大量的实验验证,整个过程对于人力、算力等资源消耗巨大。因此,能否让计算机自动地找到最适用于当前任务的神经网络结构成为了当前研究的热点。近年来,研究人员对神经网络结构搜索(Neural Architecture Search,NAS)进行了各种改进,相关研究工作复杂且丰富。为了让读者对神经网络结构搜索方法有更清晰的了解,该文从神经网络结构搜索的三个维度:搜索空间、搜索策略和性能评估策略对现有方法进行了分析,并提出了未来可能的研究方向。 展开更多

关键词 神经网络结构搜索 搜索空间 搜索策略 性能评估策略 自动机器学习

在线阅读 下载PDF 职称材料

面向神经网络结构搜索的植物叶片病害增强识别方法

8

作者 代国威 田志民 +1 位作者 樊景超 王朝雨 《西北林学院学报》 CSCD 北大核心 2023年第5期153-161,193,共10页

针对植物病害识别模型结构复杂且依赖于人为设计网络结构等问题,通过神经网络结构搜索(NAS),提出一种基于队列分块的神经网络结构搜索方法(NNSS),可实现超轻量级高精度植物叶片图像识别模型的自动构建。首先将12种在经济和环境下有益的... 针对植物病害识别模型结构复杂且依赖于人为设计网络结构等问题,通过神经网络结构搜索(NAS),提出一种基于队列分块的神经网络结构搜索方法(NNSS),可实现超轻量级高精度植物叶片图像识别模型的自动构建。首先将12种在经济和环境下有益的植物共计22类植物叶片图像作为训练样本,利用模糊c均值聚类(FCM)算法分割植物叶片的感染点,以获得叶片受关注的区域信息;通过图像像素的灰度空间相关性,采用快速灰度共生矩阵(FGLCM)算法提取6类受关注区域的纹理特征信息,获得的特征向量运用主成分变换选择重要特征;提出队列分块的局部搜索空间构造方法,将特征信息通过自动构建的模型进行分类。结果表明,NNSS方法取得了98.33%的准确率,特异性和灵敏性表现最优。相比于AlexNet、GoogLeNet、InceptionV3和VGGNet-16模型,改进VGG-INCEP16模型的性能得到进一步提升,但仍低于NNSS方法,这是由于该方法能结合数据集搜索合适的网络结构,对比次优VGG-INCEP16模型准确率至少提高了2.1%。研究结果显示,NNSS方法能够实现准确识别植物病害,对于神经网络模型结构自动搜索的未来具有较高的实际应用价值。 展开更多

关键词 图像处理 神经网络结构搜索 模糊C均值聚类 快速灰度共生矩阵 叶片病害识别

在线阅读 下载PDF 职称材料

面向触觉识别的神经结构搜索算法

9

作者 邹子超 李玉良 +1 位作者 陈萌 马飞红 《哈尔滨工程大学学报》 北大核心 2025年第6期1209-1217,共9页

针对手工设计神经网络需要耗费一定时间和精力的问题,本文提出了一种基于自学习遗传算法的两级式神经结构搜索算法,并应用于触觉识别领域。设计了一种自学习遗传算法,利用强化学习优化遗传算法的选择、交叉和变异算子,以求遗传算法加速... 针对手工设计神经网络需要耗费一定时间和精力的问题,本文提出了一种基于自学习遗传算法的两级式神经结构搜索算法,并应用于触觉识别领域。设计了一种自学习遗传算法,利用强化学习优化遗传算法的选择、交叉和变异算子,以求遗传算法加速收敛,并在陷入局部最优时跳出局部最优;基于自学习遗传算法,提出了两级式神经网络结构搜索算法,用于搜索适合处理触觉时序数据的卷积神经网络和循环神经网络串联模型,且为卷积神经网络和循环神经网络模块引入了层间残差连接以解决网络退化问题,并使用公开触觉数据集对算法进行了实验验证。自建包含22类实验样品的触觉数据集,基于数据集进行了搜索算法实验,并对搜索得到的最优网络进行了分类识别测试,识别准确率为96.81%,与长短期记忆网络、门控循环单元网络和卷积神经网络与长短记忆网络串联模型进行对比,对比结果显示:本文搜索算法搜索出的网络性能更加优异,识别率更高,进一步证明了算法的有效性。 展开更多

关键词 神经网络结构搜索 触觉识别 强化学习 遗传算法 卷积神经网络和循环神经网络串联模型 触觉传感器 卷积神经网络与循环神经网络串联模型 层间残差连接循环神经网络模型

在线阅读 下载PDF 职称材料

基于网络结构自动搜索的对抗样本防御方法研究

10

作者 郑耀昊 王利明 杨婧 《信息网络安全》 CSCD 北大核心 2022年第3期70-77,共8页

针对图像分类任务中存在的对抗样本攻击使图像分类器分类出错导致深度学习模型不可信的问题,文章提出一种基于网络结构自动搜索的对抗样本防御方法。该方法利用强化学习的思想,将搜索防御网络建模成智能体的行为。通过搜索空间的定义、... 针对图像分类任务中存在的对抗样本攻击使图像分类器分类出错导致深度学习模型不可信的问题,文章提出一种基于网络结构自动搜索的对抗样本防御方法。该方法利用强化学习的思想,将搜索防御网络建模成智能体的行为。通过搜索空间的定义、搜索策略的设计以及网络性能的评估,控制网络自动搜索可以得到性能最优的图像重构网络,将对抗样本恢复成自然图片从而达到防御对抗攻击的目的。经实验验证,该方法有效地将对抗样本进行了重构,降低了其攻击性,从而保证分类器的分类正确率。 展开更多

关键词 网络结构搜索 图像分类 对抗样本 深度学习

在线阅读 下载PDF 职称材料

深度学习的轻量化神经网络结构研究综述 被引量：43

11

作者 王军 冯孙铖 程勇 《计算机工程》 CAS CSCD 北大核心 2021年第8期1-13,共13页

随着深度神经网络和智能移动设备的快速发展,网络结构轻量化设计逐渐成为前沿且热门的研究方向,而轻量化的本质是在保持深度神经网络精度的前提下优化存储空间和提升运行速度。阐述深度学习的轻量化网络结构设计方法,对比与分析人工设... 随着深度神经网络和智能移动设备的快速发展,网络结构轻量化设计逐渐成为前沿且热门的研究方向,而轻量化的本质是在保持深度神经网络精度的前提下优化存储空间和提升运行速度。阐述深度学习的轻量化网络结构设计方法,对比与分析人工设计的轻量化方法、基于神经网络结构搜索的轻量化方法和基于自动模型压缩的轻量化方法的创新点与优劣势,总结与归纳上述3种主流轻量化方法中性能优异的网络结构并分析各自的优势和局限性。在此基础上,指出轻量化网络结构设计所面临的挑战,同时对其应用方向及未来发展趋势进行展望。 展开更多

关键词 深度学习 轻量化设计 深度可分离卷积 Octave卷积 神经网络结构搜索 模型压缩

在线阅读 下载PDF 职称材料

基于最优架构搜索网络的液压泵故障诊断改进方法研究

12

作者 郑直 刘彤谣 +2 位作者 赵文博 刘伟民 王志军 《机床与液压》 北大核心 2024年第19期216-224,共9页

针对神经网络结构搜索方法(NAS)在搜索最优结构时存在性能评估效率偏低,以及由于模型泛化性能力不足导致液压泵故障诊断精度过低等问题,提出一种改进的Data-free NAS方法。通过引入CAME优化器和热重启余弦退火优化算法,分别替代SGD优化... 针对神经网络结构搜索方法(NAS)在搜索最优结构时存在性能评估效率偏低,以及由于模型泛化性能力不足导致液压泵故障诊断精度过低等问题,提出一种改进的Data-free NAS方法。通过引入CAME优化器和热重启余弦退火优化算法,分别替代SGD优化器和LambdaLR优化算法,对Data-free NAS的诊断精度和计算效率等性能评估验证功能进行改进优化处理。通过液压泵实测故障实验验证分析可知:所提改进方法较原方法具有显著有效性和优越性;CAME优化器在优化模型的学习率和动量等权重超参数方面具有明显优势,精度和效率分别提升了7.24%和37.5%,且精度高达100%;热重启余弦退火优化算法可优化学习率参数,使效率提升了81.25%。 展开更多

关键词 神经网络结构搜索 液压泵 CAME优化器 热重启余弦退火算法 故障诊断

在线阅读 下载PDF 职称材料

面向语言模型的全自动单元结构搜索

13

作者 万全 吴霖 余正涛 《小型微型计算机系统》 CSCD 北大核心 2022年第11期2308-2313,共6页

可微神经网络结构搜索(DARTS)是目前主流的神经结构搜索(Neural architecture search,NAS)方法之一,但大多数基于DARTS的方法都应用于计算机视觉领域,在自然语言处理领域的研究相对较少.语言模型是目前NAS在自然语言领域应用较多的任务,... 可微神经网络结构搜索(DARTS)是目前主流的神经结构搜索(Neural architecture search,NAS)方法之一,但大多数基于DARTS的方法都应用于计算机视觉领域,在自然语言处理领域的研究相对较少.语言模型是目前NAS在自然语言领域应用较多的任务,DARTS在应用于语言模型任务时,会先对输入进行人工处理,整个过程为:输入-人工处理-结构搜索-输出,不满足NAS不靠人工干预,让机器自动设计网络结构的初衷.本文在DARTS的基础上提出了一种基于全自动搜索单元的NAS方法:1)移除结构搜索前的人工处理过程,实现整个单元搜索过程自动化;2)增加节点和操作数量抵消移除人工处理过程带来的模型规模和复杂度降低的影响;3)Softmax决策优化.本文提出的方法实现了单元搜索过程全自动化,搜索到的模型结构也在PTB和WT2数据集上取得了一定的竞争性. 展开更多

关键词 神经网络结构搜索 语言模型 自然与语言处理 DARTS

在线阅读 下载PDF 职称材料

聚类和群智能优化算法的自动剪枝方法

14

作者 刘洲峰 吴文涛 +2 位作者 李环宇 邵昕楠 李春雷 《计算机工程与应用》 北大核心 2025年第11期204-215,共12页

近年来,网络剪枝技术作为一种极为有效的卷积神经网络压缩方案,得到了迅猛的发展,其中通道剪枝得益于其硬件友好性,有着尤为明显的优势。然而,当前主流方法集中于通过通道重要性评估或人工干预来实现剪枝,低效且容易导致次优结果;同时... 近年来,网络剪枝技术作为一种极为有效的卷积神经网络压缩方案,得到了迅猛的发展,其中通道剪枝得益于其硬件友好性,有着尤为明显的优势。然而,当前主流方法集中于通过通道重要性评估或人工干预来实现剪枝,低效且容易导致次优结果;同时一些基于搜索算法的自动化剪枝方法则难以控制搜索空间与搜索效率之间的平衡。为了解决这些问题,提出了一种基于聚类与群智能优化算法的自动通道剪枝方法。具体来说,根据特征图的相似度利用K-Mediod算法进行逐层的通道聚类,并通过灵敏度分析找到当前最优剪枝率,从而形成初步的压缩模型,引入粒子群算法(PSO)对其进行迭代搜索并找到最优剪枝网络结构。对剪枝网络进行微调,以降低精度损失。在CIFAR-10、ILSVRC-2012上对几种最为常用的CNN模型进行了评估,与近年来的主流方法相比实验结果有所提升,证明了剪枝后网络的有效性,在ILSVRC-2012中,在ResNet-50达到45.5%剪枝率的前提下,模型准确度只降低了0.23个百分点。 展开更多

关键词 卷积神经网络 模型压缩 网络剪枝 网络结构搜索 粒子群算法

在线阅读 下载PDF 职称材料

基于自适应剪枝率与高效权重继承的神经网络通道剪枝方法 被引量：1

15

作者 刘相呈 曹健 +3 位作者 姚宏毅 徐鹏涛 张袁 王源 《北京大学学报（自然科学版）》 EI CAS CSCD 北大核心 2023年第5期764-772,共9页

目前的通道级剪枝方法往往需要复杂的搜索和微调过程,并且容易陷入局部最优解,针对此问题,提出一种新颖的通道剪枝框架(AdaPruner),只需通过一次稀疏训练,就可以针对各种预算复杂度,自适应地生成相应的子网络,并高效地选择适合当前结构... 目前的通道级剪枝方法往往需要复杂的搜索和微调过程,并且容易陷入局部最优解,针对此问题,提出一种新颖的通道剪枝框架(AdaPruner),只需通过一次稀疏训练,就可以针对各种预算复杂度,自适应地生成相应的子网络,并高效地选择适合当前结构的初始化权重。在图像分类任务的多个数据集上实验结果表明,该方法在常用的残差网络和轻量级网络上的性能都优于以往剪枝方法。 展开更多

关键词 卷积神经网络 通道剪枝 稀疏化训练 神经网络结构搜索 图像分类

在线阅读 下载PDF 职称材料

基于贝叶斯优化的无标签网络剪枝算法 被引量：3

16

作者 高媛媛 余振华 +1 位作者 杜方 宋丽娟 《计算机应用》 CSCD 北大核心 2023年第1期30-36,共7页

针对深度神经网络(DNN)的参数和计算量过大问题,提出一种基于贝叶斯优化的无标签网络剪枝算法。首先,利用全局剪枝策略来有效避免以逐层方式修剪而导致的模型次优压缩率;其次,在网络剪枝过程中不依赖数据样本标签,并通过最小化剪枝网络... 针对深度神经网络(DNN)的参数和计算量过大问题,提出一种基于贝叶斯优化的无标签网络剪枝算法。首先,利用全局剪枝策略来有效避免以逐层方式修剪而导致的模型次优压缩率;其次,在网络剪枝过程中不依赖数据样本标签,并通过最小化剪枝网络与基线网络输出特征的距离对网络每层的压缩率进行优化;最后,利用贝叶斯优化算法寻找网络每一层的最优剪枝率,以提高子网搜索的效率和精度。实验结果表明,使用所提算法在CIFAR-10数据集上对VGG-16网络进行压缩,参数压缩率为85.32%,每秒浮点运算次数(FLOPS)压缩率为69.20%,而精度损失仅为0.43%。可见,所提算法可以有效地压缩DNN模型,且压缩后的模型仍能保持良好的精度。 展开更多

关键词 深度神经网络 模型压缩 网络剪枝 网络结构搜索 贝叶斯优化

在线阅读 下载PDF 职称材料

基于图卷积网络的卷积神经网络耗时预测算法

17

作者 李哲暘 张如意 +3 位作者 谭文明 任烨 雷鸣 吴昊 《北京航空航天大学学报》 EI CAS CSCD 北大核心 2022年第12期2450-2459,共10页

通过可学习的预测算法获取卷积神经网络(CNN)在硬件上的推理耗时越来越受到研究者的关注。现有耗时预测算法主要面临2个问题:卷积神经网络设计空间采样复杂度高,数据采集成本高;无法准确预测硬件编译器的算子融合技术对推理耗时的影响... 通过可学习的预测算法获取卷积神经网络(CNN)在硬件上的推理耗时越来越受到研究者的关注。现有耗时预测算法主要面临2个问题:卷积神经网络设计空间采样复杂度高,数据采集成本高;无法准确预测硬件编译器的算子融合技术对推理耗时的影响。为了解决上述问题,提出了一种基于图卷积网络(GCN)的耗时预测算法,将整体网络耗时看作多节点耗时补偿的累加,并利用图卷积对结构算子融合产生的耗时影响进行建模。同时,提出一种新型差分训练方案,减少采样空间规模,提高算法的泛化能力。在HISI3559硬件平台上对MB-C连续空间采样模型的耗时预测实验表明:所提算法可将耗时估计的平均相对误差从传统算法的302%降低到5.3%。另外,通过将传统耗时预测算法替换成所提算法进行耗时评估,可以使网络结构搜索算法搜索到耗时更加接近目标的高精度网络。 展开更多

关键词 耗时预测 图卷积网络 深度学习 网络结构搜索 模型部署

在线阅读 下载PDF 职称材料

基于渐进式认知发现的新型配电网故障定位方法 被引量：8

18

作者 刘畅宇 王小君 +1 位作者 尚博阳 刘曌 《高电压技术》 EI CAS CSCD 北大核心 2024年第3期1156-1164,I0022,共10页

在“双碳”目标下,持续接入分布式电源的新型配电网对运行可靠性提出了更高的要求,如何在渗透率变化的场景下提高现有故障定位方法的适应能力成为亟需解决的问题。为此,采用元学习特有的学会学习机制,提出了一种基于渐进式认知发现的新... 在“双碳”目标下,持续接入分布式电源的新型配电网对运行可靠性提出了更高的要求,如何在渗透率变化的场景下提高现有故障定位方法的适应能力成为亟需解决的问题。为此,采用元学习特有的学会学习机制,提出了一种基于渐进式认知发现的新型配电网故障定位方法。首先,基于现有场景数据采用网络结构搜索算法构建当前场景个性化定位模型;然后,利用元学习算法提取模型构建过程中的知识因子,组成故障定位认知发现库;进而,在数据流和知识流的共同作用下,故障定位模型渐进地实现场景持续变化下的自主进化;最后,在PSCAD仿真平台对所提方法进行了验证。结果表明:所提方法具有定位精度高、鲁棒性强的优点,且在不同渗透率的故障场景下有着良好的泛化能力。研究结果可为基于人工智能的定位方法在实际系统中的应用提供技术支持。 展开更多

关键词 新型配电网 故障定位 网络结构搜索 元学习 渐进式认知发现 自主进化

在线阅读 下载PDF 职称材料

改进的语义分割模型及其应用 被引量：1

19

作者 王耀文 程军圣 杨宇 《计算机工程与应用》 CSCD 北大核心 2024年第2期337-343,共7页

训练语义分割网络模型需要较为繁琐的人工标注作为训练标签,同时语义分割模型在构建和运行过程中也存在超参数较难确定以及模型过于庞大等问题。为解决这类问题,提出了一种基于标注框生成热点图的标签生成方法,简化了语义分割训练标签... 训练语义分割网络模型需要较为繁琐的人工标注作为训练标签,同时语义分割模型在构建和运行过程中也存在超参数较难确定以及模型过于庞大等问题。为解决这类问题,提出了一种基于标注框生成热点图的标签生成方法,简化了语义分割训练标签的人工标注过程。以及在可微分神经网络结构搜索方法的基础上提出了一种对硬件要求更低的神经网络结构搜索方法,并基于此种方法改进了特征金字塔结构,构建了一个改进的语义分割模型,并在安全帽与口罩检测数据集上进行了试验。与U-Net、FPN等模型比较,新的模型在参数量、计算速度以及精确度上都更有优势。 展开更多

关键词 语义分割模型 神经网络结构搜索 特征金字塔结构 安全帽与口罩检测

在线阅读 下载PDF 职称材料

大数据智能:从数据拟合最优解到博弈对抗均衡解 被引量：8

20

作者 蒋胤傑 况琨 吴飞 《智能系统学报》 CSCD 北大核心 2020年第1期175-182,共8页

数据驱动的机器学习(特别是深度学习)在自然语言处理、计算机视觉分析和语音识别等领域取得了巨大进展,是人工智能研究的热点。但是传统机器学习是通过各种优化算法拟合训练数据集上的最优模型,即在模型上的平均损失最小,而在现实生活... 数据驱动的机器学习(特别是深度学习)在自然语言处理、计算机视觉分析和语音识别等领域取得了巨大进展,是人工智能研究的热点。但是传统机器学习是通过各种优化算法拟合训练数据集上的最优模型,即在模型上的平均损失最小,而在现实生活的很多问题(如商业竞拍、资源分配等)中,人工智能算法学习的目标应该是是均衡解,即在动态情况下也有较好效果。这就需要将博弈的思想应用于大数据智能。通过蒙特卡洛树搜索和强化学习等方法,可以将博弈与人工智能相结合,寻求博弈对抗模型的均衡解。从数据拟合的最优解到博弈对抗的均衡解能让大数据智能有更广阔的应用空间。 展开更多

关键词 人工智能 大数据 最优拟合 神经网络结构搜索 博弈论 纳什均衡

在线阅读 下载PDF 职称材料