基于动态学习率与BP神经网络的变速箱故障诊断研究 被引量：13

1

作者 莫易敏 齐飞 张健 《机械设计与制造》 北大核心 2017年第11期49-52,共4页

变速箱是汽车传动系的重要组成部分,因此对变速箱常见故障类型进行诊断研究很有必要。以四种变速箱常见故障类型为研究对象,利用动态学习率对BP神经网络进行改良,建立了变速箱故障诊断网络模型。通过测量并提取已发生故障的信号特征参数... 变速箱是汽车传动系的重要组成部分,因此对变速箱常见故障类型进行诊断研究很有必要。以四种变速箱常见故障类型为研究对象,利用动态学习率对BP神经网络进行改良,建立了变速箱故障诊断网络模型。通过测量并提取已发生故障的信号特征参数,收集大量信息数据作为已知样本来训练某状态下的神经网络,再用其它转速下变速箱故障数据对网络进行验证。对于学习率的恰当改变可以提升网络的速度和稳态性。诊断结果表明,网络模型通过对已知故障数据样本的学习,实现了对变速箱未知故障的诊断。 展开更多

关键词 故障诊断 动态学习率 BP神经网络 特征参数

在线阅读 下载PDF 职称材料

引入动态调节学习率的SAE轴承故障诊断研究 被引量：10

2

作者 唐魏 郑源 +1 位作者 潘虹 徐晶珺 《计算机工程与应用》 CSCD 北大核心 2020年第20期264-269,共6页

为提高轴承故障分类收敛速度和分类精度,提出一种动态调节学习率的堆叠自编码网络(SAE)。初始时刻给予一个较大的学习率,迭代过程中利用当前重构误差动态调节学习率的大小,根据重构误差梯度的正负值给出两种不同的学习率减小策略,使学... 为提高轴承故障分类收敛速度和分类精度,提出一种动态调节学习率的堆叠自编码网络(SAE)。初始时刻给予一个较大的学习率,迭代过程中利用当前重构误差动态调节学习率的大小,根据重构误差梯度的正负值给出两种不同的学习率减小策略,使学习率大小更符合网络当前的运行状态,最后通过不同的有标签数据量进行反向微调,验证故障分类识别的准确率。实验结果表明:相比固定学习率,该动态调节学习率SAE网络预训练收敛时间减少17.70%,重构误差下降22.92%,故障分类准确率得到提高,且能在保持分类准确率的前提下,减少有标签样本量。 展开更多

关键词 自编码 深度学习 故障诊断 滚动轴承 动态学习率

在线阅读 下载PDF 职称材料

一种具有动态最优学习率的BP算法 被引量：10

3

作者 王子才 施云惠 崔明根 《系统仿真学报》 EI CAS CSCD 2001年第6期775-776,815,共3页

提出具有动态最优学习率的ＢＰ算法，　动态最优学习率是通过迭代的方式得到的，　这种算法具有运算简单，收敛速度快，精度高特点。仿真结果说明此算法是有效的。

关键词 BP算法 多层前馈神经网络 动态最优学习率

在线阅读 下载PDF 职称材料

联合迁移学习和自适应学习率的苹果成熟度识别 被引量：5

4

作者 袁明新 于洪涛 +2 位作者 江亚峰 王琪 申燚 《中国农机化学报》 北大核心 2019年第11期131-135,共5页

针对目前用于苹果成熟度识别的卷积神经网络存在训练时间长,训练样本多的不足,提出了联合迁移学习和自适应学习率的识别方法。首先,选用结构较小的VGG-F模型作为预训练模型;然后在VGG-F模型的训练过程中融入局部响应归一化的数据预处理... 针对目前用于苹果成熟度识别的卷积神经网络存在训练时间长,训练样本多的不足,提出了联合迁移学习和自适应学习率的识别方法。首先,选用结构较小的VGG-F模型作为预训练模型;然后在VGG-F模型的训练过程中融入局部响应归一化的数据预处理、以函数损失为依据的学习率自适应调整和优选动量值的三种训练策略;最后将已构建的图像样本用于调整后的模型进行重训练和测试。实验结果表明,相比于基本VGG-F模型、具有深层结构的VGG-16和VGG-19模型,文中提出的模型将平均识别准确率分别提高7.5%、6.33%和4.5%,且重训练时间远少于其他三种模型,从而验证了文中方法在解决苹果成熟度识别问题时具有训练成本低和识别准确率高的优势。 展开更多

关键词 苹果成熟度 VGG-F模型 迁移学习 动态学习率 局部响应归一化

在线阅读 下载PDF 职称材料

鸽子强化学习过程中内部学习状态的动态建模研究 被引量：2

5

作者 师黎 陶梦妍 李志辉 《科学技术与工程》 北大核心 2017年第13期120-125,共6页

经典Q-learning强化学习模型中学习率为一固定参数,无法有效反映认知学习的动态过程。提出了一种将学习速率表征为时变参数的Q-Learning强化学习模型,给出了利用近期历史行为数据估计阶段性学习速率的方法。为了评估验证该模型的性能,... 经典Q-learning强化学习模型中学习率为一固定参数,无法有效反映认知学习的动态过程。提出了一种将学习速率表征为时变参数的Q-Learning强化学习模型,给出了利用近期历史行为数据估计阶段性学习速率的方法。为了评估验证该模型的性能,设计了条件刺激与操作行为奖励无关→相关→无关三个阶段动态试验范式,用以观察和分析鸽子在随机强化、固定强化,以及固定强化关系消退等不同条件下的学习行为变化过程,采用动物触屏行为系统完成了3只鸽子颜色刺激-啄屏抉择认知训练,利用训练过程中不同session的行为数据对动态学习率进行了最小二乘估计。分析结果表明:可以获得更小的行为预测误差,误差下降收敛的速度更快,同时学习率的动态变化过程可以有效的反映动物认知行为训练过程中的内在学习状态。 展开更多

关键词 动态学习率 Q-LEARNING 鸽子 行为

在线阅读 下载PDF 职称材料

基于VGG-F动态学习模型的苹果病虫害识别 被引量：8

6

作者 于洪涛 袁明新 +1 位作者 王琪 江亚峰 《科学技术与工程》 北大核心 2019年第32期249-253,共5页

为了提高自然环境下苹果病虫害的识别准确率和识别效率,提出了具有动态学习特征的VGG-F苹果病虫害识别模型。首先,依据常见的苹果病害和虫害类型构建图像数据集,同时采用Retinex算法对数据集中的含雾图像进行增强处理;然后选择网络层数... 为了提高自然环境下苹果病虫害的识别准确率和识别效率,提出了具有动态学习特征的VGG-F苹果病虫害识别模型。首先,依据常见的苹果病害和虫害类型构建图像数据集,同时采用Retinex算法对数据集中的含雾图像进行增强处理;然后选择网络层数较少的VGG-F网络模型作为迁移学习对象,并依据数据样本特性对重训练过程进行学习率动态调整,以及基于试验对比选取最佳动量值;最后,利用数据集对三种不同模型进行重训练和识别效果对比测试。数值测试结果表明:相比于原始VGG-F模型和深层模型VGG-19,苹果病虫害识别准确率分别提升了5%和0.63%,且该模型的重训练时间最短,从而验证了苹果病虫害识别模型的有效性。 展开更多

关键词 苹果 病虫害识别 VGG-F模型 迁移学习 动态学习率 动量

在线阅读 下载PDF 职称材料

基于迁移学习的桥梁表观病害检测技术研究 被引量：12

7

作者 王桂平 陈旺桥 +2 位作者 杨建喜 唐于凌 吴波 《铁道科学与工程学报》 EI CAS CSCD 北大核心 2022年第6期1638-1646,共9页

桥梁表观病害检测是保证桥梁设施安全的关键技术之一。深度卷积网络因其强大的特征提取能力,被广泛应用于土木工程领域的结构病害识别与检测,然而在土木工程领域中往往缺乏用于训练深度学习网络的高质量大规模病害图像数据集。针对上述... 桥梁表观病害检测是保证桥梁设施安全的关键技术之一。深度卷积网络因其强大的特征提取能力,被广泛应用于土木工程领域的结构病害识别与检测,然而在土木工程领域中往往缺乏用于训练深度学习网络的高质量大规模病害图像数据集。针对上述问题,提出一种基于迁移学习的桥梁表观病害检测方法。该方法运用迁移学习技术,通过迁移VGG16网络模型结构及全部卷积层参数,并在迁移后的模型结构上添加新的全连接层,以此来解决训练数据集不足的问题。运用动态学习率调整策略,以不同的学习率对卷积层和全连接层参数分别进行微调,用于提高模型的识别准确率。实验对比ResNet18,ResNet50,VGG19,VGG16等主流深度学习网络模型,该方法在验证集上取得了最高准确率,为98.86%。用实拍的未经过处理的桥梁表观病害图像数据集进行测试,该方法的整体结构表观病害识别准确率达到88.33%,其中泛碱、露筋和裂缝3类病害的测试准确率分别达到96.25%,80.00%和88.75%,具有较高的病害识别准确率,可以用于在役桥梁表观病害识别。 展开更多

关键词 桥梁表观病害检测 迁移学习 深度卷积网络 动态学习率调整 微调

在线阅读 下载PDF 职称材料

一种带非线性扩展的前向神经网络模型及其学习算法 被引量：3

8

作者 刘百顺 徐玉如 +1 位作者 解贵新 刘学敏 《哈尔滨工程大学学报》 EI CAS CSCD 1999年第3期1-6,共6页

通过提出一种带非线性扩展的前向神经网络模型，分析了 Ｇ Ｇ Ｂ Ｐ 算法的收敛性，总结出此种算法的动态学习率．仿真结果表明：此神经网络模型更适合于处理多输入、多输出的问题，在这方面其收敛速度、逼近非线性函数的能力比函数型... 通过提出一种带非线性扩展的前向神经网络模型，分析了 Ｇ Ｇ Ｂ Ｐ 算法的收敛性，总结出此种算法的动态学习率．仿真结果表明：此神经网络模型更适合于处理多输入、多输出的问题，在这方面其收敛速度、逼近非线性函数的能力比函数型连接网络和前向网络都优越．采用动态学习率不仅可以保证网络的收敛性，而且可以使误差下降接近最快． 展开更多

关键词 神经网络 收敛性 动态学习率 非线性扩展

在线阅读 下载PDF 职称材料

基于动态高效网络的花粉图像识别模型

9

作者 孙晓川 付多民 +2 位作者 秦林林 付景昌 李志刚 《计算机工程与设计》 北大核心 2023年第3期852-858,共7页

针对花粉图像清晰度不足、形状相近等特性所导致的识别精度低、人工识别低效的问题,提出一种基于动态高效网络的花粉图像识别模型。在ImageNet数据集上使用Noisy Student方法对EfficientNet进行预训练;将训练后的权重迁移到花粉识别模型... 针对花粉图像清晰度不足、形状相近等特性所导致的识别精度低、人工识别低效的问题,提出一种基于动态高效网络的花粉图像识别模型。在ImageNet数据集上使用Noisy Student方法对EfficientNet进行预训练;将训练后的权重迁移到花粉识别模型中;引入动态学习率提升模型的识别精度。采用MixUp和GridMask的方法用于花粉图像数据增强。仿真结果与其它模型进行比较,验证了提出模型具有更好的分类效果。 展开更多

关键词 花粉图像 深度学习 高效网络 数据增强 嘈杂的学生 迁移学习 动态学习率

在线阅读 下载PDF 职称材料

基于多模型的实时压缩跟踪算法 被引量：1

10

作者 张建明 金晓康 +1 位作者 吴宏林 伍悠 《电子与信息学报》 EI CSCD 北大核心 2018年第10期2373-2380,共8页

目标跟踪易受光照、遮挡、尺度、背景及快速运动等因素的影响,还要求较高的实时性。目标跟踪中基于压缩感知的跟踪算法实时性好,但目标外观变化较大时跟踪效果不理想。该文基于压缩感知的框架提出多模型的实时压缩跟踪算法(MMCT),采用... 目标跟踪易受光照、遮挡、尺度、背景及快速运动等因素的影响,还要求较高的实时性。目标跟踪中基于压缩感知的跟踪算法实时性好,但目标外观变化较大时跟踪效果不理想。该文基于压缩感知的框架提出多模型的实时压缩跟踪算法(MMCT),采用压缩感知来降低跟踪过程产生的高维特征,保证实时性能;通过判断前两帧的分类器最大分类分数的差值来选择最合适的模型,提高了定位的准确性;提出新的模型更新策略,按照决策分类器的不同采用固定或动态的学习率,提高了分类精度。MMCT引入的多模型没有增加计算负担,表现出优异的实时性能。实验结果表明,MMCT算法能够很好地适应光照、遮挡、复杂背景及平面旋转的情况。 展开更多

关键词 目标跟踪 压缩感知 实时 多模型 动态学习率

在线阅读 下载PDF 职称材料

AFGSRec:一种自适应融合全局协同特征的社交推荐模型

11

作者 蔡晓东 曾志杨 《华南理工大学学报（自然科学版）》 EI CAS CSCD 北大核心 2022年第12期71-79,共9页

以往的序列推荐方法通常从近期交易记录中捕获用户的消费偏好,忽略了全局交易信息和好友偏好对用户交易行为的影响,导致模型的推荐结果不够准确。针对以上问题,文中提出了一种自适应融合全局协同特征的社交推荐模型AFGSRec。首先,用异... 以往的序列推荐方法通常从近期交易记录中捕获用户的消费偏好,忽略了全局交易信息和好友偏好对用户交易行为的影响,导致模型的推荐结果不够准确。针对以上问题,文中提出了一种自适应融合全局协同特征的社交推荐模型AFGSRec。首先,用异质图神经网络建模社交网络中的用户、历史交易信息,以捕获全局协同特征和好友之间的社交影响;接着,设计了一种基于选择机制的门图神经网络,以有效过滤与当前序列无关的节点转换信息,更准确地捕获用户当前偏好;然后,提出了一种自适应的特征融合方法,以动态捕获全局协同特征对用户偏好的影响,提高系统的推荐准确率;最后,将周期动态学习率用于模型训练,以更好地处理鞍点,提升模型的收敛速度。实验结果表明:AFGSRec具有较好的鲁棒性,命中率(HR)和平均倒数排名(MRR)都优于当前领先模型SERec,在Gowalla数据集上,HR@10、HR@20分别提升了1.91%和1.15%,MRR@10、MRR@20分别提升了5.05%和4.83%;在Delicious数据集上,HR@10、HR@20分别提升了2.45%和1.19%,MRR@10、MRR@20分别提升了4.84%和4.32%。 展开更多

关键词 图神经网络 推荐系统 社交网络 全局协同特征 周期动态学习率

在线阅读 下载PDF 职称材料

神经网络方法在水淹层识别中的改进 被引量：9

12

作者 李振英 冯国庆 张烈辉 《大庆石油地质与开发》 CAS CSCD 2004年第3期44-45,共2页

在充分探讨BP神经网络基本原理的基础上,提出了用改进的神经网络进行水淹层识别的一种方法。研究中为了解决网络中由于学习率ε的不稳定而导致的网络振荡问题,采用了一种新型的动态学习率方法。实际应用结果表明,该方法的运用进一步提... 在充分探讨BP神经网络基本原理的基础上,提出了用改进的神经网络进行水淹层识别的一种方法。研究中为了解决网络中由于学习率ε的不稳定而导致的网络振荡问题,采用了一种新型的动态学习率方法。实际应用结果表明,该方法的运用进一步提高了水淹层解释精度,通过对南阳油田4口井的试油结果相对比,其符合率达到80%。 展开更多

关键词 神经网络 动态学习率 水淹层 测井解释

在线阅读 下载PDF 职称材料

改进生成对抗网络在图片数据生成中的应用 被引量：1

13

作者 孟辰 曾志高 +3 位作者 朱艳辉 朱文球 易胜秋 董丽君 《计算机工程与应用》 CSCD 北大核心 2022年第15期260-269,共10页

图片数据生成旨在根据现有的图片数据,产生与原始图片数据分布相似的图片数据。当前主流的生成对抗网络模型(generative adversarial networks,GAN)产生的图片数据质量较差,模型的训练总是遇到调试困难、训练不稳定、梯度消失、模式崩... 图片数据生成旨在根据现有的图片数据,产生与原始图片数据分布相似的图片数据。当前主流的生成对抗网络模型(generative adversarial networks,GAN)产生的图片数据质量较差,模型的训练总是遇到调试困难、训练不稳定、梯度消失、模式崩溃等一系列问题。根据稀疏表达结构和残差结构组合而成的生成器,残差结构组成的辨别器,提出了一种能够生成高质量图片的GAN模型。根据分支网络模型构成的生成器,设计了多种类图片数据生成模型,可以使用一个模型同时训练生成多种类型的图片数据。为了更好地对数据进行训练,设计了一种动态匀速下降学习率,能够根据运行时间对学习率的衰减进行指导。在各个数据集上的实验结果表明,改进模型结构在图像数据生成上比其他算法更加稳定、鲁棒,能够生成更高质量的图片数据。 展开更多

关键词 图片数据生成 生成对抗网络(GAN) 残差结构 动态学习率

在线阅读 下载PDF 职称材料

基于轻量时空图卷积模型的路网交通流预测 被引量：9

14

作者 贺文武 裴博彧 +1 位作者 毛国君 陈维亚 《铁道科学与工程学报》 EI CAS CSCD 北大核心 2022年第9期2552-2562,共11页

交通流预测是智能交通系统的重要组成部分。针对路网交通流天然具有的时空依赖性,结合交通流时序因果卷积与路网空间拓扑结构图卷积,提出一种基于递增式丢边的轻量时空图卷积神经网络模型,实现时空特征的有效融合,建立路网交通流高精度... 交通流预测是智能交通系统的重要组成部分。针对路网交通流天然具有的时空依赖性,结合交通流时序因果卷积与路网空间拓扑结构图卷积,提出一种基于递增式丢边的轻量时空图卷积神经网络模型,实现时空特征的有效融合,建立路网交通流高精度预测模型,提高交通流预测精度的同时降低其计算资源消耗、缩短预测响应时间。模型以单“三明治”式时空卷积模块为核心组件,减少时间卷积与空间卷积间的高计算消耗交互,有效提取交通流时空特征的同时保持整体结构轻量,其中的“厚夹心”空间图卷积采用多层图卷积网络以捕获远程高阶邻居节点信息、扩大空间感受野,并引入递增式丢边策略分阶处理邻居节点边,消解其潜在的过平滑。在模型训练中引入动态初始学习率,随模型训练进程演进动态调适学习率,进一步提升优化器性能,保证模型整体上的优越性。以真实基准交通流数据开展实验,对比分析本文所构建模型与多种相关基线模型的训练时间、预测精度等指标,并分析讨论所建模型在路网各节点上预测结果的离散性及其精度,解析多层图卷积可能具有的过平滑现象以及递增式丢边策略的消解能力。研究结果表明,本文所构建模型能有效捕获路网交通流的时空特性,以更少的训练时间获得更高的预测精度。 展开更多

关键词 智慧交通 路网交通流预测 轻量时空图卷积 递增式丢边 动态初始学习率

在线阅读 下载PDF 职称材料

基于最小扰动BP算法的水下机器人运动控制 被引量：9

15

作者 刘学敏 刘建成 徐玉如 《哈尔滨工程大学学报》 EI CAS CSCD 2001年第2期20-23,3-2,共4页

针对神经网络学习中学习率起到的重要作用 ,本文提出了一种基于最小扰动的神经网络BP算法 .通过建立一个计算动态学习率的算法 ,在不影响网络学习的情况下 ,使得网络权值的变化最小 ,从而提高神经网络的稳定性和收敛的速度 .作者运用该... 针对神经网络学习中学习率起到的重要作用 ,本文提出了一种基于最小扰动的神经网络BP算法 .通过建立一个计算动态学习率的算法 ,在不影响网络学习的情况下 ,使得网络权值的变化最小 ,从而提高神经网络的稳定性和收敛的速度 .作者运用该神经网络算法设计了水下机器人的运动控制器 .实验结果表明 ,该算法具有良好的学习能力 ,据此设计的控制器控制效果良好 。 展开更多

关键词 神经网络 BP算法 动态学习率 最小扰动 水下机器人 运动控制

在线阅读 下载PDF 职称材料

三帧差结合改进高斯建模的运动目标检测算法 被引量：17

16

作者 魏玮 吴琪 《计算机工程与设计》 CSCD 北大核心 2014年第3期949-952,共4页

针对混合高斯模型对光照突变比较敏感以及当运动物体速度较慢时容易产生"鬼影"现象,提出了一种动态自适应学习率的高斯混合模型。通过融入帧差法将每帧的图像分为已运动区域、正在运动区域以及背景区域,分别给予不同的更新率... 针对混合高斯模型对光照突变比较敏感以及当运动物体速度较慢时容易产生"鬼影"现象,提出了一种动态自适应学习率的高斯混合模型。通过融入帧差法将每帧的图像分为已运动区域、正在运动区域以及背景区域,分别给予不同的更新率来更新高斯混合模型。为了能够适应光照或者背景突变的情况,背景区域给予动态更新率,并且给予高斯模型更快速的更新策略,使用高斯混合模型与三帧差法相结合。实验结果表明,该算法有效的处理了"鬼影"、阴影现象以及建模速度的问题,具有很好的实时性以及抗干扰能力,能够精确的检测出运动目标。 展开更多

关键词 高斯混合模型 动态自适应学习率 三帧差法 运动目标检测 高斯混合模型更新策略

在线阅读 下载PDF 职称材料

基于BiLSTM-NFC的地下水埋深预测方法研究 被引量：3

17

作者 刘鑫 韩宇平 +1 位作者 刘中培 黄会平 《人民黄河》 CAS 北大核心 2021年第6期80-85,97,共7页

为了提高地下水埋深预测的精度,提出了双向长短时记忆循环神经网络(BiLSTM)融合非全连接神经网络(NFC)的深度学习模型。使用自适应矩估计优化函数(Adam),耦合双曲正切(Tanh)、软最大逻辑回归(Softmax)和线性整流单元(ReLU)3个激活函数,... 为了提高地下水埋深预测的精度,提出了双向长短时记忆循环神经网络(BiLSTM)融合非全连接神经网络(NFC)的深度学习模型。使用自适应矩估计优化函数(Adam),耦合双曲正切(Tanh)、软最大逻辑回归(Softmax)和线性整流单元(ReLU)3个激活函数,且将学习率设置为动态的,以黄河下游人民胜利渠灌区1993—2018年的地下水埋深预测为例,将BiLSTM-NFC与BiLSTM、长短时记忆循环神经网络(LSTM)及LSTM-NFC的预测结果进行对比分析。结果表明:双向网络的性能优于单向网络,NFC可以防止过拟合,还能明显降低模型的均方误差(MSE);与BiLSTM、LSTM-NFC和LSTM相比,BiLSTM-NFC的学习能力、稳定性、可靠性及泛化能力最强;BiLSTM-NFC在测试集上的准确率(Acc)可以达到100%,最接近无偏估计,MSE比LSTM的减小96.60%,平均相对误差(MRE)减小85.63%,相关系数(r)增大34.81%;模型在图形处理单元(GPU)上比在中央处理单元(CPU)上训练时间明显缩短,合理设置多种激活函数可以解决单一激活函数的弊端;使用BiLSTM-NFC可以准确地预测地下水埋深的变化情况。 展开更多

关键词 地下水埋深预测 双向长短时记忆循环神经网络 非全连接神经网络 深度学习模型 自适应矩估计优化函数 耦合激活函数 动态学习率

在线阅读 下载PDF 职称材料