BP网络局部学习速率自适应SA算法的改进 被引量：2

1

作者 李波 李赣华 +2 位作者 王成友 蔡宣平 张尔扬 《信号处理》 CSCD 北大核心 2005年第6期615-620,596,共7页

Silva-Almeida(SA)算法是最好的局部学习速率自适应算法之一,在对SA算法进行研究分析的基础上,提出 两项改进措施,使改进后的SA算法较原SA算法震荡现象大大减弱,训练速率有较大加快,训练精度有较大提高。在仿 真实验中,改进的SA算法在... Silva-Almeida(SA)算法是最好的局部学习速率自适应算法之一,在对SA算法进行研究分析的基础上,提出 两项改进措施,使改进后的SA算法较原SA算法震荡现象大大减弱,训练速率有较大加快,训练精度有较大提高。在仿 真实验中,改进的SA算法在一定程度上优于RPROP算法。 展开更多

关键词 局部学习速率自适应 全局学习速率自适应 批训练算法 梯度下降 BP神经网络

在线阅读 下载PDF 职称材料

一种学习速率自适应的可编程片上学习BP神经网络电路系统的设计 被引量：2

2

作者 卢纯 石秉学 陈卢 《电子学报》 EI CAS CSCD 北大核心 2001年第5期701-703,共3页

设计了一种学习速率自适应的可编程片上学习BP神经网络电路系统 .整个系统由前向网络、误差反传网络两部分组成 .提出了一种新型的可编程S型函数及其导数的发生器电路 .它不仅产生S型函数 ,完成非线性I -V转换 ;还利用前向差分法 ,产生... 设计了一种学习速率自适应的可编程片上学习BP神经网络电路系统 .整个系统由前向网络、误差反传网络两部分组成 .提出了一种新型的可编程S型函数及其导数的发生器电路 .它不仅产生S型函数 ,完成非线性I -V转换 ;还利用前向差分法 ,产生S型函数的导数 .这两种函数不仅与理想函数的拟合程度很好 ,而且易实现对阈值和增益因子的编程 .为提高BP神经网络片上学习的收敛速度 ,还提出了学习速率自适应电路 .本文采用标准 1 2 μmCMOS工艺的模型参数 ,对整个系统进行了sin(x)函数拟合等模拟实验 ,验证了该片上学习BP神经网络的优越性能 . 展开更多

关键词 神经网络 CMOS模拟集成电路 学习速率自适应 可编程片上学习

在线阅读 下载PDF 职称材料

基于自适应学习速率的改进型BP算法研究 被引量：19

3

作者 杨甲沛 李锵 +1 位作者 刘郑 袁晓琳 《计算机工程与应用》 CSCD 北大核心 2009年第11期56-58,66,共4页

从感知器的结构及学习规则无法执行异或问题出发,用神经网络中的BP网络来解决异或问题,消除了感知器的局限性,但BP算法在具体实现中常会出现一些问题,如:收敛速度缓慢且与其他参数存在较强的耦合关系,局部极小等。对此,从前馈神经网络... 从感知器的结构及学习规则无法执行异或问题出发,用神经网络中的BP网络来解决异或问题,消除了感知器的局限性,但BP算法在具体实现中常会出现一些问题,如:收敛速度缓慢且与其他参数存在较强的耦合关系,局部极小等。对此,从前馈神经网络的原理出发,提出了一种自适应学习速率因子方法,用于对BP算法的改进,并将改进后的算法用于二维XOR问题及多维XOR问题的学习中。仿真实验证明,改进后的算法可显著提高网络的学习速度,且学习过程具有良好的收敛性及较强的鲁棒性。 展开更多

关键词 神经网络 异或 自适应学习速率 反向传播

在线阅读 下载PDF 职称材料

改进的神经网络及其自适应学习速率的研究 被引量：3

4

作者 刘巧歌 付梦印 《小型微型计算机系统》 CSCD 北大核心 2007年第5期845-848,共4页

从提高神经网络泛化能力的角度提出一种改进方法.利用Taylor级数展开的思想,用线性和非线性组合构成函数映射关系,即改进的神经网络是用原神经网络的非线性映射和关于输入信号的线性映射的和来逼近期望值.文中还给出了该神经网络学习速... 从提高神经网络泛化能力的角度提出一种改进方法.利用Taylor级数展开的思想,用线性和非线性组合构成函数映射关系,即改进的神经网络是用原神经网络的非线性映射和关于输入信号的线性映射的和来逼近期望值.文中还给出了该神经网络学习速率的自适应调节方法.对线性对象和非线性对象分别进行建模仿真,结果表明,改进的神经网络比基于正则化方法的神经网络具有更好的泛化能力. 展开更多

关键词 神经网络 泛化能力 Taylor级数展开 自适应学习速率

在线阅读 下载PDF 职称材料

基于自适应学习速率法的补偿模糊神经网络 被引量：3

5

作者 汪纪锋 蒋玉莲 《重庆大学学报（自然科学版）》 EI CAS CSCD 北大核心 2005年第10期82-85,共4页

为克服常规网络收敛速度慢、无法结合专家知识等缺点,引入补偿模糊神经元,结合模糊系统强大的知识表达能力和神经网络优秀的自学习能力,并利用自适应学习速率法动态地改变学习率.提出了一种新型的基于自适应学习速率法的补偿模糊神经网... 为克服常规网络收敛速度慢、无法结合专家知识等缺点,引入补偿模糊神经元,结合模糊系统强大的知识表达能力和神经网络优秀的自学习能力,并利用自适应学习速率法动态地改变学习率.提出了一种新型的基于自适应学习速率法的补偿模糊神经网络,并将其应用到实际例子中.结果证明,它不仅能在线适当调整参数,还能动态地优化相应的模糊推理,加快训练速度. 展开更多

关键词 神经网络 补偿模糊神经网络 自适应学习速率法 模糊逻辑

在线阅读 下载PDF 职称材料

带有自适应学习速率的矩阵指数梯度在线量子态估计算法 被引量：2

6

作者 丛爽 汪涛 张坤 《控制理论与应用》 EI CAS CSCD 北大核心 2021年第8期1188-1196,共9页

针对连续弱测量中存在高斯噪声的情况,提出一种带有自适应学习速率的矩阵指数梯度在线量子态估计算法.将量子态估计问题转化为含量子约束的凸优化问题,通过引入Von Neumann散度(量子相对熵),在一阶最优条件下,推导出指数型的量子态迭代... 针对连续弱测量中存在高斯噪声的情况,提出一种带有自适应学习速率的矩阵指数梯度在线量子态估计算法.将量子态估计问题转化为含量子约束的凸优化问题,通过引入Von Neumann散度(量子相对熵),在一阶最优条件下,推导出指数型的量子态迭代公式,保证量子态密度矩阵的半正定性.再通过对迭代结果进行迹为1的投影,得到最终的量子态估计值.同时在迭代公式中设计自适应的学习速率,进一步加快算法的收敛速度.将所提出的算法分别在1,2,3和4个量子位系统上,进行了在线量子态估计的数值仿真实验,并与现有的在线量子态估计算法进行了性能对比.实验结果表明,所提出的算法具有更好的快速收敛性,以及更高的状态估计精度. 展开更多

关键词 量子态在线估计 连续弱测量 矩阵指数梯度算法 自适应学习速率

在线阅读 下载PDF 职称材料

递归神经网络学习速率研究 被引量：2

7

作者 戴谊 丛爽 《系统工程与电子技术》 EI CSCD 北大核心 2005年第5期942-947,共6页

针对典型的对角递归神经网络,推导出递归神经网络稳定条件下网络输出层、隐含层及关联层学习速率的具体取值范围。提出设计者可通过从具体系统中获得的数据确定网络各层学习速率的上、下界数值,确定自适应学习速率的初值与调节方法,并... 针对典型的对角递归神经网络,推导出递归神经网络稳定条件下网络输出层、隐含层及关联层学习速率的具体取值范围。提出设计者可通过从具体系统中获得的数据确定网络各层学习速率的上、下界数值,确定自适应学习速率的初值与调节方法,并可选取最优学习速率。因而该法具有很强的可操作性和实用性。还给出一个具体数值实例,说明自适应学习速率与最佳学习速率的调整过程。 展开更多

关键词 对角递归神经网络 稳定性 自适应学习速率

在线阅读 下载PDF 职称材料

基于自适应BP网络的涌潮波速计算模型 被引量：1

8

作者 廖迎娣 张玮 《海洋工程》 CSCD 北大核心 2003年第4期70-74,共5页

运用BP网络附加动量法和自适应学习速率法,建立神经网络模型,模拟计算涌潮波速。根据部分试验数据对网络进行训练,确定相关参数,建立涌潮波速计算模型,同时利用其余部分试验数据对模型进行检验,模拟结果与试验数据吻合较好,相关程度高,... 运用BP网络附加动量法和自适应学习速率法,建立神经网络模型,模拟计算涌潮波速。根据部分试验数据对网络进行训练,确定相关参数,建立涌潮波速计算模型,同时利用其余部分试验数据对模型进行检验,模拟结果与试验数据吻合较好,相关程度高,表明神经网络模型用于计算涌潮波速是合适的。 展开更多

关键词 涌潮 波速 人工神经网络 BP网络 附加动量法 自适应学习速率法 计算模型

在线阅读 下载PDF 职称材料

用于过程控制的神经网络自适应控制方法

9

作者 李力雄 费敏锐 《上海大学学报（自然科学版）》 CAS CSCD 1997年第S1期259-263,共5页

本文从人工神经网络中较常用的ＢＰ（Ｂａｃｋ－ｐｒｏｐａｇａｔｉｏｎ）算法入手，针对其存在的学习（训练）速度过慢和易陷入误差局部最小的问题，对其算法进行了改进，提出了一种新的可变学习速率（η）的方法．在此基础上，针对常... 本文从人工神经网络中较常用的ＢＰ（Ｂａｃｋ－ｐｒｏｐａｇａｔｉｏｎ）算法入手，针对其存在的学习（训练）速度过慢和易陷入误差局部最小的问题，对其算法进行了改进，提出了一种新的可变学习速率（η）的方法．在此基础上，针对常规自适应控制器难于实现且精度较差的问题，把人工神经网络控制器（ＮＮｃｏｎｔｒｏｌｅｒ）应用于自适应控制系统中．计算机仿真证明了改进是有效的． 展开更多

关键词 神经网络 自适应学习速率 学习算法 自适应控制

在线阅读 下载PDF 职称材料

基于仿射不变矩的神经网络目标识别 被引量：12

10

作者 李迎春 陈贺新 高磊 《计算机工程》 CAS CSCD 北大核心 2004年第2期31-32,143,共3页

主要讨论了仿射不变矩及人工神经网络在模式识别中的应用,即使用BP网及BPX算法来模仿分类器,同时提取图像的3阶仿射不变矩作为特征输入建立对飞机图像的识别系统。

关键词 人工神经网络 3阶仿射不变矩 BP网 学习速率自适应学习规则 BPX算法

在线阅读 下载PDF 职称材料

基于改进小波神经网络的新型PMSM速度控制

11

作者 周雅夫 赵洋 《组合机床与自动化加工技术》 北大核心 2024年第10期105-108,114,共5页

采用传统PI控制策略的永磁同步电机调速系统无法兼顾良好的动态响应性能与抗扰动能力,且在实际应用中参数整定繁琐。为改善以上问题,对速度环设计一种改进型小波神经网络PI控制器,该控制器基于自适应学习速率的梯度下降法并引入惯性项... 采用传统PI控制策略的永磁同步电机调速系统无法兼顾良好的动态响应性能与抗扰动能力,且在实际应用中参数整定繁琐。为改善以上问题,对速度环设计一种改进型小波神经网络PI控制器,该控制器基于自适应学习速率的梯度下降法并引入惯性项在线更新网络参数,通过权重因子扩大PI参数输出范围,以增强控制器性能;为消除电流环比例参数对速度环的影响,设计无差拍电流预测控制器,进一步提升系统动态响应性能。仿真结果表明,上述控制方案能够实现速度环PI参数在线自整定,明显提升系统动态响应性能,且具有良好的抗扰动能力。 展开更多

关键词 PMSM 小波神经网络 自适应学习速率 PI控制 模型预测控制

在线阅读 下载PDF 职称材料

基于改进BP神经网络的全社会用电量预测模型研究 被引量：13

12

作者 谭显东 胡兆光 +2 位作者 李存斌 丁伟 刘达 《华北电力大学学报（自然科学版）》 CAS 北大核心 2007年第3期85-89,共5页

采用引入附加动量和自适应学习率的BP（Back Propagation）神经网络来构建全社会用电量预测模型,此模型有效地解决了标准BP神经网络容易陷入局部极小点和收敛速度慢的问题,并且能够很好地解决全社会用电量与其影响因素之间复杂的非线性... 采用引入附加动量和自适应学习率的BP（Back Propagation）神经网络来构建全社会用电量预测模型,此模型有效地解决了标准BP神经网络容易陷入局部极小点和收敛速度慢的问题,并且能够很好地解决全社会用电量与其影响因素之间复杂的非线性关系.利用MATLAB7.0对该模型进行了设计,并用设计好的模型对1986～2005年的全社会用电量及GDP数据进行了仿真,仿真结果表明该模型收敛速度快、拟合效果好、泛化能力强、预测精度高.运用该模型对2006年全社会用电量进行了预测,预测结果表明该模型具有一定的实用价值. 展开更多

关键词 BP神经网络 全社会用电量 预测 动量项 自适应学习速率

在线阅读 下载PDF 职称材料

降雨径流模拟神经网络模型及应用 被引量：9

13

作者 包红军 李致家 王莉莉 《西安建筑科技大学学报（自然科学版）》 CSCD 北大核心 2009年第5期719-722,共4页

针对水文系统的非线性,构建了基于遗传算法和人工神经网络的降雨径流模拟神经网络模型(GA-BP模型).采用附加动量法和自适应学习速率对BP神经网络进行改进,遗传算法用于优化神经网络的初始权重.以大别山及皖南山区月潭流域为例,将GA-BP... 针对水文系统的非线性,构建了基于遗传算法和人工神经网络的降雨径流模拟神经网络模型(GA-BP模型).采用附加动量法和自适应学习速率对BP神经网络进行改进,遗传算法用于优化神经网络的初始权重.以大别山及皖南山区月潭流域为例,将GA-BP模型、BP模型以及新安江模型应用于水文日径流过程模拟,进行应用比较以及分析GA-BP模型在水文径流模拟过程中的难点及其可行性.结果表明,GA-BP模型优化了网络结构,加快了算法收敛速率;可以用于降雨径流过程模拟,也为今后类似研究提供一种模拟技术.在实际应用中可以根据流域资料情况选择合适的模型进行水文模拟作业. 展开更多

关键词 降雨径流模拟 人工神经网络 遗传算法 附加动量法 自适应学习速率 新安江模型 月潭流域

在线阅读 下载PDF 职称材料

基于改进BP神经网络的汽车尾气检测系统设计 被引量：10

14

作者 黄伟军 华猛 吴晨辉 《传感器与微系统》 CSCD 2018年第10期95-97,101,共4页

为了准确、快速地检测出汽车尾气中各气体成分浓度,以传感器阵列为基础,结合反向传播(BP)神经网络模型,设计一种汽车尾气检测系统。根据GB18352.5—2013规定的5种需要检测的尾气气体,选择相应传感器和温湿度传感器组成传感器阵列;为克... 为了准确、快速地检测出汽车尾气中各气体成分浓度,以传感器阵列为基础,结合反向传播(BP)神经网络模型,设计一种汽车尾气检测系统。根据GB18352.5—2013规定的5种需要检测的尾气气体,选择相应传感器和温湿度传感器组成传感器阵列;为克服BP神经网络预测精度低、收敛速率慢、易陷入局部极值的缺点,采用附加动量法和自适应学习速率法改进网络模型;利用改进的神经网络模型对采集的传感器信号进行回归分析。结果表明:改进的BP神经网络模型的预测平均相对误差小于4%,能高效地处理尾气检测数据。 展开更多

关键词 传感器阵列 汽车尾气检测 反向传播神经网络 自适应学习速率

在线阅读 下载PDF 职称材料

一种快速对角回归神经网络控制算法 被引量：4

15

作者 扈宏杰 尔联洁 刘金琨 《控制理论与应用》 EI CAS CSCD 北大核心 2002年第5期777-780,共4页

文 [1]定理 1给出了一个基于Lyapunov函数的三层对角回归神经网络 (DRNN)任意权参数学习速率的自适应调整算法 ,而推导各层权自适应学习速率时没有严格满足定理 1成立的必要条件 ,故没能找到各学习速率的准确范围 .依据文 [1]定理 1,精... 文 [1]定理 1给出了一个基于Lyapunov函数的三层对角回归神经网络 (DRNN)任意权参数学习速率的自适应调整算法 ,而推导各层权自适应学习速率时没有严格满足定理 1成立的必要条件 ,故没能找到各学习速率的准确范围 .依据文 [1]定理 1,精确给出了各权向量及权矩阵学习速率的调整算法 ,结果表明DRNN应具有更大的学习速率 ,对应更加快速的收敛算法 .给出了相应的仿真结果 . 展开更多

关键词 快速对角回归神经网络 控制算法 自适应控制 模型参考 自适应学习速率 权向量及权矩阵 收敛性 LYAPUNOV函数

在线阅读 下载PDF 职称材料

应用人工神经网络计算孤立波爬高 被引量：1

16

作者 王登婷 费建华 《海洋通报》 CAS CSCD 北大核心 2003年第1期63-69,共7页

运用附加动量法和自适应学习速率对具有一层隐含层的 BP 网络进行改进，并由此建立神经网络模型来计算孤立波的爬高。将试验值分别与 Synolakis 公式以及本文结果进行比较，证实神经网络模型计算方法对于计算孤立波的爬高是合适的。

关键词 人工神经网络 孤立波 附加动量法 自适应学习速率 改进 BP网络 爬高

在线阅读 下载PDF 职称材料

CO2焊熔池附近区域图像灰度值与工艺参数的关系研究

17

作者 刘晓刚 黄诗 +1 位作者 刘天元 覃科 《热加工工艺》 CSCD 北大核心 2017年第13期221-224,共4页

CO_2焊在熔滴短路过渡过程中熔池附近区域的金属飞溅、光照强度变化剧烈,严重影响焊缝特征提取的实时性和可靠性。采用正交试验法和改进的BP神经网络,建立了焊接工艺参数与CO_2焊熔池附近区域图像灰度值的映射关系。结果表明:BP神经网... CO_2焊在熔滴短路过渡过程中熔池附近区域的金属飞溅、光照强度变化剧烈,严重影响焊缝特征提取的实时性和可靠性。采用正交试验法和改进的BP神经网络,建立了焊接工艺参数与CO_2焊熔池附近区域图像灰度值的映射关系。结果表明:BP神经网络模型的训练结果与试验结果的误差很小,满足精度要求。该模型能很好地反映熔池附近区域图像灰度值与焊接工艺参数的关系。 展开更多

关键词 CO2焊 附加动量法 自适应学习速率法 BP网络

在线阅读 下载PDF 职称材料

手绘电路图形符号识别技术的研究

18

作者 常丹华 姚海浩 杨峰明 《计算机工程与应用》 CSCD 北大核心 2011年第31期154-156,共3页

特征提取和分类器设计是手绘电路图形符号识别系统的关键环节。针对手绘图形不规则性的特点,提出了一种基于视觉的特征提取方法,并利用自适应学习速率的改进型BP神经网络进行分类识别。通过对10种手绘电路图形符号的分类实验,验证了文... 特征提取和分类器设计是手绘电路图形符号识别系统的关键环节。针对手绘图形不规则性的特点,提出了一种基于视觉的特征提取方法,并利用自适应学习速率的改进型BP神经网络进行分类识别。通过对10种手绘电路图形符号的分类实验,验证了文中设计的识别系统具有很好的分类效果和较强的实用性。 展开更多

关键词 手绘电路图形符号 特征提取 自适应学习速率 BP神经网络

在线阅读 下载PDF 职称材料

神经网络在直墙上波浪力计算中的应用

19

作者 王登婷 左其华 《水利水运工程学报》 CSCD 北大核心 2001年第4期53-58,共6页

运用附加动量法和自适应学习速率 ,对具有一层隐含层的BP网络进行改造 ,由此建立神经网络模型来计算作用在直墙上的波浪力 .将试验值分别与合田良实公式、我国规范中的公式及本文计算结果对比后表明 ,神经网络模型可用于计算直墙上的波... 运用附加动量法和自适应学习速率 ,对具有一层隐含层的BP网络进行改造 ,由此建立神经网络模型来计算作用在直墙上的波浪力 .将试验值分别与合田良实公式、我国规范中的公式及本文计算结果对比后表明 ,神经网络模型可用于计算直墙上的波浪力 . 展开更多

关键词 直墙 波浪力 附加动量法 计算 自适应学习速率 BP网络 神经网络

在线阅读 下载PDF 职称材料

基于改进的深度信念网络的入侵检测方法 被引量：8

20

作者 汪盼 宋雪桦 +3 位作者 王昌达 陈锋 徐夏强 蔡冠宇 《计算机工程与应用》 CSCD 北大核心 2020年第20期87-92,共6页

针对传统入侵检测方法很难快速准确地从海量无标签网络数据中提取特征信息以识别异常入侵,提出了基于改进的深度信念网络的softmax分类(IDBN-SC)入侵检测方法。利用改进的DBN对原始网络数据进行无监督特征学习,引入自适应学习速率减少... 针对传统入侵检测方法很难快速准确地从海量无标签网络数据中提取特征信息以识别异常入侵,提出了基于改进的深度信念网络的softmax分类(IDBN-SC)入侵检测方法。利用改进的DBN对原始网络数据进行无监督特征学习,引入自适应学习速率减少训练网络模型所需要的时间;采用softmax分类器对获得的降维数据进行网络攻击类型识别。在NSL-KDD数据集上进行测试,相比其他入侵检测方法,实验结果表明IDBN-SC方法不仅识别准确率平均提高3.02%,而且其softmax分类器训练时间平均缩短5.58 s。 展开更多

关键词 受限玻尔兹曼机 入侵检测 深度信念网络 softmax分类器 自适应学习速率 特征学习

在线阅读 下载PDF 职称材料