-
题名一种基于混合误差梯度下降算法的过程神经网络训练
被引量：11
- 1
-
-
作者
许少华
宋美玲
许辰
朱新宁
-
机构
东北石油大学计算机与信息技术学院
-
出处
《东北石油大学学报》
CAS
北大核心
2014年第4期92-96,11-12,共5页
-
基金
国家自然科学基金项目(61170132)
-
文摘
针对过程神经网络(PNN)单一训练算法自适应调整能力差、缺乏对学习性质有效控制的问题,提出一种梯度下降与牛顿迭代相结合的求解算法——混合误差梯度下降算法.在训练初始阶段,基于网络训练目标函数,采用梯度下降法进行迭代寻优,只需计算目标函数一阶导数数值公式,复杂度低且误差下降快;当梯度下降法学习效率降低时,引入牛顿迭代法,并将梯度下降法的训练结果作为初始参数代入目标函数,使问题转化为求解非线性方程组,不需要一维搜索而提高网络训练效率.通过学习效率分析自适应调节两种算法的切换,直至满足停机条件.将其应用于时变信号模式分类,实验结果表明,该算法较大地提高PNN训练效率.
-
关键词
过程神经元网络
算法效率
牛顿迭代法
梯度下降法
混合误差梯度下降算法
-
Keywords
process neural networks
algorithm efficiency
Newton iteration algorithm
gradient algorithm
hybrid error gradient descent algorithm
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-
