-
题名针对大规模数据的随机权值前馈神经网络模型优化
- 1
-
-
作者
黄婷婷
冯锋
-
机构
宁夏大学信息工程学院
-
出处
《计算机应用与软件》
北大核心
2023年第3期302-307,共6页
-
基金
宁夏重点研发计划重点项目(2018BFG02003)。
-
文摘
具有随机权值的前馈神经网络(FNNRWs)因其在大规模数据集处理中的潜能而受到广泛的关注。在具有随机权值的前馈神经网络的基础之上,将大规模数据分为大小相同的子集,每个子集派生出相应的子模型。根据激活函数计算出输入权值和偏置的最优取值范围,输入权值和偏置在该范围中随机产生,采用迭代的方式来评估输出权值。在UCI标准数据集上的实验结果表明,该算法对处理大规模数据集具有很好的应用效果。
-
关键词
具有随机权值的前馈神经网络
大规模数据
神经网络
学习算法
权值优化
-
Keywords
Feedforward neural network with random weights
Large scale data
Neural network
Learning algorithm
Weight optimization
-
分类号
TP3
[自动化与计算机技术—计算机科学与技术]
-
-
题名退火期望最大化算法A-EM
被引量:2
- 2
-
-
作者
齐英剑
罗四维
黄雅平
李爱军
刘蕴辉
-
机构
北京交通大学计算机与信息技术学院
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2006年第4期654-660,共7页
-
基金
国家自然科学基金项目(60373029)
教育部博士点基金项目(20020004020)
国家发展和改革委员会CNGI产业化及应用实验项目(CNGI04122A)
-
文摘
使用EM算法训练随机多层前馈网具有低开销、易于实现和全局收敛的特点,在EM算法的基础上提出了一种训练随机多层前馈网络的新方法AEM.AEM算法利用热力学系统的最大熵原理计算网络中隐变量的条件概率,借鉴退火过程,引入温度参数,减小了初始参数值对最终结果的影响.该算法既保持了原EM算法的优点,又有利于训练结果收敛到全局极小.从数学角度证明了该算法的收敛性,同时,实验也证明了该算法的正确性和有效性.
-
关键词
随机前馈神经网络
期望最大化算法
最大熵
退火
-
Keywords
stochastic feedforward neural network
expectation maximization (EM) algorithm
maximum entropy
annealing
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-