-
题名前馈神经网络导数特性分析
被引量:6
- 1
-
-
作者
魏海
杨华舒
苏志敏
桂跃
董梦思
-
机构
昆明理工大学电力工程学院
昆明理工大学国土资源工程学院
昆明理工大学建筑工程学院
-
出处
《计算机工程》
CAS
CSCD
2014年第7期197-201,共5页
-
基金
国家自然科学基金资助项目(51069003)
云南省应用基础研究基金资助项目(2010ZC048)
-
文摘
为分析前馈神经网络输出量的一阶、二阶偏导数特性,从一层网络结构入手,推导网络输出量的一阶偏导数,应用链式求导法则,推导多层网络输出量的一阶、二阶偏导数的计算公式。在此基础上推导网络的三阶偏导数,并针对二层结构网络,在其输出层激活函数为线性函数时,推导出该网络对输入量的高阶偏导数计算公式。实例分析结果表明,前馈神经网络一阶、二阶偏导数值的精度比网络输出值的精度要低,尤其是在区间的边界上有时会出现较大的偏差。网络的一阶、二阶偏导数值的精度也会随着隐含层神经元数量的增加明显降低,在基本相同的网络训练精度下,隐含层神经元较多的网络比神经元少的网络导数特性差。
-
关键词
前馈神经网络
偏导数
线性激活函数
精度
网络体系结构
网络输出
-
Keywords
feedforward neural networks
partial derivative
linear activation function
accuracy
network architecture
output of networks
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于前馈神经网络的函数积分计算
被引量:2
- 2
-
-
作者
魏海
董梦思
-
机构
昆明理工大学电力工程学院
-
出处
《计算机应用》
CSCD
北大核心
2013年第A02期83-85,共3页
-
基金
国家自然科学基金资助项目(51069003)
云南省应用基础研究基金资助项目(2010ZC048)
-
文摘
由于三层前馈神经网络可以逼近任何连续函数,因此可以利用三层前馈神经网络来逼近被积函数的原函数,并计算函数的积分。对于定积分、在矩形或长方体区域上的二重积分或三重积分的计算,首先构造一个三层前馈神经网络,通过训练网络使其在积分区域上对输入量的导数值、二阶混合偏导数值或三阶混合偏导数值等于相应被积函数值,训练好的网络就可逼近被积函数的原函数。对于非矩形或非长方体区域上的二重积分或三重积分,可通过换元法将积分区域转化为矩形或长方体区域。实例分析表明该方法理论简单、思路清晰、易于实现,同时精度也能得到满足。
-
关键词
前馈神经网络
函数积分
偏导数
原函数
精度
-
Keywords
feedforward neural network
function integral
partial derivative
primitive function
accuracy
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-