-
题名可调激活函数神经元参数选取方法研究
被引量：2
- 1
-
-
作者
黄敬频
周永权
-
机构
广西民族学院计算机与信息科学学院
-
出处
《工程数学学报》
CSCD
北大核心
2005年第6期995-1000,共6页
-
基金
国家自然科学基(60461001)广西民族学院硕士点科研基金(03JS01).
-
文摘
隐层神经元采用相同的Sigmoid激活函数会限制神经网络的非线性能力,对Sigmoid函数引入两个参数可改善其响应特性,增强其非线性逼近能力。本文给出了一种可调Sigmoid激活函数,分析了可调激活函数中参数所表示的几何意义;给出提升网络维数的可调激活函数中参数的快速选取方法和理论基础。这为人们在采用可调Sigmoid激活函数解决实际问题时,如何快速选取激活函数中的参数提供了一种可行方法。
-
关键词
可调sigmoid激活函数
隐层神经元
前向神经网络
矩阵
-
Keywords
variable sigmoid activation function
hide layer neuron
feed forward neural network
matrix
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
O151.21
[理学—基础数学]
-
-
题名基于激活函数四参可调的BP神经网络改进算法
被引量：11
- 2
-
-
作者
李恩玉
杨平先
孙兴波
-
机构
四川理工学院电子与信息工程系
-
出处
《微电子学与计算机》
CSCD
北大核心
2008年第11期89-93,共5页
-
基金
四川省教育厅重点项目(2006A1668)
四川省人工智能重点实验室项目(2007R012)
-
文摘
为改善BP神经网络的性能,以标准Sigmoidal函数为基础,提出了一种四参数可调的激活函数模型.在学习过程中,它能同时对激活函数的陡度、位置及映射范围进行调节,具有更强的非线性映射能力.并推导出其在BP神经网络中的学习算法.仿真结果显示,改进后的激活函数与传统的标准Sigmoidal函数相比,收敛速度能提高10倍以上,收敛精度误差可减小到传统误差的0.4%以下,而且可以有效地减少隐层的结点数,学习能力可得到较大的提高.
-
关键词
神经网络
BP算法
激活函数
可调参数
-
Keywords
neural network
BP algorithm
activation functions
adjustable parameters
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名深度学习中三种常用激活函数的性能对比研究
被引量：3
- 3
-
-
作者
周畅
米红娟
-
机构
兰州财经大学信息工程学院
-
出处
《北京电子科技学院学报》
2017年第4期27-32,共6页
-
文摘
以目前神经网络研究领域应用比较广泛的Sigmoid函数、双曲正切函数以及校正激活函数为研究对象,通过谷歌发布的机器学习平台Tensorflow中的神经网络可视化实验操作平台Playground,在给定网络拓扑结构的情况下,对三种激活函数的性能展开对比研究。分别在调整学习率与网络深度的情况下观察基于上述三种激活函数的神经网络的分类效果。通过分析实验结果,探讨三种激活函数的应用场景,并对深度神经网络中激活函数的选择方式给出建议。
-
关键词
激活函数
深度学习
sigmoid函数
Tanh函数
ReLU函数
-
Keywords
activation function
deep neural network
sigmoid
Tanh
ReLU
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-
-
题名深度学习中激活函数权重初始值的选取
被引量：5
- 4
-
-
作者
孙洲鑫
王文松
-
机构
长江大学
不详
-
出处
《信息技术与信息化》
2020年第9期100-102,共3页
-
文摘
在深度学习的过程中,激活函数的选取是非常重要的,对于不同的激活函数如何选择合适的权重初始值是本文研究的重点。本文主要就激活函数权重初始值的选取提出问题,根据相关资料的查询选择几个较为特殊的权重初始值在不同激活函数上进行验证实验,得出不同激活函数对应的最佳的权重初始值的组合。
-
关键词
深度学习
激活函数
权重初始值
MNIST数据集
sigmoid
ReLu
tanh
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于调车系统的技术站编组去向方案优化
被引量：1
- 5
-
-
作者
方波
魏玉光
-
机构
北京交通大学交通运输学院
-
出处
《铁道学报》
EI
CAS
CSCD
北大核心
2023年第10期9-20,共12页
-
基金
中央高级基本科研业务费(2022JBQY006)。
-
文摘
优化编组去向方案是改善技术站系统分工、合理使用调车线的重要措施。针对传统单点列车编组计划模型将车站视为一个点从而忽视折角车流的不足,将双向编组站的上下行系统分别看作不同的点,提出基于调车系统的编组去向方案优化模型。区别于既有多点列车编组计划模型,根据编组去向的车流内容引入车流折角改编概率,并将编组去向的最小流量、车站的折角改编车流比例、不同编组去向的车流共用同一调车线等纳入模型约束中。在不降低解的质量下,基于Sigmoid函数拟合得到车流折角改编概率的近似计算公式,有效提高模型的求解效率。基于实际路网的算例结果表明,本文模型所得编组去向方案相较于既有模型更加符合运输实际。
-
关键词
编组去向
折角车流
调车系统
sigmoid函数
-
Keywords
block
angular traffic flow
shunting system
sigmoid function
-
分类号
U292.3
[交通运输工程—交通运输规划与管理]
-
-
题名BP网络的改进研究
被引量：9
- 6
-
-
作者
远祯
罗波
-
机构
武汉工业学院
-
出处
《信息技术》
2006年第2期88-91,共4页
-
文摘
针对标准BP神经网络收敛速度慢,学习精度不高的缺点,在标准BP神经网络算法中附加动量项,并以附加动量项的BP网络算法为基础,提出动量—自适应速率法,动量—可调激活函数法以及动量—自适应速率—激活函数法四种改进算法。以太阳黑子预测为实例分析四种改进算法在BP神经网络迭代次数减少,精度提高两方面的实际效果。事实证明,动量—可调激活函数算法对BP网络结构优化,提高收敛速度有明显效果。
-
关键词
人工神经网络
BP网络
动量因子
可调激活函数
自适应学习速率
-
Keywords
artificial neural network
BP network
inertia
variant sigmoid function
adaptive study rate
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-
-
题名车牌图像分类识别技术研究
被引量：2
- 7
-
-
作者
钟彩
彭春富
傅波
胡常乐
-
机构
常德职业技术学院
-
出处
《无线互联科技》
2023年第7期97-100,共4页
-
基金
2021年湖南省教育厅科学研究项目,项目名称:复杂背景下车牌识别关键技术研究,项目编号:21C0962。
-
文摘
在现阶段的交通管理领域,普遍应用车牌识别系统是交通信息化的一个重要组成部分。为了提高车牌图像识别技术应用的效果,文章围绕车牌图像分类识别技术做出分析,在保证车牌图像识别精度基础上提高识别的效率。本文首先介绍车牌图像分类识别技术,了解该技术基本情况;其次介绍车牌图像采集技术、车牌图像特征值提取与分类器、车牌图像处理技术3种车牌图像分类识别的常见技术,了解不同技术在车牌图像分类识别中的应用要点;最后提出加大采集图像内容与质量控制力度、建立车牌识别样本数据库、明确车牌图像识别规范3点建议,明确今后车牌图像分类识别技术的发展方向,以期能够为今后车牌图像分类识别的发展夯实基础。
-
关键词
车牌图像
分类识别技术
卷积神经网络模型算法
sigmoid激活函数
-
Keywords
license plate image
classification and recognition technology
convolutional neural network model algorithm
sigmoid activation function
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名动态回声状态网络研究
被引量：2
- 8
-
-
作者
王改堂
赵金磊
王红辉
叶锦函
-
机构
西安现代控制技术研究所
-
出处
《弹箭与制导学报》
CSCD
北大核心
2018年第3期43-45,共3页
-
文摘
针对回声状态网络(ESN)算法在训练中只能调节输出权值的缺陷,提出了动态回声状态网络(DESN)研究方法。为了提高Sigmoid函数的非线性映射能力,该算法将映射区间因子引入到激活函数中,不仅对激活函数的位置和形状上进行了调整,而且对映射区间范围也作出调整。通过基准数据集仿真实验,验证了提出算法的有效性和可行性;并利用其预测地空导弹生存能力,获得了满意的结果。
-
关键词
回声状态网络
动态激活函数
sigmoid函数
地空导弹
生存能力
-
Keywords
echo state network
dynamic activation function
sigmoid function
surface-to-air missile
survivability
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-
