题名 一种新型激活函数的机床能耗预测神经网络研究
1
作者
刘晶晶 刘业峰
机构
沈阳工学院基础课部 沈阳工学院辽宁省数控机床信息物理融合与智能制造重点实验室
出处
《控制工程》
北大核心
2025年第3期492-499,共8页
基金
沈阳工学院青年骨干教师科研基金资助项目(QN202210) 国家自然科学基金面上项目(62073226) +4 种基金 辽宁省科技计划联合计划(应用基础研究项目)(2023JH2/101700066) 辽宁省教育厅基本科研立项(JYTMS20231179) 东北大学流程工业综合自动化国家重点实验室项目(2023-kfkt-03) 辽宁省自然科学基金重点领域联合开放基金资助项目(2020-KF-11-09,2021-KF-11-05) 沈抚示范区本级科技计划项目(2020JH13,2021JH07)。
文摘
构造一种适用于反向传播(backpropagation,BP)神经网络的新型激活函数Lfun(logarithmic series function),并使用基于该函数的BP神经网络进行机床能耗状态的预测。首先,分析Sigmoid系列和ReLU系列激活函数的特点和缺陷,结合对数函数,构造了一种非线性分段含参数激活函数。该函数可导且光滑、导数形式简单、单调递增、输出均值为零,且通过可变参数使函数形式更灵活;其次,通过数值仿真实验在公共数据集上将Lfun函数与Sigmoid、ReLU、tanh、Leaky_ReLU和ELU函数的性能进行对比;最后,使用基于Lfun函数的BP神经网络进行机床能耗状态的预测。实验结果表明,使用Lfun函数的BP神经网络相较于使用其他几种常用激活函数的网络具有更好的性能。
关键词
激活 函数 BP神经网络 机床能耗预测 sigmoid 函数 ReLU函数
Keywords
Activation function BP neural network energy consumption prediction of machine tools sigmoid functionReLU function
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
题名 可调激活函数神经元参数选取方法研究
被引量：2
2
作者
黄敬频 周永权
机构
广西民族学院计算机与信息科学学院
出处
《工程数学学报》
CSCD
北大核心
2005年第6期995-1000,共6页
基金
国家自然科学基(60461001)广西民族学院硕士点科研基金(03JS01).
文摘
隐层神经元采用相同的Sigmoid激活函数会限制神经网络的非线性能力,对Sigmoid函数引入两个参数可改善其响应特性,增强其非线性逼近能力。本文给出了一种可调Sigmoid激活函数,分析了可调激活函数中参数所表示的几何意义;给出提升网络维数的可调激活函数中参数的快速选取方法和理论基础。这为人们在采用可调Sigmoid激活函数解决实际问题时,如何快速选取激活函数中的参数提供了一种可行方法。
关键词
可调sigmoid激活函数 隐层神经元 前向神经网络 矩阵
Keywords
variable sigmoid activation function hide layer neuron feed forward neural network matrix
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
O151.21
[理学—基础数学]
题名 一种嵌入式计算平台的Sigmoid函数优化方法
被引量：16
3
作者
林钰棽 魏云龙 陈琪琪 张威 邱志敏
机构
福州大学物理与信息工程学院 华南理工大学电子与信息学院 中国科学院大学中国科学院长春光学精密机械与物理研究所 北京航空航天大学电子信息工程学院
出处
《小型微型计算机系统》
CSCD
北大核心
2021年第10期2053-2058,共6页
基金
数字福建物联网工程应用实验室建设项目(82917002)资助。
文摘
Sigmoid函数作为人工神经网络常用的激活函数,属于超越函数.传统的计算方法复杂度高、资源消耗大,在嵌入式平台上计算效率较低,针对此问题,本文提出一种新的优化方法——分段极限近似法.首先根据Sigmoid函数在中间变化快、两端变化缓慢的特点,将其分为常数区和非线性拟合区;其次,根据第2个重要极限公式将Sigmoid函数中的e指数计算转换为log2n次乘法计算,简化e指数计算进而降低Sigmoid函数运算复杂度.最后,在嵌入式计算平台上建立BP神经网络并利用UCI经典数据集对所提出的方法进行验证.实验结果表明在ARM Cortex-M平台上实现Sigmoid函数,利用分段极限近似法比利用标准C math库的exp函数实现在运算速度上提高23.67倍,同时其拟合误差在平均绝对误差小于0.001的情况下不会造成神经网络判别准确率的下降.
关键词
sigmoid 激活 函数 非线性拟合 分段极限近似法 ARM Cortex-M BP神经网络
Keywords
sigmoid activation functionnonlinear fitting piecewise limit approximation ARM Cortex-M BP neural network
分类号
TP311
[自动化与计算机技术—计算机软件与理论]
题名 特征扩展的随机向量函数链神经网络
4
作者
龙茂森 王士同
机构
江南大学人工智能与计算机学院
出处
《软件学报》
EI
CSCD
北大核心
2024年第6期2903-2922,共20页
基金
国家重点研发计划(2022YFE0112400) 国家自然科学基金(61972181,U20A20228) 江苏省教育厅高校自然科学重点项目(22KJA520009)。
文摘
基于宽度学习的动态模糊推理系统(broad-learning-based dynamic fuzzy inference system,BL-DFIS)能自动构建出精简的模糊规则并获得良好的分类性能.然而,当遇到大型复杂的数据集时,BL-DFIS因会使用较多模糊规则来试图达到令人满意的识别精度,从而对其可解释性造成了不利影响.对此,提出一种兼顾分类性能和可解释性的模糊神经网络,将其称为特征扩展的随机向量函数链神经网络(FA-RVFLNN).在该网络中,一个以原始数据为输入的RVFLNN被作为主体结构,BL-DFIS则用作性能补充,这意味着FA-RVFLNN包含具有性能增强作用的直接链接.由于主体结构的增强节点使用Sigmoid激活函数,因此,其推理过程可借助一种模糊逻辑算子(I-OR)来解释.而且,具有明确含义的原始输入数据也有助于解释主体结构的推理规则.在直接链接的支撑下,FA-RVFLNN可利用增强节点、特征节点和模糊节点学到更丰富的有用信息.实验表明:FA-RVFLNN既减缓了主体结构RVFLNN中过多增强节点带来的“规则爆炸”问题,也提高了性能补充结构BL-DFIS的可解释性(平均模糊规则数降低了50%左右),在泛化性能和网络规模上仍具有竞争力.
关键词
宽度学习系统 模糊推理系统 特征扩展 随机向量函数 链神经网络(RVFLNN) sigmoid 激活 函数 可解释
Keywords
broad learning system fuzzy inference system feature augmentation random vector functional-link neural network(RVFLNN) sigmoid functioninterpretability
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
题名 基于调车系统的技术站编组去向方案优化
被引量：1
5
作者
方波 魏玉光
机构
北京交通大学交通运输学院
出处
《铁道学报》
EI
CAS
CSCD
北大核心
2023年第10期9-20,共12页
基金
中央高级基本科研业务费(2022JBQY006)。
文摘
优化编组去向方案是改善技术站系统分工、合理使用调车线的重要措施。针对传统单点列车编组计划模型将车站视为一个点从而忽视折角车流的不足,将双向编组站的上下行系统分别看作不同的点,提出基于调车系统的编组去向方案优化模型。区别于既有多点列车编组计划模型,根据编组去向的车流内容引入车流折角改编概率,并将编组去向的最小流量、车站的折角改编车流比例、不同编组去向的车流共用同一调车线等纳入模型约束中。在不降低解的质量下,基于Sigmoid函数拟合得到车流折角改编概率的近似计算公式,有效提高模型的求解效率。基于实际路网的算例结果表明,本文模型所得编组去向方案相较于既有模型更加符合运输实际。
关键词
编组去向 折角车流 调 车系统sigmoid 函数
Keywords
block angular traffic flow shunting system sigmoid function
分类号
U292.3
[交通运输工程—交通运输规划与管理]
题名 图像分类卷积神经网络的反馈损失计算方法改进
被引量：17
6
作者
周非 李阳 范馨月
机构
重庆邮电大学通信与信息工程学院 重庆邮电大学光通信与网络重点实验室
出处
《小型微型计算机系统》
CSCD
北大核心
2019年第7期1532-1537,共6页
基金
国家自然科学基金项目(61471077)资助
文摘
当前在图像分类领域,卷积神经网络主要通过反向传播算法训练权重和偏置.在参数的训练过程中,网络的实际输出与样本标签之间的反馈损失计算方式会影响到卷积神经网络对图像的最终分类性能.本文研究发现,当增大训练样本标签的维度,提高不同类别标签间的最小汉明距离,并通过sigmoid激活函数结合交叉熵计算反馈损失时,所得到的卷积网络模型对图像的分类能力优于使用softmax激活函数结合独热编码计算反馈损失所得到的卷积网络模型的分类能力.本文使用多种卷积神经网络结构,并结合多个数据集进行训练和测试,所得到的仿真结果证明了本文观点的正确性.
关键词
图像分类 卷积神经网络 sigmoid 激活 函数 交叉熵损失函数
Keywords
image classification convolutional neural network sigmoid activation functioncross-entropy loss function
分类号
TP391
[自动化与计算机技术—计算机应用技术]
题名 动态回声状态网络研究
被引量：2
7
作者
王改堂 赵金磊 王红辉 叶锦函
机构
西安现代控制技术研究所
出处
《弹箭与制导学报》
CSCD
北大核心
2018年第3期43-45,共3页
文摘
针对回声状态网络(ESN)算法在训练中只能调节输出权值的缺陷,提出了动态回声状态网络(DESN)研究方法。为了提高Sigmoid函数的非线性映射能力,该算法将映射区间因子引入到激活函数中,不仅对激活函数的位置和形状上进行了调整,而且对映射区间范围也作出调整。通过基准数据集仿真实验,验证了提出算法的有效性和可行性;并利用其预测地空导弹生存能力,获得了满意的结果。
关键词
回声状态网络 动态激活 函数 sigmoid 函数 地空导弹 生存能力
Keywords
echo state network dynamic activation function sigmoid functionsurface-to-air missile survivability
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
