构造一种适用于反向传播(backpropagation,BP)神经网络的新型激活函数Lfun(logarithmic series function),并使用基于该函数的BP神经网络进行机床能耗状态的预测。首先,分析Sigmoid系列和ReLU系列激活函数的特点和缺陷,结合对数函数,构...构造一种适用于反向传播(backpropagation,BP)神经网络的新型激活函数Lfun(logarithmic series function),并使用基于该函数的BP神经网络进行机床能耗状态的预测。首先,分析Sigmoid系列和ReLU系列激活函数的特点和缺陷,结合对数函数,构造了一种非线性分段含参数激活函数。该函数可导且光滑、导数形式简单、单调递增、输出均值为零,且通过可变参数使函数形式更灵活;其次,通过数值仿真实验在公共数据集上将Lfun函数与Sigmoid、ReLU、tanh、Leaky_ReLU和ELU函数的性能进行对比;最后,使用基于Lfun函数的BP神经网络进行机床能耗状态的预测。实验结果表明,使用Lfun函数的BP神经网络相较于使用其他几种常用激活函数的网络具有更好的性能。展开更多
孪生支持向量机(twin support vector machine,TSVM)能有效地处理交叉或异或等类型的数据.然而,当处理集值数据时,TSVM通常利用集值对象的均值、中值等统计信息.不同于TSVM,提出能直接处理集值数据的孪生支持函数机(twin support functi...孪生支持向量机(twin support vector machine,TSVM)能有效地处理交叉或异或等类型的数据.然而,当处理集值数据时,TSVM通常利用集值对象的均值、中值等统计信息.不同于TSVM,提出能直接处理集值数据的孪生支持函数机(twin support function machine,TSFM).依据集值对象定义的支持函数,TSFM在巴拿赫空间取得非平行的超平面.为了抑制集值数据中的离群点,TSFM采用了弹球损失函数并引入了集值对象的权重.考虑到TSFM是无穷维空间的优化问题,测度采用狄拉克测度的线性组合的形式,这构建有限维空间的优化模型.为了有效地求解优化模型,利用采样策略将模型转化成二次规划(quadratic programming,QP)问题并推导出二次规划问题的对偶形式,这为判断哪些采样点是支持向量提供了理论基础.为了分类集值数据,定义集值对象到巴拿赫空间的超平面的距离并由此得出判别规则.也考虑支持函数的核化以便取得数据的非线性特征,这使得提出的模型可用于不定核函数.实验结果表明,TSFM能获取交叉类型的集值数据的内在结构,并且在离群点或集值对象包含少量高维事例的情况下取得了良好的分类性能.展开更多
文摘构造一种适用于反向传播(backpropagation,BP)神经网络的新型激活函数Lfun(logarithmic series function),并使用基于该函数的BP神经网络进行机床能耗状态的预测。首先,分析Sigmoid系列和ReLU系列激活函数的特点和缺陷,结合对数函数,构造了一种非线性分段含参数激活函数。该函数可导且光滑、导数形式简单、单调递增、输出均值为零,且通过可变参数使函数形式更灵活;其次,通过数值仿真实验在公共数据集上将Lfun函数与Sigmoid、ReLU、tanh、Leaky_ReLU和ELU函数的性能进行对比;最后,使用基于Lfun函数的BP神经网络进行机床能耗状态的预测。实验结果表明,使用Lfun函数的BP神经网络相较于使用其他几种常用激活函数的网络具有更好的性能。
文摘孪生支持向量机(twin support vector machine,TSVM)能有效地处理交叉或异或等类型的数据.然而,当处理集值数据时,TSVM通常利用集值对象的均值、中值等统计信息.不同于TSVM,提出能直接处理集值数据的孪生支持函数机(twin support function machine,TSFM).依据集值对象定义的支持函数,TSFM在巴拿赫空间取得非平行的超平面.为了抑制集值数据中的离群点,TSFM采用了弹球损失函数并引入了集值对象的权重.考虑到TSFM是无穷维空间的优化问题,测度采用狄拉克测度的线性组合的形式,这构建有限维空间的优化模型.为了有效地求解优化模型,利用采样策略将模型转化成二次规划(quadratic programming,QP)问题并推导出二次规划问题的对偶形式,这为判断哪些采样点是支持向量提供了理论基础.为了分类集值数据,定义集值对象到巴拿赫空间的超平面的距离并由此得出判别规则.也考虑支持函数的核化以便取得数据的非线性特征,这使得提出的模型可用于不定核函数.实验结果表明,TSFM能获取交叉类型的集值数据的内在结构,并且在离群点或集值对象包含少量高维事例的情况下取得了良好的分类性能.
