拉普拉斯多层极速学习机 被引量：8

1

作者 丁世飞 张楠 史忠植 《软件学报》 EI CSCD 北大核心 2017年第10期2599-2610,共12页

极速学习机不仅仅是有效的分类器,还能应用到半监督学习中.但是,半监督极速学习机和拉普拉斯光滑孪生支持向量机一样,是一种浅层学习算法.深度学习实现了复杂函数的逼近并缓解了以前多层神经网络算法的局部最小性问题,目前在机器学习领... 极速学习机不仅仅是有效的分类器,还能应用到半监督学习中.但是,半监督极速学习机和拉普拉斯光滑孪生支持向量机一样,是一种浅层学习算法.深度学习实现了复杂函数的逼近并缓解了以前多层神经网络算法的局部最小性问题,目前在机器学习领域中引起了广泛的关注.多层极速学习机(ML-ELM)是根据深度学习和极速学习机的思想提出的算法,通过堆叠极速学习机-自动编码器算法(ELM-AE)构建多层神经网络模型,不仅实现了复杂函数的逼近,并且训练过程中无需迭代,学习效率高.把流形正则化框架引入ML-ELM中,提出拉普拉斯多层极速学习机算法(Lap-ML-ELM).然而,ELM-AE不能很好地解决过拟合问题.针对这一问题,把权值不确定引入ELM-AE中,提出权值不确定极速学习机-自动编码器算法(WU-ELM-AE),可学习到更为鲁棒的特征.最后,在前面两种算法的基础上提出权值不确定拉普拉斯多层极速学习机算法(WUL-ML-ELM),它堆叠WU-ELM-AE构建深度模型,并用流形正则化框架求取输出权值.该算法在分类精度上有明显提高并且不需花费太多的时间.实验结果表明,Lap-ML-ELM与WUL-ML-ELM都是有效的半监督学习算法. 展开更多

关键词 极速学习机 半监督学习 多层极速学习机 流形正则化 权值不确定

在线阅读 下载PDF 职称材料

基于多类重采样的非平衡数据极速学习机集成学习 被引量：5

2

作者 邢胜 王熙照 王晓兰 《南京大学学报（自然科学版）》 CAS CSCD 北大核心 2016年第1期203-211,共9页

极速学习机(Extreme learning machine,ELM)虽然已在理论和应用中证实有很好的泛化性能和极快的训练速度,但是在处理非均衡数据时,它更偏向多数类且极容易忽略少数类,基于数据重采样的集成学习可以帮助ELM解决少数类分类精度低的问题.... 极速学习机(Extreme learning machine,ELM)虽然已在理论和应用中证实有很好的泛化性能和极快的训练速度,但是在处理非均衡数据时,它更偏向多数类且极容易忽略少数类,基于数据重采样的集成学习可以帮助ELM解决少数类分类精度低的问题.提出一种按类别重采样技术并据此发展了一种ELM集成学习方法.该方法可充分利用少数类样本的信息,实验结果显示该方法性能明显优于单一的ELM学习模型.由于重采样是大数据处理的最核心的技术之一,该方法对非均衡大数据的学习模型建立有着一般性的指导意义. 展开更多

关键词 极速学习机 非均衡数据 重采样 集成学习

在线阅读 下载PDF 职称材料

基于数据随机性特征和极速学习机的加密数据流识别 被引量：2

3

作者 周宇欢 蒋大伟 +1 位作者 龚勇 陈聪 《计算机科学》 CSCD 北大核心 2017年第S1期380-384,共5页

为了在不解密加密数据的前提下获取加密数据流的类型信息,提出一种基于数据随机性特征和模式识别的加密数据流识别方法。该方法利用加密数据与非加密数据,或者不同类型加密数据0,1分布的随机性特性作为分类特征,再利用模式识别方法对不... 为了在不解密加密数据的前提下获取加密数据流的类型信息,提出一种基于数据随机性特征和模式识别的加密数据流识别方法。该方法利用加密数据与非加密数据,或者不同类型加密数据0,1分布的随机性特性作为分类特征,再利用模式识别方法对不同数据进行建模,从而实现对不同类型数据的自动识别。首先利用NIST随机性测试方法对数据流进行分析,将得到的15类随机性测试得分作为分类特征;然后对不同类型的数据流分别建立分类模型;最后利用训练好的数据模型对未知数据流进行识别。仿真实验显示,与仅用单个随机性特征进行明密数据识别相比,采用模式识别方法可以将错分率由原来的60%以上下降到30%左右;进一步利用滤波器方法对15类随机性特征进行优化降维,平均错分率进一步下降到15%左右。 展开更多

关键词 加密数据 数据随机性 模式识别 极速学习机

在线阅读 下载PDF 职称材料

基于自标注在线顺序极速学习机的图像识别方法 被引量：3

4

作者 魏涛 季新生 《计算机工程》 CAS CSCD 北大核心 2016年第6期208-212,217,共6页

针对图像识别领域目标域标注数据较少而未标注数据较多的情形,为能充分利用未标注数据以提高模型识别能力,提出一种自标注在线顺序极速学习机(SLOSELM)算法。基于源域中已标注数据构建极速学习机(ELM)模型以识别目标域中未标注数据,选... 针对图像识别领域目标域标注数据较少而未标注数据较多的情形,为能充分利用未标注数据以提高模型识别能力,提出一种自标注在线顺序极速学习机(SLOSELM)算法。基于源域中已标注数据构建极速学习机(ELM)模型以识别目标域中未标注数据,选取识别结果中置信度高的样本,并采用SLOSELM算法对ELM模型进行自适应调整,提高图像识别能力。在真实数据集上的实验结果表明,应用SLOSELM算法后ELM模型的图像平均识别能力提高约18%,相比Co-training算法识别时间更短。 展开更多

关键词 机器学习 极速学习机 迁移学习 自标注算法 图像识别

在线阅读 下载PDF 职称材料

一种鲁棒非平衡极速学习机算法 被引量：2

5

作者 孟凡荣 高春晓 刘兵 《计算机应用研究》 CSCD 北大核心 2014年第4期985-988,1004,共5页

极速学习机(ELM)算法只对平衡数据集分类较好,对于非平衡数据集,它通常偏向多数样本类,对于少数样本类性能较低。针对这一问题,提出了一种处理不平衡数据集分类的ELM模型(ELM-CIL),该模型按照代价敏感学习的原则为少数类样本赋予较大的... 极速学习机(ELM)算法只对平衡数据集分类较好,对于非平衡数据集,它通常偏向多数样本类,对于少数样本类性能较低。针对这一问题,提出了一种处理不平衡数据集分类的ELM模型(ELM-CIL),该模型按照代价敏感学习的原则为少数类样本赋予较大的惩罚系数,并引入模糊隶属度值减小了外围噪声点的影响。实验表明,提出的方法不仅对提高不平衡数据集中少数类的分类精度效果较明显,而且提高了对噪声的鲁棒性。 展开更多

关键词 极速学习机 不平衡数据集 基于核的可能性模糊C-均值聚类 神经网络

在线阅读 下载PDF 职称材料

基于极速学习机和最近邻的回归推荐算法 被引量：2

6

作者 陈爱霞 李宁 《河北大学学报（自然科学版）》 CAS 北大核心 2017年第6期662-666,共5页

提出了一种基于极速学习机和最近邻的协同过滤回归推荐算法.该算法首先采用k最近邻法对评分矩阵的缺失值进行填充,然后将极速学习机作为回归器为用户产生推荐.在推荐领域中的标杆数据集上,将该算法与常用推荐算法-LRCF算法进行了比较,... 提出了一种基于极速学习机和最近邻的协同过滤回归推荐算法.该算法首先采用k最近邻法对评分矩阵的缺失值进行填充,然后将极速学习机作为回归器为用户产生推荐.在推荐领域中的标杆数据集上,将该算法与常用推荐算法-LRCF算法进行了比较,验证了该算法的有效性. 展开更多

关键词 k最近邻 极速学习机 推荐系统

在线阅读 下载PDF 职称材料

改进的加权极速学习机

7

作者 邢胜 王晓兰 +1 位作者 赵士欣 赵彦霞 《计算机科学》 CSCD 北大核心 2017年第4期275-280,共6页

针对加权极速学习机人为固定权重可能会错失更优权重的问题,提出了改进的加权极速学习机。该方法的多数类的初始权重设为1,使用多数类与少数类样例数的比值作为少数类的初始权重,然后通过在多数类或者少数类中添加权重调节因子,从缩小... 针对加权极速学习机人为固定权重可能会错失更优权重的问题,提出了改进的加权极速学习机。该方法的多数类的初始权重设为1,使用多数类与少数类样例数的比值作为少数类的初始权重,然后通过在多数类或者少数类中添加权重调节因子,从缩小和扩大两个方向去调节权重,最后通过实验结果选出最优的权重。实验分别使用原加权极速学习机、其他权重的极速学习机和新方法在改造的UCI数据集上进行比较。结果表明新方法无论是在F-measure还是G-mean上都要优于其他加权极速学习机。 展开更多

关键词 不平衡学习 加权极速学习机 代价敏感学习 单隐层前馈网络

在线阅读 下载PDF 职称材料

基于自适应极速学习机的遥感图像目标识别

8

作者 张楠 丁世飞 许新征 《南京大学学报（自然科学版）》 CAS CSCD 北大核心 2014年第4期474-481,共8页

随着遥感技术的突飞猛进,遥感图像目标识别在军事方面以及民用方面都有重要的应用.但是在对遥感图像目标识别的过程中,由于遥感图像的高分辨率等客观条件限制,无法实现对目标实时和精确的识别.极速学习机具有很快的学习速度并且是一次... 随着遥感技术的突飞猛进,遥感图像目标识别在军事方面以及民用方面都有重要的应用.但是在对遥感图像目标识别的过程中,由于遥感图像的高分辨率等客观条件限制,无法实现对目标实时和精确的识别.极速学习机具有很快的学习速度并且是一次完成的,在小样本学习的问题中得到了广泛的应用.可以先对遥感图像进行特征提取,然后用极速学习机的神经网络方法对遥感图像目标进行识别,这是解决问题的一种有效方法.本文首先在极速学习机的基础上针对极速学习机隐层神经元过多的问题进一步提出隐层神经元数目自动确定的自适应极速学习机的算法,然后介绍了遥感图像特征提取的方法,最后通过实验仿真验证自适应极速学习机算法在遥感图像目标识别上的准确性和实用性. 展开更多

关键词 遥感图像 极速学习机 AP聚类 不变矩

在线阅读 下载PDF 职称材料

基于邻域粗糙集的极速学习机算法 被引量：4

9

作者 鲍丽娜 丁世飞 +1 位作者 许新征 孙统风 《济南大学学报（自然科学版）》 CAS 北大核心 2015年第5期367-371,共5页

将基于单隐层前馈神经网络(SLFN)提出的极速学习机(ELM)算法和邻域粗糙集理论进行结合,提出基于邻域粗糙集的极速学习机算法,采用邻域粗糙集对样本集进行属性约简,去掉冗余属性,利用ELM对约简后的数据集进行学习,并对数据样本进行预测... 将基于单隐层前馈神经网络(SLFN)提出的极速学习机(ELM)算法和邻域粗糙集理论进行结合,提出基于邻域粗糙集的极速学习机算法,采用邻域粗糙集对样本集进行属性约简,去掉冗余属性,利用ELM对约简后的数据集进行学习,并对数据样本进行预测。实验表明ELM算法相比具有更高的训练精度和测试精度。 展开更多

关键词 邻域粗糙集 属性约简 极速学习机

在线阅读 下载PDF 职称材料

基于代价极速学习机的软件缺陷报告分类方法 被引量：5

10

作者 张天伦 陈荣 +1 位作者 杨溪 祝宏玉 《软件学报》 EI CSCD 北大核心 2019年第5期1386-1406,共21页

在所有的软件系统开发过程中,Bug的存在是不可避免的问题.对于软件系统的开发者来说,修复Bug最有利的工具就是Bug报告.但是人工识别Bug报告会给开发人员带来新的负担,因此,自动对Bug报告进行分类是一项很有必要的工作.基于此,提出用基... 在所有的软件系统开发过程中,Bug的存在是不可避免的问题.对于软件系统的开发者来说,修复Bug最有利的工具就是Bug报告.但是人工识别Bug报告会给开发人员带来新的负担,因此,自动对Bug报告进行分类是一项很有必要的工作.基于此,提出用基于极速学习机的方法来对Bug报告进行分类.具体而言,主要解决Bug报告自动分类的3个问题:第1个是Bug报告数据集里不同类别的样本数量不平衡问题;第2个是Bug报告数据集里被标注的样本不充足问题;第3个是Bug报告数据集总体样本量不充足问题.为了解决这3个问题,分别引入了基于代价的有监督分类方法、基于模糊度的半监督学习方法以及样本迁移方法.通过在多个Bug报告数据集上进行实验,验证了这些方法的可行性和有效性. 展开更多

关键词 软件Bug报告 有监督分类方法 半监督学习方法 样本迁移方法 极速学习机

在线阅读 下载PDF 职称材料

基于聚类核的核极速学习机 被引量：1

11

作者 王丽娟 丁世飞 《南京师大学报（自然科学版）》 CAS CSCD 北大核心 2019年第3期145-150,共6页

传统的神经网络学习算法(如BP算法)需要调整大量的网络参数,例如输入权值以及隐层单元的偏置,而极速学习机只需要设置网络的隐层节点个数,在算法执行过程中不需要调整网络的输入权值,便可以产生唯一的最优解,因此它具有学习速度快且泛... 传统的神经网络学习算法(如BP算法)需要调整大量的网络参数,例如输入权值以及隐层单元的偏置,而极速学习机只需要设置网络的隐层节点个数,在算法执行过程中不需要调整网络的输入权值,便可以产生唯一的最优解,因此它具有学习速度快且泛化性能好的优点.随着极速学习机的研究发展,核极速学习机的相关理论被提出.核极速学习机是将核函数引入到极速学习机中,可以得到最小二乘解,具有更稳定的泛化性能.本文在核极速学习机的基础上提出了一种基于Bagged聚类核的核极速学习机的分类方法,首先对已有的标记样本和所有的无标记样本采用多次k均值聚类,去构造Bagged聚类核,然后对Bagged聚类核和径向基核进行求和,最终用于核极速学习机的训练中.与传统核极速学习机相比,本文提出的方法可以使用所有的无标记样本,从而尽可能地提高分类的准确率.最后本文通过实验验证了方法的可行性. 展开更多

关键词 极速学习机 k 均值聚类 Bagged聚类核 RBF核函数

在线阅读 下载PDF 职称材料

基于共轭梯度的极速学习机

12

作者 张沛洲 王熙照 +1 位作者 顾迪 赵士欣 《计算机应用》 CSCD 北大核心 2015年第10期2757-2760,2765,共5页

极速学习机(ELM)由于具有较快的训练速度和较好的泛化能力而被广泛的应用到很多的领域,然而在计算数据样例个数较大的情况下,它的训练速度就会下降,甚至会出现程序报错,因此提出在ELM模型中用改进的共轭梯度算法代替广义逆的计算方法。... 极速学习机(ELM)由于具有较快的训练速度和较好的泛化能力而被广泛的应用到很多的领域,然而在计算数据样例个数较大的情况下,它的训练速度就会下降,甚至会出现程序报错,因此提出在ELM模型中用改进的共轭梯度算法代替广义逆的计算方法。实验结果表明,与求逆矩阵的ELM算法相比,在同等泛化精度的条件下,共轭梯度ELM有着更快的训练速度。通过研究发现:基于共轭梯度的极速学习机算法不需要计算一个大型矩阵的广义逆,而大部分广义逆的计算依赖于矩阵的奇异值分解(SVD),但这种奇异值分解对于阶数很高的矩阵具有很低的效率;因为已经证明共轭梯度算法可通过有限步迭代找到其解,所以基于共轭剃度的极速学习机有着较高的训练速度,而且也比较适用于处理大数据。 展开更多

关键词 极速学习机 广义逆 共轭梯度法 奇异值分解

在线阅读 下载PDF 职称材料

基于仿真样本生成的极速学习机泛化能力改进算法

13

作者 敖威 何玉林 +1 位作者 黄哲学 何玉鹏 《南京大学学报（自然科学版）》 CAS CSCD 北大核心 2018年第1期75-84,共10页

极速学习机出色的训练速度和泛化能力受到了广泛的关注,已有的针对于提升极速学习机泛化性能的学习算法主要集中于优化其框架结构,增加了模型的复杂度并容易产生过拟合.提出一种基于仿真样本生成策略的极速学习机泛化能力改进学习算法(E... 极速学习机出色的训练速度和泛化能力受到了广泛的关注,已有的针对于提升极速学习机泛化性能的学习算法主要集中于优化其框架结构,增加了模型的复杂度并容易产生过拟合.提出一种基于仿真样本生成策略的极速学习机泛化能力改进学习算法(Extreme Learning Machine Generalization Improvement through Synthetic Instance Generation,SIGELM),该算法不需要修改极速学习机的框架结构(包括输入层权重、隐含层偏置、隐含层节点个数、隐含层节点激活函数类型等),而是利用与训练集中高不确定性训练样本近似同分布的仿真样本优化极速学习机的输出层权重.为了获得符合要求的仿真样本,SIGELM在高不确定性训练样本的邻域内选择能够增加极速学习机训练表现的仿真样本.实验结果证实该算法显著地改进了极速学习机的泛化能力,同时有效地控制了极速学习机的过拟合. 展开更多

关键词 随机权网络 极速学习机 泛化能力 不确定性 仿真样本 邻域

在线阅读 下载PDF 职称材料

神经网络极速学习方法研究 被引量：163

14

作者 邓万宇 郑庆华 +1 位作者 陈琳 许学斌 《计算机学报》 EI CSCD 北大核心 2010年第2期279-287,共9页

单隐藏层前馈神经网络(Single-hidden Layer Feedforward Neural Network,SLFN)已经在模式识别、自动控制及数据挖掘等领域取得了广泛的应用,但传统学习方法的速度远远不能满足实际的需要,成为制约其发展的主要瓶颈.产生这种情况的两个... 单隐藏层前馈神经网络(Single-hidden Layer Feedforward Neural Network,SLFN)已经在模式识别、自动控制及数据挖掘等领域取得了广泛的应用,但传统学习方法的速度远远不能满足实际的需要,成为制约其发展的主要瓶颈.产生这种情况的两个主要原因是:(1)传统的误差反向传播方法(Back Propagation,BP)主要基于梯度下降的思想,需要多次迭代;(2)网络的所有参数都需要在训练过程中迭代确定.因此算法的计算量和搜索空间很大.针对以上问题,借鉴ELM的一次学习思想并基于结构风险最小化理论提出一种快速学习方法(RELM),避免了多次迭代和局部最小值,具有良好的泛化性、鲁棒性与可控性.实验表明RELM综合性能优于ELM、BP和SVM. 展开更多

关键词 极速学习机 正则极速学习机 支持向量机 结构风险 神经网络 最小二乘

在线阅读 下载PDF 职称材料

一种带修剪的增量极速学习模糊神经网络 被引量：1

15

作者 胡蓉 徐蔚鸿 《计算机科学》 CSCD 北大核心 2013年第5期279-282,共4页

由Huang提出的extreme learning machine(ELM)批量学习算法在获得与其他算法相当的性能的同时显示出了极快的学习速度。为了实现在线增量学习,扩展了ELM方法,提出了一种带修剪的极速学习模糊神经网络。首先随机产生模糊神经网络前件参... 由Huang提出的extreme learning machine(ELM)批量学习算法在获得与其他算法相当的性能的同时显示出了极快的学习速度。为了实现在线增量学习,扩展了ELM方法,提出了一种带修剪的极速学习模糊神经网络。首先随机产生模糊神经网络前件参数和规则数量,然后使用SVD将规则按照重要性能排序,再使用留一法leave-one-out(LOO)选出最佳的模糊规则数,最后分析计算模糊规则的后件参数。在学习过程中无须保存过去的数据,真正实现了增量学习。当新的数据到来时,无须重新训练网络。通过仿真实验对该方法与其他算法进行了验证和比较,结果表明,在获得与其他算法类似的性能的情况下,该算法能够获得更加简洁的结构。 展开更多

关键词 极速学习机(elm) 增量学习 模糊神经网络 径向基函数

在线阅读 下载PDF 职称材料

Lasso极限最小学习机 被引量：7

16

作者 冉杨鋆 孙晓光 《计算机应用与软件》 CSCD 北大核心 2013年第2期6-9,共4页

极限最小学习机ELM(Extreme Learning Machine)是一种具有快速学习能力的神经网络训练算法。它通过随机选择神经网络节点的参数结合最小二乘法达到了减少训练时间的目的,但它需要产生大量的神经网络节点协助运算。提出一种利用迭代式La... 极限最小学习机ELM(Extreme Learning Machine)是一种具有快速学习能力的神经网络训练算法。它通过随机选择神经网络节点的参数结合最小二乘法达到了减少训练时间的目的,但它需要产生大量的神经网络节点协助运算。提出一种利用迭代式Lasso回归优化的极限最小学习机(Lasso-ELM),它具有以下优势:(1)能大幅减少神经网络隐藏层节点的数量;(2)具有更好的神经网络泛化能力。实验表明Lasso-ELM的综合性能优于ELM、BP与SVM。 展开更多

关键词 极速最小学习机 Lasso 神经网络

在线阅读 下载PDF 职称材料

基于极速学习的Choquet模糊积分分类器

17

作者 陈爱霞 张春琴 《河北大学学报（自然科学版）》 CAS 北大核心 2019年第4期337-341,共5页

在交互环境下,模糊积分分类器具有良好的分类性能.如何确定在属性集幂集上定义的模糊测度是模糊积分分类器中的一个关键问题.当属性的个数增加时,计算复杂度呈指数级增长.为了解决这一问题,借鉴极速学习机算法中权重向量随机确定的思想... 在交互环境下,模糊积分分类器具有良好的分类性能.如何确定在属性集幂集上定义的模糊测度是模糊积分分类器中的一个关键问题.当属性的个数增加时,计算复杂度呈指数级增长.为了解决这一问题,借鉴极速学习机算法中权重向量随机确定的思想,提出了ELM-Choquet模糊积分分类器.实验结果表明,和Choquet模糊积分分类器相比,该算法具有较优的分类性能. 展开更多

关键词 模糊测度 模糊积分 CHOQUET模糊积分 极速学习机 遗传算法

在线阅读 下载PDF 职称材料

基于Spark的并行极速神经网络 被引量：4

18

作者 邓万宇 李力 牛慧娟 《郑州大学学报（工学版）》 CAS 北大核心 2016年第5期47-56,共10页

随着数据规模的快速膨胀,基于单机的串行神经网络结构面临着巨大的计算挑战,难以满足现实应用中的扩展需求.在极速学习机(extreme learning machine,ELM)基础上,基于Spark并行框架提出一种并行的极速神经网络学习方法,以Spark平台特有的... 随着数据规模的快速膨胀,基于单机的串行神经网络结构面临着巨大的计算挑战,难以满足现实应用中的扩展需求.在极速学习机(extreme learning machine,ELM)基础上,基于Spark并行框架提出一种并行的极速神经网络学习方法,以Spark平台特有的RDD高效数据集管理机制对其进行封装,并将大规模数据中的高复杂度矩阵计算进行并行化,实现ELM加速求解,仅需一组Map和Reduce操作即可完成算法的训练.在大量真实数据集上的实验结果表明,基于Spark的并行ELM算法相较于串行ELM获得了显著的性能提升. 展开更多

关键词 极速学习机 神经网络 并行化elm算法 SPARK

在线阅读 下载PDF 职称材料

基于极速神经网络的协作过滤方法研究 被引量：2

19

作者 陈琳 邓万宇 王昕 《计算机工程与设计》 CSCD 北大核心 2011年第4期1430-1433,1437,共5页

协作过滤是一种有效的个性化推荐技术,针对该技术随着用户和资源的增多,数据的高维稀疏特性严重导致推荐质量的下降和计算速度减慢的问题,研究并实现了一种基于极速神经网络的协作过滤方法。采用主成分分析解决数据高维稀疏性问题,采用... 协作过滤是一种有效的个性化推荐技术,针对该技术随着用户和资源的增多,数据的高维稀疏特性严重导致推荐质量的下降和计算速度减慢的问题,研究并实现了一种基于极速神经网络的协作过滤方法。采用主成分分析解决数据高维稀疏性问题,采用极速神经网络技术解决计算速度慢的问题。实验结果表明,该方法具有良好的泛化性能和学习速度,能很好的满足个性化资源推荐的需求。 展开更多

关键词 协作过滤 主成分分析 单隐藏层神经网络 极速学习机 用户兴趣模型

在线阅读 下载PDF 职称材料

基于l_1-正则化的ELM回归集成学习 被引量：3

20

作者 王权 陈松灿 《计算机研究与发展》 EI CSCD 北大核心 2012年第12期2631-2637,共7页

极速学习机(extreme learning machine,ELM)是近年提出的一种极其快速且具有良好泛化性保证的单隐层神经网络学习算法.然而ELM随机的设置权值带来的不足是其性能的不稳定.稀疏的ELM回归集成学习算法(sparse ensemble regressors of ELM,... 极速学习机(extreme learning machine,ELM)是近年提出的一种极其快速且具有良好泛化性保证的单隐层神经网络学习算法.然而ELM随机的设置权值带来的不足是其性能的不稳定.稀疏的ELM回归集成学习算法(sparse ensemble regressors of ELM,SERELM)通过稀疏地加权组合多个不稳定ELM学习机弥补该不足.一方面,在典型时间序列上的回归实验不仅验证了SERELM的性能优于单个ELM回归器,而且也优于其他两个最近提出的集成方法.另一方面,集成学习的优劣通常与多样性密切相关,而对回归如何定义和度量多样性仍是一个问题,这导致了目前几乎没有一个普遍认可的合适度量方法.SERELM则利用l1-正则化,绕开了这一问题,且实验结果表明:1)l1-正则化自动地为精度高的学习机赋以大的权值;2)很大程度上,回归中常用个体间的负相关性对多样性度量无效. 展开更多

关键词 极速学习机 l1-正则化 稀疏elm集成 时间序列预测 多样性

在线阅读 下载PDF 职称材料