选择性集成学习算法综述 被引量：143

1

作者 张春霞 张讲社 《计算机学报》 EI CSCD 北大核心 2011年第8期1399-1410,共12页

集成学习因其能显著提高一个学习系统的泛化能力而得到了机器学习界的广泛关注,但随着基学习机数目的增多,集成学习机的预测速度明显下降,其所需的存储空间也迅速增加.选择性集成学习的主要目的是进一步改善集成学习机的预测效果,提高... 集成学习因其能显著提高一个学习系统的泛化能力而得到了机器学习界的广泛关注,但随着基学习机数目的增多,集成学习机的预测速度明显下降,其所需的存储空间也迅速增加.选择性集成学习的主要目的是进一步改善集成学习机的预测效果,提高集成学习机的预测速度,并降低其存储需求.该文对现有的选择性集成学习算法进行了详细综述,按照算法采用的选择策略对其进行了分类,并分析了各种算法的主要特点,最后对选择性集成学习在将来的可能研究方向进行了探讨. 展开更多

关键词 选择性集成学习 基学习机 集成学习机 多样性 泛化能力

在线阅读 下载PDF 职称材料

选择性集成学习模型在岩性-孔隙度预测中的应用 被引量：11

2

作者 段友祥 王言飞 孙歧峰 《科学技术与工程》 北大核心 2020年第3期1001-1008,共8页

储层是油藏地质建模的主要对象,储层属性参数的预测是建模的重要基础和主要难点之一。利用机器学习方法建立预测模型是目前研究的一个热点。针对单一机器学习方法在孔隙度预测方面存在的容错率低、过拟合等缺点,提出了融合岩性分类进行... 储层是油藏地质建模的主要对象,储层属性参数的预测是建模的重要基础和主要难点之一。利用机器学习方法建立预测模型是目前研究的一个热点。针对单一机器学习方法在孔隙度预测方面存在的容错率低、过拟合等缺点,提出了融合岩性分类进行选择性集成学习建立预测模型的方法。该方法首先使用支持向量机进行岩性分类,并将岩性分类结果作为孔隙度选择性集成预测模型的输入。然后在研究分析典型机器学习方法的基础上,通过主成分方法分析法从支持向量回归、径向基(radial basis function,RBF)神经网络、随机森林、岭回归和K近邻回归等经典模型中选择出一组表现优异的个体学习模型组成集成学习模型,个体在集成模型中的权重由“主成分权重平均”法获得,最终采用加权平均法得到集成学习模型的输出。该方法考虑了岩性对孔隙度的影响,克服了单一模型存在的不足,模型的泛化能力强。研究结果表明,该方法的预测精度明显优于其他单一机器学习方法,适应性好。 展开更多

关键词 孔隙度预测 岩性分类 选择性集成学习 机器学习 主成分方法分析法 主成分权重平均法

在线阅读 下载PDF 职称材料

基于动态选择性集成学习的供应链产销协商优化策略 被引量：1

3

作者 武玉英 严勇 蒋国瑞 《计算机工程》 CAS CSCD 北大核心 2017年第5期191-196,共6页

针对当前Agent产销协商自适应学习效果差及协商环境动态变化的现状,考虑动态协商环境中的冲突水平、合作可能性、协商剩余时间对谈判的影响,利用熵值法确定3个影响因素的权重并进行线性加权。结合当前协商议题的差异性,构建基于动态选... 针对当前Agent产销协商自适应学习效果差及协商环境动态变化的现状,考虑动态协商环境中的冲突水平、合作可能性、协商剩余时间对谈判的影响,利用熵值法确定3个影响因素的权重并进行线性加权。结合当前协商议题的差异性,构建基于动态选择性集成学习的让步幅度预测模型,并提出供应链产销协商优化策略。实验结果表明,与单学习机协商策略相比,该策略提高了Agent自适应学习成功率及联合效用,并且能确保供应链产销双方受益,实现合作双方互利互赢的局面。 展开更多

关键词 动态选择性集成学习 动态协商环境 Agent产销协商 自适应学习 熵值法

在线阅读 下载PDF 职称材料

基于选择性集成学习的高速列车故障识别研究 被引量：8

4

作者 饶川 苟先太 金炜东 《计算机应用研究》 CSCD 北大核心 2018年第5期1365-1367,共3页

在SVM分类识别中,分类器模型一经训练得到,对所有测试样本进行无差别的识别。针对高速列车故障中样本的分类识别是存在区域分类精度的情况,提出了一种基于选择性集成学习的SVM多分类器融合算法。该方法选取测试样本最邻近的k个训练样本... 在SVM分类识别中,分类器模型一经训练得到,对所有测试样本进行无差别的识别。针对高速列车故障中样本的分类识别是存在区域分类精度的情况,提出了一种基于选择性集成学习的SVM多分类器融合算法。该方法选取测试样本最邻近的k个训练样本;然后选择对其分类效果好的SVM分类器进行融合,以提高分类准确率;最后使用高速列车故障数据进行了实验,并与Ada Boost、KNN、Bayes、SVM分类方法进行了比较。实验结果表明,该算法提高了分类识别准确率。 展开更多

关键词 选择性集成学习 支持向量机 多分类器融合 区域分类精度 高速列车故障分类

在线阅读 下载PDF 职称材料

选择性集成学习多判别器生成对抗网络 被引量：3

5

作者 申瑞彩 翟俊海 侯璎真 《计算机科学与探索》 CSCD 北大核心 2022年第6期1429-1438,共10页

生成对抗网络(GAN)在图像生成方面具有广泛应用,但基于无监督方式与有监督方式的网络生成样本仍有较大差距。为解决生成对抗网络在无监督环境中生成样本多样性差、质量较低以及模型训练时间过长等问题,提出了具有选择性集成学习思想的... 生成对抗网络(GAN)在图像生成方面具有广泛应用,但基于无监督方式与有监督方式的网络生成样本仍有较大差距。为解决生成对抗网络在无监督环境中生成样本多样性差、质量较低以及模型训练时间过长等问题,提出了具有选择性集成学习思想的生成对抗网络模型。将生成对抗网络中的判别网络采用集成判别系统的形式,有效减少了由单判别器判别性能不佳导致判别误差的情况;同时考虑到若集成判别网络均采用统一网络设置,则在模型训练中基判别网络将趋近于一种表现形式,为鼓励判别网络判别结果多样且避免网络陷入雷同,设置拥有不同网络结构的判别网络,并在集成判别网络中引入具有动态调整基判别网络投票权重的多数投票策略,对集成判别网络的判别结果进行投票,有效地促进了模型的收敛且较大减少了实验误差。最后将提出的模型与同方向的模型在不同数据集上使用不同评价指标进行评价,实验结果表明提出的模型无论在生成样本多样性、生成样本质量还是在模型收敛速度上均明显优于几种竞争模型。 展开更多

关键词 生成对抗网络(GAN) 集成判别系统 选择性集成学习 多数投票策略

在线阅读 下载PDF 职称材料

一种基于选择性协同学习的网络用户异常行为检测方法 被引量：36

6

作者 陆悠 李伟 +2 位作者 罗军舟 蒋健 夏怒 《计算机学报》 EI CSCD 北大核心 2014年第1期28-40,共13页

为了快速准确检测网络用户的异常行为,机器学习技术得到了广泛应用.但随着用户规模的扩大及用户行为的复杂化,基于机器学习的传统检测方法面临着大量标记训练样本而导致的巨大开销、实际网络用户异常行为数据非平衡性而导致的检测准确... 为了快速准确检测网络用户的异常行为,机器学习技术得到了广泛应用.但随着用户规模的扩大及用户行为的复杂化,基于机器学习的传统检测方法面临着大量标记训练样本而导致的巨大开销、实际网络用户异常行为数据非平衡性而导致的检测准确性不足等问题.因此,将选择性集成技术引入到协同学习过程中,提出了一种基于选择性协同学习的网络用户异常行为检测方法,使用基于多数类分布的改进EasyEnsemble方法将非平衡训练样本划分为平衡的样本子集,然后使用基于混合扰动的生成方法构造差异性成员分类器对样本子集进行协同学习,在学习过程中使用选择性集成进行置信度计算与数据更新以减少开销,并基于准确性选择构建集成分类器用于实际检测,使得检测方法在获得非平衡性复杂分布数据的处理能力的同时进一步提高检测准确性.实验结果表明,该方法较传统方法减少了对训练样本中标记数据的需求,同时在准确性评价指标上表现更好,能更快速准确地检测出网络用户的异常行为. 展开更多

关键词 网络用户异常行为检测 协同学习 选择性集成学习 支持向量机 机器学习

在线阅读 下载PDF 职称材料

基于选择性集成分类器的面部表情识别研究 被引量：5

7

作者 贾澎涛 李阳 《计算机应用研究》 CSCD 北大核心 2017年第12期3825-3827,3833,共4页

为了提高面部表情的分类识别性能,基于集成学习理论,提出了一种二次优化选择性(quadratic optimization choice,QOC)集成分类模型。首先,对于九个基分类器,依据性能进行排序,选择前30%的基分类器作为集成模型的候选基分类器;其次,依据... 为了提高面部表情的分类识别性能,基于集成学习理论,提出了一种二次优化选择性(quadratic optimization choice,QOC)集成分类模型。首先,对于九个基分类器,依据性能进行排序,选择前30%的基分类器作为集成模型的候选基分类器;其次,依据组合规则产生集成模型簇;最后,对集成模型簇进行二次优化选择,选择具有最小泛化误差的集成分类器的子集,从而确定最优集成分类模型。为了验证QOC集成分类模型的性能,选择采用最大值、最小值和均值规则的集成模型作为对比模型。实验结果表明,相对基分类器,QOC集成分类模型取得了较好的分类效果,尤其是对于识别率较差的悲伤表情类,平均识别率提升了21.11%;相对于非选择性集成模型,QOC集成分类模型识别性能也有显著提高。 展开更多

关键词 选择性集成学习 多分类器 面部表情识别

在线阅读 下载PDF 职称材料

基于KELM选择性集成的复杂网络环境入侵检测 被引量：29

8

作者 刘金平 何捷舟 +3 位作者 马天雨 张五霞 唐朝晖 徐鹏飞 《电子学报》 EI CAS CSCD 北大核心 2019年第5期1070-1078,共9页

为解决复杂网络环境网络入侵事件特征复杂多变、新型入侵检测度低、检测时间长、难以实现实时检测的问题,本文提出一种基于核极限学习机(Kernel Extreme Learning Machine,KELM)选择性集成的网络入侵检测方法(SEoKELM-NID).该方法采用Ba... 为解决复杂网络环境网络入侵事件特征复杂多变、新型入侵检测度低、检测时间长、难以实现实时检测的问题,本文提出一种基于核极限学习机(Kernel Extreme Learning Machine,KELM)选择性集成的网络入侵检测方法(SEoKELM-NID).该方法采用Bagging策略独立快速训练出多个KELM子学习器;然后基于边缘距离最小化(Margin Distance Minimization,MDM)准则对KELM子学习器的集成增益进行度量,通过选择增益度高的部分KELM子学习器进行选择性集成,获得泛化能力强、效率高的选择性集成学习器;同时,引入一种基于批量样本增量学习的KELM子分类器在线更新策略,实现入侵检测模型的在线更新,使SEoKELM-NID能有效适应复杂网络环境的变化.在KDD99数据集和一个以太网和无线网络混合的复杂网络仿真实验平台上进行了仿真实验验证,结果表明,SEoKELM-NID相比基于单个学习器以及传统集成学习的网络入侵检测方法具有更好的识别准确性以及更快的识别速度,特别对于未知的网络入侵连接事件响应速度快、漏报率低. 展开更多

关键词 网络入侵检测 极限学习机(ELM) 异常检测 选择性集成学习 边缘距离最小化

在线阅读 下载PDF 职称材料

选择性神经网络集成的微博用户信用评估模型 被引量：6

9

作者 闫瑞姣 尹四清 《计算机工程与设计》 北大核心 2018年第5期1478-1483,共6页

为更好地监管微博平台,预防并降低社交失信事件的发生,针对微博用户特征,提出一种基于ReliefF的选择性集成学习的微博用户信用评估模型。利用ReliefF算法剔除冗余和相关性较弱的指标,在集成学习的基础上,采用聚类选择算法挑选分类性能... 为更好地监管微博平台,预防并降低社交失信事件的发生,针对微博用户特征,提出一种基于ReliefF的选择性集成学习的微博用户信用评估模型。利用ReliefF算法剔除冗余和相关性较弱的指标,在集成学习的基础上,采用聚类选择算法挑选分类性能较好的基分类器进行最终集成。实验对比分析结果表明,该评估模型在预测精度和运行效率方面有明显的提升,是一种切实可行、有效的评估模型。 展开更多

关键词 微博 信用 BP神经网络 选择性集成学习 ReliefF特征选择

在线阅读 下载PDF 职称材料

HSEC:基于聚类的启发式选择性集成

10

作者 郑丽容 洪志令 《南京大学学报（自然科学版）》 CAS CSCD 北大核心 2018年第1期116-123,共8页

提出一种基于聚类的启发式选择性集成学习算法.集成学习通过组合多个弱分类器获得比单一分类器更好的学习效果,把多个弱分类器提升为一个强分类器.理论上来说弱分类器的个数越多,组合的模型效果越好,但是随着弱分类器的增多,模型的训练... 提出一种基于聚类的启发式选择性集成学习算法.集成学习通过组合多个弱分类器获得比单一分类器更好的学习效果,把多个弱分类器提升为一个强分类器.理论上来说弱分类器的个数越多,组合的模型效果越好,但是随着弱分类器的增多,模型的训练时间和复杂度也随之递增.通过聚类的方法去除相似的弱分类器,一方面有效降低模型的复杂度,另一方面选出差异性较大的弱分类器作为候选集合.之后采用启发式的选择性集成算法,对弱分类器进行有效的组合,从而提升模型的分类性能.同时采用并行的集成策略,提高集成学习选取最优分类器子集效率,可以有效地减少模型的训练时间.实验结果表明,该算法较传统方法在多项指标上都有着一定的提升. 展开更多

关键词 集成学习 选择性集成学习 聚类 降维

在线阅读 下载PDF 职称材料

基于Spark的多标签超网络集成学习 被引量：1

11

作者 李航 王进 赵蕊 《智能系统学报》 CSCD 北大核心 2017年第5期624-639,共16页

近年来,多标签学习在图像识别和文本分类等多个领域得到了广泛关注,具有越来越重要的潜在应用价值。尽管多标签学习的发展日新月异,但仍然存在两个主要挑战,即如何利用标签间的相关性以及如何处理大规模的多标签数据。针对上述问题,基于... 近年来,多标签学习在图像识别和文本分类等多个领域得到了广泛关注,具有越来越重要的潜在应用价值。尽管多标签学习的发展日新月异,但仍然存在两个主要挑战,即如何利用标签间的相关性以及如何处理大规模的多标签数据。针对上述问题,基于MLHN算法,提出一种能有效利用标签相关性且能处理大数据集的基于Spark的多标签超网络集成算法SEI-MLHN。该算法首先引入代价敏感,使其适应不平衡数据集。其次,改良了超网络演化学习过程,并优化了损失函数,降低了算法时间复杂度。最后,进行了选择性集成,使其适应大规模数据集。在11个不同规模的数据集上进行实验,结果表明,该算法具有较好的分类性能,较低的时间复杂度且具备良好的处理大规模数据集的能力。 展开更多

关键词 多标签学习 超网络 标签相关性 APACHE SPARK 选择性集成学习

在线阅读 下载PDF 职称材料

基于集成学习的音乐识别方法研究 被引量：4

12

作者 邱诚 王大海 +1 位作者 任伟家 邹权 《计算机科学》 CSCD 北大核心 2012年第12期184-187,203,共5页

随着信息和多媒体的发展,音乐数据变得更加丰富。如何能够高效地检索和管理音乐数据是一个挑战。音乐分类是音乐信息检索领域的一个关键问题,可以很好地管理不同类别的音乐数据。基于K-Means聚类的循环静态选择策略是一种双层选择集成模... 随着信息和多媒体的发展,音乐数据变得更加丰富。如何能够高效地检索和管理音乐数据是一个挑战。音乐分类是音乐信息检索领域的一个关键问题,可以很好地管理不同类别的音乐数据。基于K-Means聚类的循环静态选择策略是一种双层选择集成模型,它的第一层是通过基于聚类的选择策略在全部的基分类器中筛选出相互之间差异性较大的候选基分类器集合,然后通过第二层的循环静态选择策略进行第二轮的选择操作,并进行投票集成,以达到更好的集成效果。通过两组标准的音乐数据集验证了该策略的有效性。 展开更多

关键词 音乐信息检索 音乐分类 选择性集成学习 聚类 机器学习

在线阅读 下载PDF 职称材料

基于分层筛选和动态更新的并行选择集成算法 被引量：2

13

作者 吴梅红 郭佳盛 +2 位作者 鞠颖 林子雨 邹权 《计算机科学》 CSCD 北大核心 2017年第1期48-52,共5页

提出一种选择性集成学习算法,该算法利用多线程并行优化基分类器的参数,通过多层筛选和动态更新筛选信息获取最优的候选基分类器集合,解决了以往在集成学习中选择分类器效率低下的问题。集成分类器采用分解合并的策略进行加权投票,通过... 提出一种选择性集成学习算法,该算法利用多线程并行优化基分类器的参数,通过多层筛选和动态更新筛选信息获取最优的候选基分类器集合,解决了以往在集成学习中选择分类器效率低下的问题。集成分类器采用分解合并的策略进行加权投票,通过使用二分法将大数据集的投票任务递归分解成多个子任务,并行运行子任务后合并投票结果以缩短集成分类器的投票运行时间。实验结果表明,相对于传统方法,所提出的算法在平均精度、F1-Measure以及AUC指标上都有着显著提升。 展开更多

关键词 选择性集成学习 分治算法 并行计算 分类

在线阅读 下载PDF 职称材料

露天煤矿卡车路段行程时间的实时动态预测新方法 被引量：6

14

作者 薛雪 孙伟 梁睿 《煤炭学报》 EI CAS CSCD 北大核心 2012年第8期1418-1422,共5页

针对露天煤矿卡车优化调度中重要的行程时间预测问题,考虑影响卡车行程时间的各种因素,建立卡车行程时间预测模型,利用最小二乘支持向量回归算法(LS-SVR)和选择性集成学习思想,提出一种基于最小二乘支持向量回归的选择性集成学习算法实... 针对露天煤矿卡车优化调度中重要的行程时间预测问题,考虑影响卡车行程时间的各种因素,建立卡车行程时间预测模型,利用最小二乘支持向量回归算法(LS-SVR)和选择性集成学习思想,提出一种基于最小二乘支持向量回归的选择性集成学习算法实现卡车行程时间的动态预测。并在实际采集的露天煤矿数据上进行实验,得到较高的预测精度,说明了算法的有效性。 展开更多

关键词 露天煤矿 卡车 行程时间 动态预测 最小二乘支持向量回归 选择性集成学习

在线阅读 下载PDF 职称材料

基于CSSE-OSELM算法的软测量建模及其工业应用 被引量：3

15

作者 李荣雨 戚桂洪 《计量学报》 CSCD 北大核心 2017年第5期650-655,共6页

针对软测量建模样本的特性,提出一种基于布谷鸟选择性集成学习的在线贯序极限学习机(CSSEOSELML)软测量建模方法。首先,以多个OSELM组合成集成学习的框架,并给每个OSELM赋予权重并设定阈值,借助于布谷鸟算法(CS)从中选择出满足阈值条件... 针对软测量建模样本的特性,提出一种基于布谷鸟选择性集成学习的在线贯序极限学习机(CSSEOSELML)软测量建模方法。首先,以多个OSELM组合成集成学习的框架,并给每个OSELM赋予权重并设定阈值,借助于布谷鸟算法(CS)从中选择出满足阈值条件的OSELM个体,重新组合成集成学习的子集。最终以该子集建立软测量模型,进行集成学习并做加权处理。以UCI标准数据集进行测试,同时对加氢裂化反应分馏塔航煤干点进行验证,仿真结果表明,该算法优于传统的方法,具有更高的预测精度和稳定性能。 展开更多

关键词 计量学 OSELM 软测量 选择性集成学习 布谷鸟算法

在线阅读 下载PDF 职称材料

萤火虫优化和随机森林的WSN异常数据检测 被引量：13

16

作者 许欧阳 李光辉 《计算机科学与探索》 CSCD 北大核心 2018年第10期1633-1644,共12页

异常数据检测在无线传感器网络(wireless sensor network,WSN)环境监测系统中发挥重要作用。针对传统的随机森林(random forest,RF)算法因冗余决策树导致异常数据检测效率不高的问题,根据选择性集成思想,提出了一种基于变异二进制萤火... 异常数据检测在无线传感器网络(wireless sensor network,WSN)环境监测系统中发挥重要作用。针对传统的随机森林(random forest,RF)算法因冗余决策树导致异常数据检测效率不高的问题,根据选择性集成思想,提出了一种基于变异二进制萤火虫算法(mutation binary glowworm swarm optimization,MBGSO)以及自适应更新随机森林的WSN异常数据检测算法MBGSO-ARF。该算法使用改进的BGSO算法优化RF进行选择性集成以得到最优子集成分类器,并使得检测模型随数据流的变化而自适应更新,提高了检测准确性并节省了检测时间,对优化算法MBGSO和二进制粒子群算法(binary particle swarm optimization,BPSO)进行了实验对比。仿真实验结果表明:该优化算法优于BPSO算法,MBGSO-ARF算法在准确率上较其余算法都有提升,且集成模型大小得到了压缩。以上结果证明了MBGSO-ARF算法的有效性。 展开更多

关键词 异常检测 随机森林 无线传感器网络(WSN) 萤火虫算法 选择性集成学习

在线阅读 下载PDF 职称材料

基于萤火虫算法的短期电力负荷预测方法 被引量：13

17

作者 范海虹 《中国电力》 CSCD 北大核心 2021年第3期141-148,共8页

近年来,电力行业快速发展,对电力负荷进行预测也越来越重要,其中短期负荷预测对于电力系统的调度和市场运行起到极其重要的作用,精准的电力负荷预测可以有效提高发电设备利用度。融合卡帕(Kappa)测度和萤火虫算法的进行选择性集成学习... 近年来,电力行业快速发展,对电力负荷进行预测也越来越重要,其中短期负荷预测对于电力系统的调度和市场运行起到极其重要的作用,精准的电力负荷预测可以有效提高发电设备利用度。融合卡帕(Kappa)测度和萤火虫算法的进行选择性集成学习方法实现短期负荷预测,该方法首先使用自展法(bootstrap抽样)生成多个学习器,然后使用Kappa测度对学习器进行初步筛选,接着使用萤火虫算法从中选择部分差异度大、准确率高的学习器参与集成,其准确率相较于单个学习器而言,有着明显提升。选取2015-2016年武汉2家激光企业的日均负荷曲线作为研究对象,进行负荷预测,通过与其他预测方法进行对比,该方法的预测精度较高。 展开更多

关键词 短期电力负荷预测 萤火虫算法 选择性集成学习 气象因子 预测模型

在线阅读 下载PDF 职称材料