当前推特等国外社交平台,已成为从事网络黑灰产犯罪不可或缺的工具,对推特上黑灰产账号进行发现、检测和分类对于打击网络犯罪、维护社会稳定具有重大意义。现有的推文分类模型双向长短时记忆网络(bi-directional long short-term memor...当前推特等国外社交平台,已成为从事网络黑灰产犯罪不可或缺的工具,对推特上黑灰产账号进行发现、检测和分类对于打击网络犯罪、维护社会稳定具有重大意义。现有的推文分类模型双向长短时记忆网络(bi-directional long short-term memory,BiLSTM)可以学习推文的上下文信息,却无法学习局部关键信息,卷积神经网络(convolution neural network,CNN)模型可以学习推文的局部关键信息,却无法学习推文的上下文信息。结合BiLSTM与CNN两种模型的优势,提出了BiLSTM-CNN推文分类模型,该模型将推文进行向量化后,输入BiLSTM模型学习推文的上下文信息,再在BiLSTM模型后引入CNN层,进行局部特征的提取,最后使用全连接层将经过池化的特征连接在一起,并应用softmax函数进行四分类。模型在自主构建的中文推特黑灰产推文数据集上进行实验,并使用TextCNN、TextRNN、TextRCNN三种分类模型作为对比实验,实验结果显示,所提的BiLSTM-CNN推文分类模型在对四类推文进行分类的宏准确率为98.32%,明显高于TextCNN、TextRNN和TextRCNN三种模型的准确率。展开更多
滚动轴承作为机械设备的重要部件,对其进行剩余使用寿命预测在企业的生产过程中变得越来越重要。目前,虽然主流的卷积神经网络(convolutional neural network, CNN)可以自动地从轴承的振动信号中提取特征,却不能给特征分配不同的权重来...滚动轴承作为机械设备的重要部件,对其进行剩余使用寿命预测在企业的生产过程中变得越来越重要。目前,虽然主流的卷积神经网络(convolutional neural network, CNN)可以自动地从轴承的振动信号中提取特征,却不能给特征分配不同的权重来提高模型对重要特征的关注程度,对于长时间序列容易丢失重要信息。另外,神经网络中隐藏层神经元个数、学习率以及正则化参数等超参数还需要依靠人工经验设置。为了解决上述问题,提出基于灰狼优化(grey wolf optimizer, GWO)算法、优化集合CNN、双向长短期记忆(bidirectional long short term memory, BiLSTM)网络和注意力机制(Attention)轴承剩余使用寿命预测方法。首先,从原始振动信号中提取时域、频域以及时频域特征指标构建可选特征集;然后,通过构建考虑特征相关性、鲁棒性和单调性的综合评价指标筛选出高于设定阈值的轴承退化敏感特征集,作为预测模型的输入;最后,将预测值和真实值的均方误差作为GWO算法的适应度函数,优化预测模型获得最优隐藏层神经元个数、学习率和正则化参数,利用优化后模型进行剩余使用寿命预测,并在公开数据集上进行验证。结果表明,所提方法可在非经验指导下获得最优的超参数组合,优化后的预测模型与未进行优化模型相比,平均绝对误差与均方根误差分别降低了28.8%和24.3%。展开更多
科学有效地预测水质对于水环境的可持续发展和人类健康具有重要意义,为此以固原市某黄河断面的水质监测数据为研究对象,提出了基于指标客观性的权重赋权(Criteria Importance Though Intercriteria Correlation,CRITIC)法和改进的秃鹰搜...科学有效地预测水质对于水环境的可持续发展和人类健康具有重要意义,为此以固原市某黄河断面的水质监测数据为研究对象,提出了基于指标客观性的权重赋权(Criteria Importance Though Intercriteria Correlation,CRITIC)法和改进的秃鹰搜索(Improved Bald Eagle Search,IBES)算法优化双向长短时记忆网络(Bidirectional Long Short-Term Memory Network,BiLSTM)的组合水质等级预测模型。首先,采用CRITIC法确定各水质指标的权重,加权求和获得一项综合水质指标,从而提出一种改进的水质评价指标体系,以为BiLSTM提供更丰富、更可靠的水质特征信息。其次,在训练过程中引入Logistic映射和莱维飞行策略,并设计交叉共享及准反向搜索策略优化秃鹰搜索(Bald Eagle Search,BES)算法,以提升其种群多样性,增强寻优能力。最后,通过IBES算法迭代寻找BiLSTM的最佳学习率、隐藏层节点数以及正则化系数的超参数组合,进一步提高其预测水平。结果显示:与IBES-BiLSTM、BES-BiLSTM、GA-BiLSTM、PSO-BiLSTM和BiLSTM等模型相比,CRITIC-IBES-BiLSTM模型进行水质等级预测的准确率、精准率、召回率及F_(1)均最高,且具有更好的稳定性。展开更多
安全是民航业的核心主题。针对目前民航非计划事件分析严重依赖专家经验及分析效率低下的问题,文章提出一种结合Word2vec和双向长短期记忆(bidirectional long short-term memory,BiLSTM)神经网络模型的民航非计划事件分析方法。首先采...安全是民航业的核心主题。针对目前民航非计划事件分析严重依赖专家经验及分析效率低下的问题,文章提出一种结合Word2vec和双向长短期记忆(bidirectional long short-term memory,BiLSTM)神经网络模型的民航非计划事件分析方法。首先采用Word2vec模型针对事件文本语料进行词向量训练,缩小空间向量维度;然后通过BiLSTM模型自动提取特征,获取事件文本的完整序列信息和上下文特征向量;最后采用softmax函数对民航非计划事件进行分类。实验结果表明,所提出的方法分类效果更好,能达到更优的准确率和F 1值,对不平衡数据样本同样具有较稳定的分类性能,证明了该方法在民航非计划事件分析上的适用性和有效性。展开更多
文摘滚动轴承作为机械设备的重要部件,对其进行剩余使用寿命预测在企业的生产过程中变得越来越重要。目前,虽然主流的卷积神经网络(convolutional neural network, CNN)可以自动地从轴承的振动信号中提取特征,却不能给特征分配不同的权重来提高模型对重要特征的关注程度,对于长时间序列容易丢失重要信息。另外,神经网络中隐藏层神经元个数、学习率以及正则化参数等超参数还需要依靠人工经验设置。为了解决上述问题,提出基于灰狼优化(grey wolf optimizer, GWO)算法、优化集合CNN、双向长短期记忆(bidirectional long short term memory, BiLSTM)网络和注意力机制(Attention)轴承剩余使用寿命预测方法。首先,从原始振动信号中提取时域、频域以及时频域特征指标构建可选特征集;然后,通过构建考虑特征相关性、鲁棒性和单调性的综合评价指标筛选出高于设定阈值的轴承退化敏感特征集,作为预测模型的输入;最后,将预测值和真实值的均方误差作为GWO算法的适应度函数,优化预测模型获得最优隐藏层神经元个数、学习率和正则化参数,利用优化后模型进行剩余使用寿命预测,并在公开数据集上进行验证。结果表明,所提方法可在非经验指导下获得最优的超参数组合,优化后的预测模型与未进行优化模型相比,平均绝对误差与均方根误差分别降低了28.8%和24.3%。
文摘科学有效地预测水质对于水环境的可持续发展和人类健康具有重要意义,为此以固原市某黄河断面的水质监测数据为研究对象,提出了基于指标客观性的权重赋权(Criteria Importance Though Intercriteria Correlation,CRITIC)法和改进的秃鹰搜索(Improved Bald Eagle Search,IBES)算法优化双向长短时记忆网络(Bidirectional Long Short-Term Memory Network,BiLSTM)的组合水质等级预测模型。首先,采用CRITIC法确定各水质指标的权重,加权求和获得一项综合水质指标,从而提出一种改进的水质评价指标体系,以为BiLSTM提供更丰富、更可靠的水质特征信息。其次,在训练过程中引入Logistic映射和莱维飞行策略,并设计交叉共享及准反向搜索策略优化秃鹰搜索(Bald Eagle Search,BES)算法,以提升其种群多样性,增强寻优能力。最后,通过IBES算法迭代寻找BiLSTM的最佳学习率、隐藏层节点数以及正则化系数的超参数组合,进一步提高其预测水平。结果显示:与IBES-BiLSTM、BES-BiLSTM、GA-BiLSTM、PSO-BiLSTM和BiLSTM等模型相比,CRITIC-IBES-BiLSTM模型进行水质等级预测的准确率、精准率、召回率及F_(1)均最高,且具有更好的稳定性。
文摘安全是民航业的核心主题。针对目前民航非计划事件分析严重依赖专家经验及分析效率低下的问题,文章提出一种结合Word2vec和双向长短期记忆(bidirectional long short-term memory,BiLSTM)神经网络模型的民航非计划事件分析方法。首先采用Word2vec模型针对事件文本语料进行词向量训练,缩小空间向量维度;然后通过BiLSTM模型自动提取特征,获取事件文本的完整序列信息和上下文特征向量;最后采用softmax函数对民航非计划事件进行分类。实验结果表明,所提出的方法分类效果更好,能达到更优的准确率和F 1值,对不平衡数据样本同样具有较稳定的分类性能,证明了该方法在民航非计划事件分析上的适用性和有效性。
