针对稀疏自动编码器(Sparse auto encoder,SAE)采用sigmoid激活函数容易造成梯度消失的问题,用一种新的Tan函数替代原有的sigmoid函数;针对SAE采用Kullback-Leibler(KL)散度进行稀疏性约束在回归预测方面的局限性,以dropout机制替代KL...针对稀疏自动编码器(Sparse auto encoder,SAE)采用sigmoid激活函数容易造成梯度消失的问题,用一种新的Tan函数替代原有的sigmoid函数;针对SAE采用Kullback-Leibler(KL)散度进行稀疏性约束在回归预测方面的局限性,以dropout机制替代KL散度实现网络的稀疏性.利用改进SAE对滚动轴承振动信号进行无监督深层特征自适应提取,无需人工设计标签进行有监督微调.同时,考虑到滚动轴承剩余使用寿命(Remaining useful life,RUL)预测方法一般仅考虑过去信息而忽略未来信息,引入双向长短时记忆网络(Bi-directional long short-term memory,Bi-LSTM)构建滚动轴承RUL的预测模型.在2个轴承数据集上的实验结果均表明,所提基于改进SAE和Bi-LSTM的滚动轴承RUL预测方法不仅可以提高模型的收敛速度而且具有较低的预测误差.展开更多
针对现有恶意域名检测算法对于家族恶意域名检测精度不高和实时性不强的问题,提出一种基于BiLSTM-DAE的恶意域名检测算法。通过利用双向长短时记忆神经网络(Bi-directional Long Short Term Memory,BiLSTM)提取域名字符组合的上下文序...针对现有恶意域名检测算法对于家族恶意域名检测精度不高和实时性不强的问题,提出一种基于BiLSTM-DAE的恶意域名检测算法。通过利用双向长短时记忆神经网络(Bi-directional Long Short Term Memory,BiLSTM)提取域名字符组合的上下文序列特征,并结合深度自编码网络(Deep Auto-Encoder,DAE)逐层压缩感知提取类内有共性和类间有区分性的强字符构词特征并进行分类。实验结果表明,与当前主流恶意域名检测算法相比,该算法在保持检测开销较小的基础上,具有更高的检测精度。展开更多
随着网络购物的高速发展,网络商家和购物者在网络交易活动中产生了大量的交易数据,其中蕴含着巨大的分析价值。针对社交电商商品文本的文本分类问题,为了更加高效准确地判断文本所描述商品的类别,提出了一种基于BERT模型的社交电商文本...随着网络购物的高速发展,网络商家和购物者在网络交易活动中产生了大量的交易数据,其中蕴含着巨大的分析价值。针对社交电商商品文本的文本分类问题,为了更加高效准确地判断文本所描述商品的类别,提出了一种基于BERT模型的社交电商文本分类算法。首先,该算法采用BERT(Bidirectional Encoder Representations from Transformers)预训练语言模型来完成社交电商文本的句子层面的特征向量表示,随后有针对性地将获得的特征向量输入分类器进行分类,最后采用社交电商文本的数据集进行算法验证。实验结果表明,经过训练的模型在测试集上的分类结果F1值最高可达94.61%,高出BERT模型针对MRPC的分类任务6%。因此,所提社交电商文本分类算法能够较为高效准确地判断文本所描述商品的类别,有助于进一步分析网络交易数据,从海量数据中提取有价值的信息。展开更多
文摘针对稀疏自动编码器(Sparse auto encoder,SAE)采用sigmoid激活函数容易造成梯度消失的问题,用一种新的Tan函数替代原有的sigmoid函数;针对SAE采用Kullback-Leibler(KL)散度进行稀疏性约束在回归预测方面的局限性,以dropout机制替代KL散度实现网络的稀疏性.利用改进SAE对滚动轴承振动信号进行无监督深层特征自适应提取,无需人工设计标签进行有监督微调.同时,考虑到滚动轴承剩余使用寿命(Remaining useful life,RUL)预测方法一般仅考虑过去信息而忽略未来信息,引入双向长短时记忆网络(Bi-directional long short-term memory,Bi-LSTM)构建滚动轴承RUL的预测模型.在2个轴承数据集上的实验结果均表明,所提基于改进SAE和Bi-LSTM的滚动轴承RUL预测方法不仅可以提高模型的收敛速度而且具有较低的预测误差.
文摘针对现有恶意域名检测算法对于家族恶意域名检测精度不高和实时性不强的问题,提出一种基于BiLSTM-DAE的恶意域名检测算法。通过利用双向长短时记忆神经网络(Bi-directional Long Short Term Memory,BiLSTM)提取域名字符组合的上下文序列特征,并结合深度自编码网络(Deep Auto-Encoder,DAE)逐层压缩感知提取类内有共性和类间有区分性的强字符构词特征并进行分类。实验结果表明,与当前主流恶意域名检测算法相比,该算法在保持检测开销较小的基础上,具有更高的检测精度。
文摘随着网络购物的高速发展,网络商家和购物者在网络交易活动中产生了大量的交易数据,其中蕴含着巨大的分析价值。针对社交电商商品文本的文本分类问题,为了更加高效准确地判断文本所描述商品的类别,提出了一种基于BERT模型的社交电商文本分类算法。首先,该算法采用BERT(Bidirectional Encoder Representations from Transformers)预训练语言模型来完成社交电商文本的句子层面的特征向量表示,随后有针对性地将获得的特征向量输入分类器进行分类,最后采用社交电商文本的数据集进行算法验证。实验结果表明,经过训练的模型在测试集上的分类结果F1值最高可达94.61%,高出BERT模型针对MRPC的分类任务6%。因此,所提社交电商文本分类算法能够较为高效准确地判断文本所描述商品的类别,有助于进一步分析网络交易数据,从海量数据中提取有价值的信息。
