针对现有的卷积、循环模型预测滚动轴承剩余使用寿命(Residual Life,RL)精度低的问题,提出一种基于改进自注意力机制的RL预测模型。首先,针对Transformer模型中自注意力机制内存占用高、信号存在噪声信息的问题,在窗口自注意力机制(Wind...针对现有的卷积、循环模型预测滚动轴承剩余使用寿命(Residual Life,RL)精度低的问题,提出一种基于改进自注意力机制的RL预测模型。首先,针对Transformer模型中自注意力机制内存占用高、信号存在噪声信息的问题,在窗口自注意力机制(Window Based Multi-head Self-attention,W-MSA)的基础上,提出概率窗口自注意力机制(Probwindow Based Multi-head Self-attention,PW-MSA);然后,针对多头信息不匹配和缺少局部信息的问题,采用Talking Head方法实现多头信息融合,并在前馈神经网络层加入深度可分离卷积提取局部信息,从而提升模型的预测精度。采用PHM2012轴承数据集将改进前后的自注意力机制模型进行比较,并和现有的先进预测模型对比,结果表明,改进自注意力机制模型可使预测精度提升13.04%。展开更多
针对锂离子电池健康状态(state of health,SOH)预测,提出了一种基于概率化稀疏自注意力机制(probsparseself-attentionmechanism,PSM)和长短期记忆(longshort-term memory,LSTM)神经网络的预测模型。首先,提取锂离子电池容量数据并进行...针对锂离子电池健康状态(state of health,SOH)预测,提出了一种基于概率化稀疏自注意力机制(probsparseself-attentionmechanism,PSM)和长短期记忆(longshort-term memory,LSTM)神经网络的预测模型。首先,提取锂离子电池容量数据并进行窗口化处理,利用位置嵌入获取高维数据之间的特征信息并对数据进行位置编码。然后,引入PSM对输入数据的权重进行稀疏性判断,增加对SOH预测具有关键影响的因素的权重。最后,利用LSTM神经网络捕获数据之间的时序特征进行锂离子电池SOH预测。实验结果表明,与其他常用的锂离子电池SOH预测模型相比,所提模型可以减少预测误差,具有更好的预测性能。展开更多
在室内空间进行准确的行人模式识别/场景感知,特别是与位置关联的识别/感知,对于行人的聚集或追踪具有重要意义.针对传统机器学习方法特征提取困难、分类精度低,非正常性行为造成较大识别误差等问题,提出一种基于注意力机制和双向长短记...在室内空间进行准确的行人模式识别/场景感知,特别是与位置关联的识别/感知,对于行人的聚集或追踪具有重要意义.针对传统机器学习方法特征提取困难、分类精度低,非正常性行为造成较大识别误差等问题,提出一种基于注意力机制和双向长短记忆(bidirectional long short-term memory,Bi-LSTM)网络的室内实时行人模式识别的模型.建立Bi-LSTM网络提取滑动窗口内行人模式时序特征,评估模型网络结构的性能与时效性,优化所提网络的Bi-LSTM层数和隐藏层节点数,并确定最优的网络结构;为了削减噪声数据对模型的影响,提高网络筛选信息特征的能力,引入注意力机制对所提取的时序特征进行权重参数优化.实验结果表明,相比传统机器学习算法,优化参数后的Bi-LSTM网络,行人模式识别准确度平均提高6.37%,进一步引入注意力机制后,识别准确度平均提高9.21%,最终准确度可达99.32%.所提模型可以有效对行人模式/场景感知进行分类,为室内精准定位追踪提供方法支持.展开更多
文摘针对现有的卷积、循环模型预测滚动轴承剩余使用寿命(Residual Life,RL)精度低的问题,提出一种基于改进自注意力机制的RL预测模型。首先,针对Transformer模型中自注意力机制内存占用高、信号存在噪声信息的问题,在窗口自注意力机制(Window Based Multi-head Self-attention,W-MSA)的基础上,提出概率窗口自注意力机制(Probwindow Based Multi-head Self-attention,PW-MSA);然后,针对多头信息不匹配和缺少局部信息的问题,采用Talking Head方法实现多头信息融合,并在前馈神经网络层加入深度可分离卷积提取局部信息,从而提升模型的预测精度。采用PHM2012轴承数据集将改进前后的自注意力机制模型进行比较,并和现有的先进预测模型对比,结果表明,改进自注意力机制模型可使预测精度提升13.04%。
文摘针对锂离子电池健康状态(state of health,SOH)预测,提出了一种基于概率化稀疏自注意力机制(probsparseself-attentionmechanism,PSM)和长短期记忆(longshort-term memory,LSTM)神经网络的预测模型。首先,提取锂离子电池容量数据并进行窗口化处理,利用位置嵌入获取高维数据之间的特征信息并对数据进行位置编码。然后,引入PSM对输入数据的权重进行稀疏性判断,增加对SOH预测具有关键影响的因素的权重。最后,利用LSTM神经网络捕获数据之间的时序特征进行锂离子电池SOH预测。实验结果表明,与其他常用的锂离子电池SOH预测模型相比,所提模型可以减少预测误差,具有更好的预测性能。
文摘在室内空间进行准确的行人模式识别/场景感知,特别是与位置关联的识别/感知,对于行人的聚集或追踪具有重要意义.针对传统机器学习方法特征提取困难、分类精度低,非正常性行为造成较大识别误差等问题,提出一种基于注意力机制和双向长短记忆(bidirectional long short-term memory,Bi-LSTM)网络的室内实时行人模式识别的模型.建立Bi-LSTM网络提取滑动窗口内行人模式时序特征,评估模型网络结构的性能与时效性,优化所提网络的Bi-LSTM层数和隐藏层节点数,并确定最优的网络结构;为了削减噪声数据对模型的影响,提高网络筛选信息特征的能力,引入注意力机制对所提取的时序特征进行权重参数优化.实验结果表明,相比传统机器学习算法,优化参数后的Bi-LSTM网络,行人模式识别准确度平均提高6.37%,进一步引入注意力机制后,识别准确度平均提高9.21%,最终准确度可达99.32%.所提模型可以有效对行人模式/场景感知进行分类,为室内精准定位追踪提供方法支持.
