现有的多数入侵检测模型通过长短期记忆(long short-term memory,LSTM)网络评估数据之间的时间依赖性。然而,LSTM网络处理序列数据增加了训练模型的计算复杂度和存储成本。为此,提出了基于多头注意力机制和时间卷积网络的无监督入侵检...现有的多数入侵检测模型通过长短期记忆(long short-term memory,LSTM)网络评估数据之间的时间依赖性。然而,LSTM网络处理序列数据增加了训练模型的计算复杂度和存储成本。为此,提出了基于多头注意力机制和时间卷积网络的无监督入侵检测模型(unsupervised intrusion detection model based on multihead attention mechanism or temporal convolutional network,UDMT)。UDMT不依赖于LSTM网络,它利用时间卷积网络和多头注意力机制构建生成对抗网络的生成器和决策器,实现计算的并行化,进而降低复杂度。同时,UDMT不依赖于标签的攻击数据,它具有检测已知攻击和未知攻击的能力。此外,UDMT采用不同的隐藏层模式,配置灵活,以满足不同的检测率和检测时延的要求。相比于两个同类的检测模型,提出的UDMT能获取更高的检测率和更低的检测时延。展开更多
由于电离层电子密度随时间变化,且空间分布不均匀,对不同频段的无线电波产生延缓和折射,因此电离层电子密度变化是影响短波通信、卫星通信、全球导航卫星系统和其他空间通信质量的一个主要因素,本文对全球电离层电子密度(Number of elec...由于电离层电子密度随时间变化,且空间分布不均匀,对不同频段的无线电波产生延缓和折射,因此电离层电子密度变化是影响短波通信、卫星通信、全球导航卫星系统和其他空间通信质量的一个主要因素,本文对全球电离层电子密度(Number of electron,Ne)的预测工作对短波通信设备三维射线实时追踪定位提供必要条件。本文采用国际电离层参考模型提供的2016年电离层Ne数据,根据数据的三维空间时间序列特征,搭建了自编码器和卷积长短期记忆(Convolutional Long Short-Term Memory Network,Conv LSTM)网络组成的网络结构,在不引入地球自转周期之外任何先验知识的条件下,对Ne数据进行深度学习并实现预测,首先通过实验对比了SGD、Adagrad、Adadelta、Adam、Adamax和Nadam六种优化算法的性能,又对比了三种预测策略的均方根误差(Root Mean Square Error, RMSE),1h-to-1h预测策略的全球平均RMSE为1.0 NEU(最大值的0.4%),1h-to-24h和24h-to-24h预测策略的全球平均RMSE为6.3 NEU(2.6%)。由实验结果得出以下结论,一是Nadam优化算法更适合电离层Ne的深度学习,二是1h预测策略的性能与之前类似的电离层TEC预测工作(RMSE高于1.5 TECU,最大值的1%)相比有竞争力,但预测时间太短且对数据的实时性要求较高,三是两种24h预测策略虽能实现长期预测但性能不理想,要实现三维空间时间序列的长期高精度预测需要进一步改善神经网络、模型结构和预测策略。展开更多
目的直接动脉血压(arterial blood pressure,ABP)连续监测是侵入式的,传统袖带式的间接血压测量法无法实现连续监测。既往利用光学体积描记术(photoplethysmography,PPG)实现了连续无创血压监测,但其为收缩压和舒张压的离散值,而非ABP...目的直接动脉血压(arterial blood pressure,ABP)连续监测是侵入式的,传统袖带式的间接血压测量法无法实现连续监测。既往利用光学体积描记术(photoplethysmography,PPG)实现了连续无创血压监测,但其为收缩压和舒张压的离散值,而非ABP波的连续值,本研究期望基于卷积神经网络-长短期记忆神经网络(CNN-LSTM)利用PPG信号波重建ABP波信号,实现连续无创血压监测。方法构建CNN-LSTM混合神经网络模型,利用重症监护医学信息集(medical information mart for intensive care,MIMIC)中的PPG与ABP波同步记录信号数据,将PPG信号波经预处理降噪、归一化、滑窗分割后输入该模型,重建与之同步对应的ABP波信号。结果使用窗口长度312的CNN-LSTM神经网络时,重建ABP值与实际ABP值间误差最小,平均绝对误差(mean absolute error,MAE)和均方根误差(root mean square error,RMSE)分别为2.79 mmHg和4.24 mmHg,余弦相似度最大,重建ABP值与实际ABP值一致性和相关性情况良好,符合美国医疗器械促进协会(Association for the Advancement of Medical Instrumentation,AAMI)标准。结论CNN-LSTM混合神经网络可利用PPG信号波重建ABP波信号,实现连续无创血压监测。展开更多
文摘准确预测台区的电力负荷,能够促使电力企业合理安排调度计划,保障台区电力安全和经济稳定运行。为了充分挖掘电力负荷数据的特征,提高预测的精度,提出一种基于自适应辛几何模态分解(adaptive symplectic geometry mode decomposition,ASGMD)、多元线性回归(multiple linear regression,MLR)和卷积长短时记忆(convolutional long short-term memory,CLSTM)网络的电力负荷预测方法。首先,应用ASGMD将台区负荷数据分解为弱相关和强相关两种分量;然后,利用MLR和CLSTM分别对上述两种分量分别进行预测;最后,组合各模型结果,得到最终负荷预测值。实例分析结果表明,所提模型较其他模型具有更高的预测准确度。
文摘现有的多数入侵检测模型通过长短期记忆(long short-term memory,LSTM)网络评估数据之间的时间依赖性。然而,LSTM网络处理序列数据增加了训练模型的计算复杂度和存储成本。为此,提出了基于多头注意力机制和时间卷积网络的无监督入侵检测模型(unsupervised intrusion detection model based on multihead attention mechanism or temporal convolutional network,UDMT)。UDMT不依赖于LSTM网络,它利用时间卷积网络和多头注意力机制构建生成对抗网络的生成器和决策器,实现计算的并行化,进而降低复杂度。同时,UDMT不依赖于标签的攻击数据,它具有检测已知攻击和未知攻击的能力。此外,UDMT采用不同的隐藏层模式,配置灵活,以满足不同的检测率和检测时延的要求。相比于两个同类的检测模型,提出的UDMT能获取更高的检测率和更低的检测时延。
文摘由于电离层电子密度随时间变化,且空间分布不均匀,对不同频段的无线电波产生延缓和折射,因此电离层电子密度变化是影响短波通信、卫星通信、全球导航卫星系统和其他空间通信质量的一个主要因素,本文对全球电离层电子密度(Number of electron,Ne)的预测工作对短波通信设备三维射线实时追踪定位提供必要条件。本文采用国际电离层参考模型提供的2016年电离层Ne数据,根据数据的三维空间时间序列特征,搭建了自编码器和卷积长短期记忆(Convolutional Long Short-Term Memory Network,Conv LSTM)网络组成的网络结构,在不引入地球自转周期之外任何先验知识的条件下,对Ne数据进行深度学习并实现预测,首先通过实验对比了SGD、Adagrad、Adadelta、Adam、Adamax和Nadam六种优化算法的性能,又对比了三种预测策略的均方根误差(Root Mean Square Error, RMSE),1h-to-1h预测策略的全球平均RMSE为1.0 NEU(最大值的0.4%),1h-to-24h和24h-to-24h预测策略的全球平均RMSE为6.3 NEU(2.6%)。由实验结果得出以下结论,一是Nadam优化算法更适合电离层Ne的深度学习,二是1h预测策略的性能与之前类似的电离层TEC预测工作(RMSE高于1.5 TECU,最大值的1%)相比有竞争力,但预测时间太短且对数据的实时性要求较高,三是两种24h预测策略虽能实现长期预测但性能不理想,要实现三维空间时间序列的长期高精度预测需要进一步改善神经网络、模型结构和预测策略。
文摘目的直接动脉血压(arterial blood pressure,ABP)连续监测是侵入式的,传统袖带式的间接血压测量法无法实现连续监测。既往利用光学体积描记术(photoplethysmography,PPG)实现了连续无创血压监测,但其为收缩压和舒张压的离散值,而非ABP波的连续值,本研究期望基于卷积神经网络-长短期记忆神经网络(CNN-LSTM)利用PPG信号波重建ABP波信号,实现连续无创血压监测。方法构建CNN-LSTM混合神经网络模型,利用重症监护医学信息集(medical information mart for intensive care,MIMIC)中的PPG与ABP波同步记录信号数据,将PPG信号波经预处理降噪、归一化、滑窗分割后输入该模型,重建与之同步对应的ABP波信号。结果使用窗口长度312的CNN-LSTM神经网络时,重建ABP值与实际ABP值间误差最小,平均绝对误差(mean absolute error,MAE)和均方根误差(root mean square error,RMSE)分别为2.79 mmHg和4.24 mmHg,余弦相似度最大,重建ABP值与实际ABP值一致性和相关性情况良好,符合美国医疗器械促进协会(Association for the Advancement of Medical Instrumentation,AAMI)标准。结论CNN-LSTM混合神经网络可利用PPG信号波重建ABP波信号,实现连续无创血压监测。
