基于时空注意机制与LSTM的暂态电压稳定评估

1

作者 刘颂凯 崔梓琪 +3 位作者 杨超 阮肇华 张磊 袁铭洋 《电力系统及其自动化学报》 CSCD 北大核心 2024年第6期82-91,共10页

针对新型电力系统发展背景下现阶段机器学习算法难以准确判断风电并网系统暂态电压稳定性的问题,提出一种基于时空注意机制与长短期记忆网络的暂态电压稳定评估方法。首先,基于支持向量机对初始单特征评价进行特征粗筛,并采用皮尔逊相... 针对新型电力系统发展背景下现阶段机器学习算法难以准确判断风电并网系统暂态电压稳定性的问题,提出一种基于时空注意机制与长短期记忆网络的暂态电压稳定评估方法。首先,基于支持向量机对初始单特征评价进行特征粗筛,并采用皮尔逊相关系数法判断剩余特征的相似度;其次,通过主成分分析-加权负荷评价获取与暂态电压稳定情况相关性较高的特征集;然后,通过时空注意机制,量化系统负载节点间的空间耦合关系和风电接入点间的空间相关性对整个系统暂态进程的影响,构建基于时空注意机制与长短期记忆网络的评估模型;最后,在算例上进行仿真分析,结果表明该模型有利于风电并网系统暂态电压稳定性判别准确率的提升,以及减少误判和漏判。 展开更多

关键词 风电并网系统 特征集 时空注意机制 长短期记忆网络 暂态电压稳定

在线阅读 下载PDF 职称材料

融合时空注意力机制的多尺度卷积车辆轨迹预测

2

作者 闫建红 刘芝妍 王震 《计算机工程》 北大核心 2025年第8期406-414,共9页

车辆轨迹预测是自动驾驶的重要环节,提升车辆轨迹预测的可靠性和准确性对自动驾驶安全性有很大帮助。道路上车辆行驶受交通环境影响,考虑相邻车辆运动和相对空间位置等交通环境因素,在长短期记忆(LSTM)神经网络编码器-解码器模型基础上... 车辆轨迹预测是自动驾驶的重要环节,提升车辆轨迹预测的可靠性和准确性对自动驾驶安全性有很大帮助。道路上车辆行驶受交通环境影响,考虑相邻车辆运动和相对空间位置等交通环境因素,在长短期记忆(LSTM)神经网络编码器-解码器模型基础上引入时空注意力机制,通过时间注意力层关注目标车辆和相邻车辆的历史轨迹,空间注意力层关注车辆的相对空间位置。为了增强特征提取程度和实现更全面的特征融合,使用多尺度卷积社交池增大感受野,融合多尺度特征,并提出基于LSTM编码器-解码器架构融合多尺度卷积社交池和时空注意力机制的车辆轨迹预测模型MCS-STA-LSTM。通过学习车辆运动相互依赖关系,以达到获得目标车辆未来轨迹基于机动类别的多模态预测分布的目的。在公开数据集NGSIM上进行训练、验证和测试,实验结果表明,相较于其他轨迹预测模型,该方法在3 s内的均方根误差平均降低了9.35%,5 s内均方根误差平均降低了5.53%,提高了轨迹预测准确性,在中短期预测上更具有优势。 展开更多

关键词 多尺度卷积社交池化 轨迹预测 长短期记忆神经网络 时空注意力机制 多尺度特征融合

在线阅读 下载PDF 职称材料

基于Swin-Transformer和时空融合注意力机制的ENSO预测

3

作者 张霄智 方巍 王淏西 《海洋学报》 CSCD 北大核心 2024年第12期111-121,共11页

厄尔尼诺-南方涛动预测是气候变化研究的热点问题之一。本文将Swin-Transformer模型与时空融合注意力机制相结合,采用1850-2014年CMIP6多模式模拟历史数据、1871-1979年SODA同化数据和1980-2023年GODAS同化数据,构建厄尔尼诺-南方涛动... 厄尔尼诺-南方涛动预测是气候变化研究的热点问题之一。本文将Swin-Transformer模型与时空融合注意力机制相结合,采用1850-2014年CMIP6多模式模拟历史数据、1871-1979年SODA同化数据和1980-2023年GODAS同化数据,构建厄尔尼诺-南方涛动预测模型,即ENSO-STformer。该模型通过在CMIP6和SODA数据集上进行充分的训练,并在GODAS数据上进行评估,结果表明:本文模型在提前11个月的Ni?o3.4指数相关技巧的平均值上分别比CanCM4、CCSM3、GFDLaer04动力预报系统高出5.1%、21.6%和12.4%,同时,在中长期的Ni?o3.4指数相关技巧上显著优于其他深度学习模型,并可以进行长达24个月的有效ENSO预测,此外,在对2015-2016年厄尔尼诺事件模拟中表现出较强的应对春季预报障碍能力。 展开更多

关键词 深度学习 ENSO预测 时空融合注意力机制 卷积神经网络 Ni?o3.4指数

在线阅读 下载PDF 职称材料

融合距离阈值和双向TCN的时空注意力行人轨迹预测模型 被引量：1

4

作者 王红霞 聂振凯 钟强 《计算机应用研究》 CSCD 北大核心 2024年第11期3303-3310,共8页

为解决因缺乏部分行人建模思想、缺少时间维度的全局视野和忽略行人交互模式多样性,而导致交互建模不充分、低预测精度等问题,提出基于Social-STGCNN(social spatio-temporal graph convolutional neural network)的改进模型STG-DTBTA(s... 为解决因缺乏部分行人建模思想、缺少时间维度的全局视野和忽略行人交互模式多样性,而导致交互建模不充分、低预测精度等问题,提出基于Social-STGCNN(social spatio-temporal graph convolutional neural network)的改进模型STG-DTBTA(spatio-temporal graph distance threshold Bi-TCN attention)。首先,构建PPM(partial pedestrian module)模块,对不满足距离阈值等约束条件的行人交互连接剪枝以去噪。其次,引入时空注意力机制,空间注意力动态分配交互权重,并设置多个注意力头以处理交互多样性问题;时间注意力捕捉时序数据的时间依赖关系。最后,采用双向TCN增加全局视野以捕捉轨迹数据中的动态模式和趋势,并采用门控机制融合双向特征。在ETH和UCY数据集上的实验结果表明,与Social-STGCNN相比,STG-DTBTA在维持参数量与推理时间接近的情况下,ADE平均降低8%,FDE平均降低16%。STG-DTBTA具有良好的交互建模能力、模型性能和预测效果。 展开更多

关键词 行人轨迹预测 部分行人建模 距离阈值 时空注意力机制 双向TCN 门控机制

在线阅读 下载PDF 职称材料

基于时空注意力-Seq2Seq网络的ISAR包络对齐方法 被引量：1

5

作者 李文哲 李开明 +3 位作者 岳屹峰 王金昊 许慧革 罗迎 《信号处理》 CSCD 北大核心 2024年第9期1659-1673,共15页

包络对齐是逆合成孔径雷达(Inverse Synthetic Aperture Radar,ISAR)成像中平动补偿处理的第一步,包络对齐的精度对于方位聚焦和成像质量具有重要影响。针对稀疏孔径和低信噪比条件下传统的包络对齐算法性能显著降低的问题,本文提出一... 包络对齐是逆合成孔径雷达(Inverse Synthetic Aperture Radar,ISAR)成像中平动补偿处理的第一步,包络对齐的精度对于方位聚焦和成像质量具有重要影响。针对稀疏孔径和低信噪比条件下传统的包络对齐算法性能显著降低的问题,本文提出一种基于时空注意力-Seq2Seq网络的包络对齐方法。该网络模型以门控循环单元为编码解码单元,针对点目标距离像包络的能量分布特征对空间注意力机制进行改进后,添加时间和空间两维注意力机制形成对ISAR距离像回波包络进行对齐的能力。数据生成方面,基于电磁波仿真参数和目标运动仿真参数进行成像模拟仿真构造了ISAR回波数据集,经过8倍插值后输入网络进行训练,使网络学习到从未对齐回波到对齐回波的映射关系。所提方法以离线训练代替在线相关计算,融合了Seq2Seq模型在处理序列到序列问题上的结构优势、时间注意力机制在捕捉长期依赖关系和空间注意力机制在提取区域特征上的突出能力,实现了稀疏孔径和低信噪比条件下对距离-慢时间域ISAR回波的自动对齐。通过向训练好的时空注意力-Seq2Seq网络输入未对齐的回波序列,网络可以在不改变回波相位结构的前提下自动实现包络对齐。仿真和实测数据对齐结果表明,和传统的包络对齐方法相比,所提方法在稀疏孔径和低信噪比条件下优势明显,在欠采样率为50%、信噪比为0 dB条件下对雅克-42飞机实测回波数据的包络对齐实验中,该方法将循环移位误差由39、26减小至6,将成像结果的图像熵由4.58、4.22减小至1.71,验证了其良好性能。 展开更多

关键词 逆合成孔径雷达成像 包络对齐 时空注意力机制 Seq2Seq模型

在线阅读 下载PDF 职称材料

基于并行架构和时空注意力机制的心电分类方法 被引量：3

6

作者 彭向东 潘从成 +2 位作者 柯泽浚 朱华强 周肖 《浙江大学学报（工学版）》 EI CAS CSCD 北大核心 2022年第10期1912-1923,共12页

为了有效提取心电信号(ECG)的时空特征和提高分类准确性,提出基于深度学习的并行架构心电分类模型.该模型采用基于GCA Block和GTSA Block模块实现多路特征融合的时空注意力机制.使用双向长短时记忆网络和卷积神经网络作为基特征提取器,... 为了有效提取心电信号(ECG)的时空特征和提高分类准确性,提出基于深度学习的并行架构心电分类模型.该模型采用基于GCA Block和GTSA Block模块实现多路特征融合的时空注意力机制.使用双向长短时记忆网络和卷积神经网络作为基特征提取器,分别捕捉心电信号序列数据的前后依赖关系和不同尺度上的局部相关特征,实现对5种不同类型的心电信号的自动分类.在MIT-BIH数据集上验证的结果表明,该方法对5种不同心电信号的总体分类准确率、特异性、敏感度、精确度和Macro-F1分别为99.50%、99.61%、96.20%、98.02%和97.08%.相较于其他心电分类模型,该模型不仅能够有效地缩短网络模型深度,防止模型过拟合,而且能够更准确地提取心电信号的时空特征,获得更好的分类性能. 展开更多

关键词 心电分类 数据不平衡 深度学习 并行架构 时空注意力机制

在线阅读 下载PDF 职称材料

结合自注意力与CNN的社区行人行为检测算法

7

作者 吴春龙 张荣芬 +1 位作者 刘宇红 欧阳玉旋 《计算机工程与应用》 北大核心 2025年第12期196-209,共14页

行人行为检测算法能够有效解决传统社区安全管理主要依赖人力巡逻或事后查看监控录像导致人力物力消耗大、对紧急事件反应延缓的问题。现有行为检测模型在实际部署时主要面临两方面的挑战:一是高精度行为检测模型计算量和参数量大导致... 行人行为检测算法能够有效解决传统社区安全管理主要依赖人力巡逻或事后查看监控录像导致人力物力消耗大、对紧急事件反应延缓的问题。现有行为检测模型在实际部署时主要面临两方面的挑战:一是高精度行为检测模型计算量和参数量大导致部署困难;二是低复杂度行为检测模型虽然计算量和参数量小易于部署,但精度低难以满足实际应用。面向智慧数字社区管理,使用2D卷积神经网络(2D-CNN)的视频行为检测算法TSM(temporal shift module)作为核心算法并进行优化改进,旨在提升行为检测模型精度的同时降低计算量和参数量使其易于实际应用部署。利用混合自注意力模块ACmix和GhostConv设计全新的DACGhostBottleneck1替换TSM骨干网络中大部分的Bottleneck1,降低模型计算量和参数量的同时提升模型处理长序列和理解全局信息的能力;使用GhostConv代替在TSM骨干网络中部分Bottleneck1和所有Bottleneck2中的Conv,大量减少模型参数量与计算量;提出一种融合了时间、运动状态、通道信息的TAACTION注意力模块,有效提升模型的时空建模能力;结合SCConv和Conv设计出CSCConvBlock替换TSM骨干网络阶段0的Conv,在基本不增加模型计算量的同时提升检测精度;最后应用数据增强Video Mix-up,提高模型的分类性能、泛化能力和鲁棒性。改进后的算法在实验数据集上Top1、Accuracy分别提升了5.81、6.05个百分点,参数量及计算量相比TSM原模型分别降低了48.17%、51.98%。总的来看,改进后的算法在有效减少模型参数量与计算量的同时提高了检测精度,明显优于原算法且其模型更易于实际应用部署,具有切实的应用价值。 展开更多

关键词 自注意力机制 时空注意力机制 行为检测 残差网络 智慧数字社区

在线阅读 下载PDF 职称材料

多重注意机制及权重校正LSTM的PVC含水率预测 被引量：1

8

作者 张帅杰 郭小萍 +1 位作者 臧春华 苏宝玉 《电子测量技术》 北大核心 2023年第5期83-90,共8页

针对PVC干燥工段中,PVC含水率存在非线性、大滞后、与其他变量关联性复杂难以预测的问题,提出一种多重注意机制及权重校正型长短期记忆网络(LSTM)模型用于PVC含水率的预测。在编码器部分,利用与含水率相关的输入序列之间的相关性对空间... 针对PVC干燥工段中,PVC含水率存在非线性、大滞后、与其他变量关联性复杂难以预测的问题,提出一种多重注意机制及权重校正型长短期记忆网络(LSTM)模型用于PVC含水率的预测。在编码器部分,利用与含水率相关的输入序列之间的相关性对空间注意机制训练的可变权重进行校正,避免由于单纯数据训练导致相关性强的输入变量之间权重差异较大,进而实际干燥工艺不符;同时,由于含水率预测的滞后特性,为减弱长子时间窗口内LSTM单元细胞状态信息丢失,提出信息补偿机制补偿之前时刻细胞状态信息。在解码器部分,利用时间注意机制对编码器的隐藏层状态进行权重更新,解除固定长度向量对模型性能的限制。最后,选取某化工公司干燥工段DCS数据进行验证,相对于RNN、VA-LSTM、STA-LSTM相关系数(R2)分别提高了571%、122.6%、82.6%,结果表明本文模型具有一定优越性。 展开更多

关键词 PVC含水率 时空注意机制 权重校正 信息补偿机制 LSTM

在线阅读 下载PDF 职称材料

基于时空融合的多头注意力车辆轨迹预测 被引量：7

9

作者 宋秀兰 董兆航 +1 位作者 单杭冠 陆炜杰 《浙江大学学报（工学版）》 EI CAS CSCD 北大核心 2023年第8期1636-1643,共8页

针对时空维度特征影响自动驾驶车辆轨迹精度的问题,提出基于时空融合的多头注意力(TSMHA)车辆轨迹预测模型,对于空间与时间2个维度的特征信息,分别使用多头注意力机制提取车辆空间交互感知与时间运动模式.为了获得互补特征,并除去特征... 针对时空维度特征影响自动驾驶车辆轨迹精度的问题,提出基于时空融合的多头注意力(TSMHA)车辆轨迹预测模型,对于空间与时间2个维度的特征信息,分别使用多头注意力机制提取车辆空间交互感知与时间运动模式.为了获得互补特征,并除去特征数据中的冗余,将处理后的时空特征信息传输至门控特征融合模型进行特征融合.使用基于长短期记忆(LSTM)的编解码器结构,考虑编码与解码2个过程中轨迹之间潜在的相互作用,循环生成目标车辆未来预测轨迹.在训练过程中使用L2损失函数,以此降低预测轨迹与真实轨迹的差值.实验表明,与对比算法模型相比,在直线高速公路、城市十字路口、环岛场景下,本研究所提出的模型的精度分别提高了3.95%、15.64%、31.40%. 展开更多

关键词 车辆智能决策 轨迹预测 时空融合注意力机制 多目标车辆 神经网络

在线阅读 下载PDF 职称材料

基于时空自适应图卷积循环网络的风电功率预测 被引量：1

10

作者 任润虎 戴天乐 郭巨新 《电力系统及其自动化学报》 CSCD 北大核心 2024年第12期93-100,共8页

针对传统图卷积模型仅考虑静态或动态邻接矩阵的单一生成方式,以及建模风电场机组之间的时空相关性上具有较强的局限性,提出一种融合静态邻接矩阵和动态邻接矩阵的时空自适应模型。首先,根据风电场节点间的空间距离及差分相似性特征,预... 针对传统图卷积模型仅考虑静态或动态邻接矩阵的单一生成方式,以及建模风电场机组之间的时空相关性上具有较强的局限性,提出一种融合静态邻接矩阵和动态邻接矩阵的时空自适应模型。首先,根据风电场节点间的空间距离及差分相似性特征,预定义静态邻接矩阵;其次,使用时空自注意力机制提取数据的高维特征,同时生成时空嵌入矩阵,用于引导动态邻接矩阵生成;最后,整合门控循环单元和图神经网络,融合预定义的静态邻接矩阵和实时生成的动态邻接矩阵,使用时空自适应图卷积循环模块进行风电功率预测。算例结果表明,所提模型有助于提高风电功率预测的预测精度。 展开更多

关键词 风电功率预测 时空自注意力机制 图卷积模型 门控循环单元

在线阅读 下载PDF 职称材料

联合TCN和时空多头注意机制的车辆轨迹预测模型

11

作者 宋绍剑 徐佳敏 +1 位作者 李刚 李国进 《计算机工程与应用》 2025年第12期352-358,共7页

车辆轨迹预测为自动驾驶系统提供决策和规划的基础数据,它是自动驾驶过程的一个重要环节。然而,车辆轨迹预测过程存在复杂的空间交互性和时间相关性,给轨迹预测带来了巨大挑战。因此,提出了一种基于时空多头注意机制和时间卷积网络(temp... 车辆轨迹预测为自动驾驶系统提供决策和规划的基础数据,它是自动驾驶过程的一个重要环节。然而,车辆轨迹预测过程存在复杂的空间交互性和时间相关性,给轨迹预测带来了巨大挑战。因此,提出了一种基于时空多头注意机制和时间卷积网络(temporal convolutional network,TCN)的车辆轨迹预测模型。将门控机制和TCN结合,经过多头注意机制后进行堆叠以提取不同层次的时间特征,并分配相应的权重。将相邻车辆的历史轨迹以栅格图的形式进行卷积操作和coordinate attention(CA)操作以提取空间交互特征。预测未来不同机动意图的概率,并将其和提取到的时空特征输入到基于长短期记忆网络(long short-term memory network,LSTM)的解码器中获得未来轨迹。所提模型在下一代仿真(next generation simulation,NGSIM)数据集进行了实验评估。与4种相似模型相比,提出的模型预测误差最高降低了17.8%。 展开更多

关键词 车辆轨迹预测 自动驾驶 时空多头注意机制 时空特征

在线阅读 下载PDF 职称材料

基于时空自适应图卷积神经网络的脑电信号情绪识别 被引量：15

12

作者 高越 傅湘玲 +2 位作者 欧阳天雄 陈松龄 闫晨巍 《计算机科学》 CSCD 北大核心 2022年第4期30-36,共7页

随着人机交互在计算机辅助领域的快速发展,脑电信号已成为情绪识别的主要手段。与此同时,图网络因其对拓扑结构数据的优秀表征能力,逐渐受到研究者们的广泛关注。为进一步提升图网络对多通道脑电信号的表征性能,文中结合脑电信号的稀疏... 随着人机交互在计算机辅助领域的快速发展,脑电信号已成为情绪识别的主要手段。与此同时,图网络因其对拓扑结构数据的优秀表征能力,逐渐受到研究者们的广泛关注。为进一步提升图网络对多通道脑电信号的表征性能,文中结合脑电信号的稀疏性、不频繁性等多种特性,提出了一种基于时空自适应图卷积神经网络的脑电情绪识别方法(Self-Adaptive Brain Graph Convolutional Network with Spatiotemporal Attention,SABGCN-ST)。该方法通过引入时空注意力机制解决了情绪的稀疏性问题,并根据自适应学习的脑网络拓扑邻接矩阵,挖掘不同位置的电极通道之间的功能连接关系。最终模型基于图卷积操作进行图结构的特征学习,以实现对脑电信号的情绪预测。在DEAP和SEED两个脑电信号公开数据集上开展了大量实验,实验结果证明,SABGCN-ST相比基线模型在准确率上具有显著的优势,平均情绪识别准确率达到84.91%。 展开更多

关键词 脑电信号 情绪识别 图卷积神经网络 时空注意力机制 自适应邻接矩阵 深度学习

在线阅读 下载PDF 职称材料

基于EEG和面部视频的多模态连续情感识别 被引量：2

13

作者 雪雯 陈景霞 +1 位作者 胡凯蕾 刘洋 《陕西科技大学学报》 北大核心 2024年第1期169-176,共8页

针对脑电(Electroencephalogram, EEG)通道间和时间上情绪强度的改变很难被捕捉,以及不同被试的面部特征情绪上的相似性难以挖掘的问题,文章提出了一种基于EEG和面部视频的多模态连续情感识别模型.采用基于时空注意力机制(Spatial-Tempo... 针对脑电(Electroencephalogram, EEG)通道间和时间上情绪强度的改变很难被捕捉,以及不同被试的面部特征情绪上的相似性难以挖掘的问题,文章提出了一种基于EEG和面部视频的多模态连续情感识别模型.采用基于时空注意力机制(Spatial-Temporal Attention)的卷积和双向长短期记忆神经网络的组合模型(STA-CNNBiLSTM)对EEG中提取的功率谱密度(Power Spectral Density, PSD)特征进行深层特征学习与情感分类;采用引入自注意力机制的预训练卷积神经网络(SA-CNN)对人脸面部几何特征进行学习与情感分类.采用决策级融合算法,对两个模态的分类结果进行迭代学习与融合,得到最终多模态情感分类结果.在公开数据集MAHNOB-HCI进行了大量对比验证实验,在FER2013数据集的面部几何特征上对SA-CNN模型进行了预训练.在独立被试的实验中,所提模型在效价维度二分类的平均准确率为75.50%,在唤醒维度二分类的平均准确率为79.00%,均优于单模态上的最高平均准确率.和目前流行的模型LSSVM、SE-CNN和AM-LSTM相比较,所提模型的分类效果更优,验证了所提时空注意力机制能够捕捉更多的EEG时空特征,自注意力机制能够关注到不同被试面部特征的相似性,进而提高了多模态情感识别的性能. 展开更多

关键词 EEG 多模态情感识别 卷积双向长短期记忆组合模型 时空注意力机制 自注意力机制

在线阅读 下载PDF 职称材料

基于骨骼及表观特征融合的动作识别方法 被引量：3

14

作者 王洪雁 袁海 《通信学报》 EI CSCD 北大核心 2022年第1期138-148,共11页

针对传统动作识别算法不易区分相似动作的问题,提出一种基于深度关节与手工表观特征融合的动作识别方法。首先将关节空域位置及约束输入具有时空注意力机制的长短期记忆(LSTM)模型中,获取时空加权且高可分的深度关节特征;然后引入热图... 针对传统动作识别算法不易区分相似动作的问题,提出一种基于深度关节与手工表观特征融合的动作识别方法。首先将关节空域位置及约束输入具有时空注意力机制的长短期记忆(LSTM)模型中,获取时空加权且高可分的深度关节特征;然后引入热图定位关键帧及关节,手工提取关键关节周围表观特征以作为深度关节特征有效补充;最后基于双流网络逐帧融合表观特征及深度骨骼特征来实现相似动作有效判别。仿真结果表明,与主流方法相比,所提方法能有效区分相似动作,进而显著提升动作准确率。 展开更多

关键词 动作识别 长短期记忆 时空注意力机制 骨骼关节 表观特征

在线阅读 下载PDF 职称材料