盐体是具有良好气密性的地质构造,有利于油气储存,实现精细化盐体的解释极为必要。然而,不同于断层,盐体的特征较为复杂且形态差异大,常规方法易导致混淆和误判。此外,基于数据驱动的盐体识别模型在实际数据集上的泛化能力较差,因此目...盐体是具有良好气密性的地质构造,有利于油气储存,实现精细化盐体的解释极为必要。然而,不同于断层,盐体的特征较为复杂且形态差异大,常规方法易导致混淆和误判。此外,基于数据驱动的盐体识别模型在实际数据集上的泛化能力较差,因此目前在地震勘探中进行盐体的解释及可视化仍存在挑战。文章将盐体解释视为地震图像的语义分割问题,提出了基于迁移学习的上下文融合与混合注意力的智能盐体分割(Multi-path structure Mixed Attention and Transfer Optimized Net,MMTONet)方法。同时设计了一种基于盐体上下文特征融合模块,进而建立了改进注意力卷积混合的跳跃连接机制,以更好地弥补由下采样造成的信息损失,从而提高模型对盐体边界与高振幅噪声的像素级辨别能力。在此基础上,还设计了迁移学习的适配器微调策略,提升了模型在实际数据上的泛化能力。在地震数据集上的实验结果表明,MMTONet在提高分割精度和减少计算量、参数量方面均优于主流的语义分割方法。展开更多
为了提高利用监控和数据采集(supervisory control and data acquisition,SCADA)多变量长时间序列预测齿轮箱油温的精度,解决不同风电机组因处不同运行环境导致的数据分布不一致的问题,提出了一种基于多分支时间序列预测与迁移学习相结...为了提高利用监控和数据采集(supervisory control and data acquisition,SCADA)多变量长时间序列预测齿轮箱油温的精度,解决不同风电机组因处不同运行环境导致的数据分布不一致的问题,提出了一种基于多分支时间序列预测与迁移学习相结合的齿轮箱状态监测方法。首先,利用极致梯度提升(extreme gradient boosting,XGBoost)算法筛选输入参数组成原始序列,对其进行分解得到季节与趋势序列。其次,提出季节、趋势序列特征提取模块获取季节及趋势特征的序列,将其与经过Informer模型处理后的特征序列进行融合后输入进多层感知机映射成最终的预测值,以构建提出的多分支时间序列预测网络(multi-branch time series prediction network,MBFN)。最后,利用迁移学习并结合一分类向量支持机(one-class support vector machine,OCSVM)模型及滑动窗口构建齿轮箱的健康指数,完成齿轮箱状态监测。实验结果表明,所提出模型的MBFN显著提高了油温预测精度,优于常规时间序列预测模型,所使用的迁移策略能以较少数据适应不同数据的分布,进而实现对齿轮箱的状态监测,并且所提出的模型可以提前18.9 d发出齿轮箱故障预警。展开更多
为了解决联邦学习在车联网中终端设备数据的异质性导致模型训练准确率不稳定和性能下降,以及车辆分布广泛,通信和计算资源有限的问题,提出一种数据类型和数据规模并行优化的群联邦迁移学习数据共享方法(swarm federated transfer learni...为了解决联邦学习在车联网中终端设备数据的异质性导致模型训练准确率不稳定和性能下降,以及车辆分布广泛,通信和计算资源有限的问题,提出一种数据类型和数据规模并行优化的群联邦迁移学习数据共享方法(swarm federated transfer learning,SFTL)。提出基于高斯混合模型的共识设备组划分机制,通过对数据分布建模构建共识设备组,实现对异质性数据的有效管理和分析;面向划分的共识设备组,设计蜂群学习训练机制,加强相似设备组之间的协同学习过程;提出组间迁移学习机制,通过模型预训练法增量迁移不同共识设备组信息最小化模型差异,提高联邦模型聚合准确率。在公共数据集上的实验表明:与基线方法相比,SFTL模型训练准确率平均提高7%,通信时间平均降低10%。展开更多
为解决深度学习预测模型在数据不足时准确性受限的问题,提出一种结合Transformer的交叉注意力(cross-attention in Transformer,CATrans)机制和域分离网络(domain separation networks,DSN)的深度迁移学习方法——CATrans-DSN,用于短期...为解决深度学习预测模型在数据不足时准确性受限的问题,提出一种结合Transformer的交叉注意力(cross-attention in Transformer,CATrans)机制和域分离网络(domain separation networks,DSN)的深度迁移学习方法——CATrans-DSN,用于短期跨建筑负荷预测。CATrans特征提取器利用注意力机制来学习源域和目标域负荷数据的域共有和私有时间特征,并利用共有特征进行知识迁移;特征重构器作为辅助模块,对源域和目标域数据进行数据重构;由回归预测器将学习到的特征转化为预测值。最后,利用在源域和目标域上训练得到的建筑负荷预测模型,直接用于目标建筑的负荷预测。实验结果表明,所提出的方法有效地提高了数据稀缺情况下的预测准确性和模型泛化能力。展开更多
文摘盐体是具有良好气密性的地质构造,有利于油气储存,实现精细化盐体的解释极为必要。然而,不同于断层,盐体的特征较为复杂且形态差异大,常规方法易导致混淆和误判。此外,基于数据驱动的盐体识别模型在实际数据集上的泛化能力较差,因此目前在地震勘探中进行盐体的解释及可视化仍存在挑战。文章将盐体解释视为地震图像的语义分割问题,提出了基于迁移学习的上下文融合与混合注意力的智能盐体分割(Multi-path structure Mixed Attention and Transfer Optimized Net,MMTONet)方法。同时设计了一种基于盐体上下文特征融合模块,进而建立了改进注意力卷积混合的跳跃连接机制,以更好地弥补由下采样造成的信息损失,从而提高模型对盐体边界与高振幅噪声的像素级辨别能力。在此基础上,还设计了迁移学习的适配器微调策略,提升了模型在实际数据上的泛化能力。在地震数据集上的实验结果表明,MMTONet在提高分割精度和减少计算量、参数量方面均优于主流的语义分割方法。
文摘为了提高利用监控和数据采集(supervisory control and data acquisition,SCADA)多变量长时间序列预测齿轮箱油温的精度,解决不同风电机组因处不同运行环境导致的数据分布不一致的问题,提出了一种基于多分支时间序列预测与迁移学习相结合的齿轮箱状态监测方法。首先,利用极致梯度提升(extreme gradient boosting,XGBoost)算法筛选输入参数组成原始序列,对其进行分解得到季节与趋势序列。其次,提出季节、趋势序列特征提取模块获取季节及趋势特征的序列,将其与经过Informer模型处理后的特征序列进行融合后输入进多层感知机映射成最终的预测值,以构建提出的多分支时间序列预测网络(multi-branch time series prediction network,MBFN)。最后,利用迁移学习并结合一分类向量支持机(one-class support vector machine,OCSVM)模型及滑动窗口构建齿轮箱的健康指数,完成齿轮箱状态监测。实验结果表明,所提出模型的MBFN显著提高了油温预测精度,优于常规时间序列预测模型,所使用的迁移策略能以较少数据适应不同数据的分布,进而实现对齿轮箱的状态监测,并且所提出的模型可以提前18.9 d发出齿轮箱故障预警。
文摘为了解决联邦学习在车联网中终端设备数据的异质性导致模型训练准确率不稳定和性能下降,以及车辆分布广泛,通信和计算资源有限的问题,提出一种数据类型和数据规模并行优化的群联邦迁移学习数据共享方法(swarm federated transfer learning,SFTL)。提出基于高斯混合模型的共识设备组划分机制,通过对数据分布建模构建共识设备组,实现对异质性数据的有效管理和分析;面向划分的共识设备组,设计蜂群学习训练机制,加强相似设备组之间的协同学习过程;提出组间迁移学习机制,通过模型预训练法增量迁移不同共识设备组信息最小化模型差异,提高联邦模型聚合准确率。在公共数据集上的实验表明:与基线方法相比,SFTL模型训练准确率平均提高7%,通信时间平均降低10%。
文摘为解决深度学习预测模型在数据不足时准确性受限的问题,提出一种结合Transformer的交叉注意力(cross-attention in Transformer,CATrans)机制和域分离网络(domain separation networks,DSN)的深度迁移学习方法——CATrans-DSN,用于短期跨建筑负荷预测。CATrans特征提取器利用注意力机制来学习源域和目标域负荷数据的域共有和私有时间特征,并利用共有特征进行知识迁移;特征重构器作为辅助模块,对源域和目标域数据进行数据重构;由回归预测器将学习到的特征转化为预测值。最后,利用在源域和目标域上训练得到的建筑负荷预测模型,直接用于目标建筑的负荷预测。实验结果表明,所提出的方法有效地提高了数据稀缺情况下的预测准确性和模型泛化能力。