-
题名基于多目标优化的联邦学习进化算法
被引量:5
- 1
-
-
作者
胡智勇
于千城
王之赐
张丽丝
-
机构
北方民族大学计算机科学与工程学院
北方民族大学图形图像国家民委重点实验室
-
出处
《计算机应用研究》
CSCD
北大核心
2024年第2期415-420,437,共7页
-
基金
宁夏重点研发计划(引才专项)项目(2022YCZX0013)
宁夏重点研发计划(重点)项目(2023BDE02001)
+2 种基金
银川市校企联合创新项目(2022XQZD009)
北方民族大学2022年校级科研平台《数字化农业赋能宁夏乡村振兴创新团队》项目(2022PT_S10)
“图像与智能信息处理创新团队”国家民委创新团队资助项目。
-
文摘
传统联邦学习存在通信成本高、结构异构、隐私保护力度不足的问题,为此提出了一种联邦学习进化算法。应用稀疏进化训练算法降低通信成本,结合本地化差分隐私保护参与方隐私,同时采用NSGA-Ⅲ算法优化联邦学习全局模型的网络结构、稀疏性,调整数据可用性与隐私保护之间的关系,实现联邦学习全局模型有效性、通信成本和隐私性的均衡。不稳定通信环境下的实验结果表明,在MNIST和CIFAR-10数据集上,与FNSGA-Ⅲ算法错误率最低的解相比,该算法所得解的通信效率分别提高57.19%和52.17%,并且参与方实现了(3.46,10^(-4))和(6.52,10^(-4))-本地化差分隐私。在不严重影响全局模型准确率的前提下,该算法有效降低了联邦学习的通信成本并保护了参与方隐私。
-
关键词
联邦学习
多目标优化
NSGA-Ⅲ算法
本地化差分隐私
参数优化
-
Keywords
federated learning
multi-objective optimization
NSGA-Ⅲalgorithm
local differential privacy
parameters optimization
-
分类号
TP301.6
[自动化与计算机技术—计算机系统结构]
-
-
题名Graph Transformers研究进展综述
被引量:1
- 2
-
-
作者
周诚辰
于千城
张丽丝
胡智勇
赵明智
-
机构
北方民族大学计算机科学与工程学院
图形图像国家民委重点实验室
-
出处
《计算机工程与应用》
CSCD
北大核心
2024年第14期37-49,共13页
-
基金
宁夏重点研发计划(引才专项)项目(2022YCZX0013)
宁夏重点研发计划(重点)项目(2023BDE02001)
+1 种基金
北方民族大学2022年校级科研平台《数字化农业赋能宁夏乡村振兴创新团队》(2022PT_S10)
银川市校企联合创新项目(2022XQZD009)。
-
文摘
随着图结构数据在各种实际场景中的广泛应用,对其进行有效建模和处理的需求日益增加。Graph Transformers(GTs)作为一类使用Transformers处理图数据的模型,能够有效缓解传统图神经网络(GNN)中存在的过平滑和过挤压等问题,因此可以学习到更好的特征表示。根据对近年来GTs相关文献的研究,将现有的模型架构分为两类:第一类通过绝对编码和相对编码向Transformers中加入图的位置和结构信息,以增强Transformers对图结构数据的理解和处理能力;第二类根据不同的方式(串行、交替、并行)将GNN与Transformers进行结合,以充分利用两者的优势。介绍了GTs在信息安全、药物发现和知识图谱等领域的应用,对比总结了不同用途的模型及其优缺点。最后,从可扩展性、复杂图、更好的结合方式等方面分析了GTs未来研究面临的挑战。
-
关键词
Graph
Transformers(GTs)
图神经网络
图表示学习
异构图
-
Keywords
Graph Transformers(GTs)
graph neural network
graph representation learning
heterogeneous graph
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于进化集成学习的用户购买意向预测
- 3
-
-
作者
张一凡
于千城
张丽丝
-
机构
北方民族大学计算机科学与工程学院
北方民族大学图形图像国家民委重点实验室
-
出处
《计算机应用研究》
CSCD
北大核心
2024年第2期368-374,共7页
-
基金
宁夏重点研发计划(引才专项)项目(2022YCZX0013)
宁夏重点研发计划(重点)项目(2023BDE02001)
+2 种基金
银川市校企联合创新项目(2022XQZD009)
北方民族大学2022年校级科研平台《数字化农业赋能宁夏乡村振兴创新团队》项目(2022PT_S10)
“图像与智能信息处理创新团队”国家民委创新团队资助项目。
-
文摘
在电子商务时代背景下,精准预测用户的购买意向已经成为提高销售效率和优化客户体验的关键因素。针对传统集成策略在模型设计阶段往往受人为因素限制的问题,构建了一种自适应进化集成学习模型用于预测用户的购买意向。该模型能够自适应地选择最优基学习器和元学习器,并融合基学习器的预测信息和特征间的差异性扩展特征维度,从而提高预测的准确性。此外,为进一步优化模型的预测效果,设计了一种二元自适应差分进化算法进行特征选择,旨在筛选出对预测结果有显著影响的特征。研究结果表明,与传统优化算法相比,二元自适应差分进化算法在全局搜索和特征选择方面表现优异。相较于六种常见的集成模型和DeepForest模型,所构建的进化集成模型在AUC值上分别提高了2.76%和2.72%,并且能够缓解数据不平衡所带来的影响。
-
关键词
购买预测
差分进化算法
进化集成
特征选择
模型选择
-
Keywords
purchase prediction
differential evolution algorithm
evolutionary ensemble
feature selection
model selection
-
分类号
TP39
[自动化与计算机技术—计算机应用技术]
-
-
题名基于VMD GRAU的短期风电功率预测
- 4
-
-
作者
谢金财
于千城
王之赐
胡智勇
于绪龙
王澳强
-
机构
北方民族大学计算机科学与工程学院
北方民族大学图形图像国家民委重点实验室
-
出处
《广西科学》
CAS
北大核心
2024年第4期773-780,787,共9页
-
基金
宁夏重点研发计划(引才专项)项目(2022YCZX0013)
宁夏重点研发计划(重点)项目(2023BDE02001)
+1 种基金
北方民族大学2022年校级科研平台项目“数字化农业赋能宁夏乡村振兴创新团队”(2022PT_S10)
银川市校企联合创新项目(2022XQZD009)资助。
-
文摘
针对现有的风电功率短期预测模型难以准确捕捉风电历史监测数据与风电功率之间的非线性映射关系,以及难以适应风速环境变化导致预测效果差的问题,本研究基于变分模态分解(Variational Mode Decomposition,VMD)和门控循环单元(Gated Recurrent Unit,GRU)设计了风电功率预测模型VMD GRAU。首先对风电数据进行变分模态分解,避免模态混合和假峰值的问题,然后提出门控循环注意力(Gated Recurrent Attention Unit,GRAU)模型,设计注意门来增强GRU对重要序列特征的捕捉能力和稳健性,设计误差修正模块来降低风电功率预测的随机性和波动性影响,最后在损失函数中添加稀疏正则化项来防止模型过拟合。实验结果表明所提出的VMD-GRAU模型在平均绝对误差90(MAE)、均方根误差(RMSE)和拟合优度(R^(2))方面分别达到0.022、0.016和0.995,相比传统模型GRU和Transformer,本研究提出模型预测的平均绝对误差提升了26%-31%,在不同环境下依然具有较好的泛化性。
-
关键词
风电功率预测
变分模态分解
注意力机制
正则化
-
Keywords
wind power prediction
variational mode decomposition
attention mechanism
regularization
-
分类号
TK89
[动力工程及工程热物理—流体机械及工程]
-
-
题名基于双重注意力机制的符号网络节点嵌入
被引量:1
- 5
-
-
作者
逯泽锟
于千城
王晓峰
李霞
王金云
-
机构
北方民族大学计算机科学与工程学院
北方民族大学图形图像国家民委重点实验室
北方民族大学商学院
-
出处
《郑州大学学报(工学版)》
CAS
北大核心
2023年第2期68-74,共7页
-
基金
国家自然科学基金资助项目(62062001)
北方民族大学博士科研启动金项目(2020KYQD48)
2022年校级科研平台数字化农业赋能宁夏乡村振兴创新团队(2022PT_S10)。
-
文摘
网络节点嵌入是将网络中的节点映射为低维的向量表示,从而可以直接应用基于向量空间的学习方法来处理链路预测等下游任务。现有的网络节点嵌入模型大多针对无符号网络,不能直接用于处理符号网络(通常需要将符号网络转换成无符号网络进行处理,因而丢弃了边上的正负号所蕴含着的大量有价值的信息)。基于图神经网络(GNNs)提出了一种可以直接处理符号网络的节点嵌入模型,即基于双重注意力机制的符号网络节点嵌入(SNEDA)。依据结构平衡理论和地位理论,将节点间的路径按照方向和边上的正负信息划分成20种不同的模体(motif)结构。设计了包含2层注意力机制的网络传播模型,当汇聚节点i的直接邻居信息时,通过节点级注意力机制捕获不同邻居节点对节点i的向量表示的贡献和影响;当汇聚节点i的二阶及二阶以上各阶邻居信息时,用路径级注意力捕获不同motif对节点i的向量表示。通过引入两层注意力机制综合考虑节点层面和路径层面的不同贡献和影响,不仅提高了算法的时间效率,而且使得最终得到节点i的向量表示更有利于提高下游链路预测任务的预测准确性。在4个真实的社交网络数据集上进行实验,与基准模型相比,SNEDA模型在AUC和F1指标上分别提高了约3.1%和1.1%。结果表明该模型得到的网络表示有助于提高链路预测的准确性。
-
关键词
符号网络
图神经网络
图注意力网络
网络嵌入
链路预测
-
Keywords
signed network
graph neural network
graph attention networks
network embedding
link prediction
-
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
-