面向模型量化的安全性研究综述

1

作者 陈晋音 曹志骐 +1 位作者 郑海斌 郑雅羽 《小型微型计算机系统》 北大核心 2025年第6期1473-1490,共18页

随着边缘智能设备的飞速发展,为了在资源受限的边缘端设备上部署参数和存储需求巨大的深度模型,模型压缩技术显得至关重要.现有的模型压缩主要包含剪枝、量化、知识蒸馏和低秩分解4类,量化凭借推理快、功耗低、存储少的优势,使它成为了... 随着边缘智能设备的飞速发展,为了在资源受限的边缘端设备上部署参数和存储需求巨大的深度模型,模型压缩技术显得至关重要.现有的模型压缩主要包含剪枝、量化、知识蒸馏和低秩分解4类,量化凭借推理快、功耗低、存储少的优势,使它成为了边缘端部署的常用技术.然而,已有的量化方法主要关注的是模型量化后的模型精度损失和内存占用情况,而忽略模型量化可能面临的安全性威胁.因此,针对模型量化的安全性研究显得尤为重要.本文首次针对模型量化的安全性问题展开分析,首先定义了模型量化的攻防理论,其次按照模型量化前和模型量化过程中两个阶段对量化攻击方法和量化防御方法进行分析归纳,整理了针对不同攻击任务进行的通用基准数据集与主要评价指标,最后探讨了模型量化的安全性研究及其应用,以及未来潜在研究方向,进一步推动模型量化的安全性研究发展和应用. 展开更多

关键词 模型量化 模型安全 对抗攻击 后门攻击 隐私窃取 公平性 模型防御

在线阅读 下载PDF 职称材料

面向激光雷达的自动驾驶相关任务安全性综述

2

作者 陈晋音 赵卓 +2 位作者 徐曦恩 项圣 郑海斌 《小型微型计算机系统》 北大核心 2025年第7期1590-1605,共16页

自动驾驶技术的迅猛发展,推动了激光雷达的应用.激光雷达以其卓越的环境感知、导航和避障能力,在自动驾驶领域扮演着关键角色.随着人工智能和深度学习技术的不断进步,三维数据处理技术取得了显著成果,并在多个场景中得到应用.然而,随着... 自动驾驶技术的迅猛发展,推动了激光雷达的应用.激光雷达以其卓越的环境感知、导航和避障能力,在自动驾驶领域扮演着关键角色.随着人工智能和深度学习技术的不断进步,三维数据处理技术取得了显著成果,并在多个场景中得到应用.然而,随着技术的应用深入,其安全性问题日益凸显,例如行驶中的车辆可能会错误识别出不存在的物体.而现有研究多聚焦于单一任务,缺乏对安全性问题的综合性论述,尤其是对后门攻击的研究相对匮乏.因此,本文首次全面评估和分析了基于激光雷达在自动驾驶中的安全性问题,特别是对抗攻击和后门攻击的挑战.文章首先阐述了激光雷达的工作原理及其在自动驾驶任务中的应用,包括目标分类、目标检测和语义分割3大类.具体而言,本综述深入探讨了55篇相关论文,系统地介绍了不同任务下的攻击方法和防御策略.进一步,本文提供了11个公共数据集、7个评估指标、7个常用模型和4个仿真平台,为研究者提供了宝贵的资源和工具.最后,文章结合当前面临的挑战与未来机遇,对激光雷达在自动驾驶安全应用的研究方向进行了前瞻性展望,旨在为激光雷达技术的安全可靠应用提供指导和参考. 展开更多

关键词 激光雷达 目标分类 语义分割 目标检测 对抗攻击 后门攻击

在线阅读 下载PDF 职称材料

多视角特征融合的网络异常流量检测

3

作者 宋昊 傅文涛 +4 位作者 陈烜泽 金程祥 周嘉俊 俞山青 宣琦 《指挥与控制学报》 北大核心 2025年第5期577-588,共12页

传统的异常流量检测方法基于单一视角分析,在处理复杂攻击和加密通信时具有明显的局限性。提出一种多视角特征融合的网络异常流量检测方法,分别基于时序视角和交互视角对网络流量中数据包的时序关系及交互关系建模,学习其时序特征与交... 传统的异常流量检测方法基于单一视角分析,在处理复杂攻击和加密通信时具有明显的局限性。提出一种多视角特征融合的网络异常流量检测方法,分别基于时序视角和交互视角对网络流量中数据包的时序关系及交互关系建模,学习其时序特征与交互特征,并将不同视角下的特征融合进行异常流量的检测。在6个真实的流量数据集上进行的大量实验表明,所提方法在网络异常流量检测方面具有优异的性能,弥补了单一视角下检测的不足。 展开更多

关键词 网络异常流量检测 网络安全 多视角 时序建模 交互建模

在线阅读 下载PDF 职称材料

深度学习模型供应链的安全性综述

4

作者 陈若曦 陈晋音 +3 位作者 郑海斌 阳雪燕 纪守领 陈铁明 《计算机研究与发展》 北大核心 2025年第8期2019-2039,共21页

预训练模型缓解了训练数据和算力受限的问题,也催生了模型开发和应用的新范式——深度学习模型供应链.在这一供应链中,预训练模型由原始发布者上传,并经二次开发者进行必要的迁移、压缩与部署,以适应不同的应用需求.然而,这一过程引入... 预训练模型缓解了训练数据和算力受限的问题,也催生了模型开发和应用的新范式——深度学习模型供应链.在这一供应链中,预训练模型由原始发布者上传,并经二次开发者进行必要的迁移、压缩与部署,以适应不同的应用需求.然而,这一过程引入了新的环节和多元要素,随之产生了数据泄露和计算安全等风险.尽管深度学习模型供应链已被广泛采纳,目前对于其安全性威胁的系统性研究仍然不足.针对这一研究空白,概括了深度学习模型供应链的概念及其基本框架,调研了相关的研究工作.依据模型生命周期的不同阶段,详细分析了设计、二次开发、部署和使用各环节的安全脆弱点,对可能遭遇的安全性攻击手段进行了系统的梳理、比较和总结,并探讨了相应的防护策略.为了帮助读者更好地使用预训练模型,对现有预训练模型仓库进行了比较.最后,基于目前深度学习模型供应链所面临的挑战,从安全性审查、实时检测和问题溯源等不同角度分析和讨论了未来可能的研究发展方向,为更安全可靠地开发和使用预训练模型提供了思路.论文涉及的方法和相关代码归纳整理在网址:https://github.com/Dipsy0830/DNNsupply-chain-survey,方便研究人员下载使用. 展开更多

关键词 模型供应链 预训练模型 安全风险 安全与隐私 深度神经网络 深度学习

在线阅读 下载PDF 职称材料

网络科学赋能人工智能: 现状与展望

5

作者 陆耀 陈奕帆 +2 位作者 杨淇然 方宇杰 宣琦 《指挥与控制学报》 北大核心 2025年第5期540-549,共10页

伴随着人工智能的发展和进步,大量智能设备被应用于战场。在复杂多变的战场环境下,这些智能设备存在着复杂军事环境下识别困难、移动端计算资源紧缺以及人工智能技术解释性差等问题。为此,通过将网络科学的理论、方法和工具应用于人工... 伴随着人工智能的发展和进步,大量智能设备被应用于战场。在复杂多变的战场环境下,这些智能设备存在着复杂军事环境下识别困难、移动端计算资源紧缺以及人工智能技术解释性差等问题。为此,通过将网络科学的理论、方法和工具应用于人工智能系统的设计和分析,为解决上述问题提供了一种可行的方案。梳理总结了国内外网络科学赋能人工智能的研究进展,从输入输出端的图表征、模型架构端的图表征、决策逻辑端的图表征3个方面,分别阐述了网络科学赋能人工智能的研究现状,并讨论了网络科学赋能人工智能面临的挑战以及未来可能的发展方向。 展开更多

关键词 网络科学 人工智能 可解释 边缘计算 模型优化

在线阅读 下载PDF 职称材料

面向智能电网的网络子结构聚类攻击策略

6

作者 吴丽进 陈伯建 +3 位作者 黄建业 何金栋 雷珊珊 张雪迎 《高技术通讯》 北大核心 2025年第7期790-798,共9页

面向电力网络的网络子结构聚类在电力网络中可以帮助电网监管平台实现有效的分布式控制策略,有助于加速电网恢复,然而对其安全性缺乏探究。针对电网与传统复杂网络在结构上存在较大差异、现有的聚类攻击方法无法直接应用于电网的问题,... 面向电力网络的网络子结构聚类在电力网络中可以帮助电网监管平台实现有效的分布式控制策略,有助于加速电网恢复,然而对其安全性缺乏探究。针对电网与传统复杂网络在结构上存在较大差异、现有的聚类攻击方法无法直接应用于电网的问题,本文提出一种基于智能电网的网络子结构聚类攻击策略。首先,针对电网的电气特性建立更能反映电网结构的扩展电网模型。然后,通过在原网络上添加连边扰动生成新的对抗网络,从而误导智能电网的子结构聚类算法,使其错误划分,导致原有的电力系统划分以及分布式监管与控制策略不再有效。在不同的电网节点系统上进行的实验发现,本文提出的攻击方法使得原有的网络子结构划分失效,大幅度降低了模块度值,证明了方法的有效性。 展开更多

关键词 对抗网络 网络子结构聚类 电网划分 遗传算法

在线阅读 下载PDF 职称材料

基于GRU的密集连接时空图注意力网络的城市交通预测

7

作者 郭海锋 许宏伟 周子盛 《高技术通讯》 CAS 北大核心 2024年第5期463-474,共12页

城市道路拓扑结构的复杂性、交通流量的实时变化以及多元的外部环境等因素给交通预测带来了极大的困难。现有方法对交通路网的时空特征挖掘性不足,缺乏对外部因素的考虑,为此本文提出了一种基于门控循环单元(GRU)的时空图注意力密集连... 城市道路拓扑结构的复杂性、交通流量的实时变化以及多元的外部环境等因素给交通预测带来了极大的困难。现有方法对交通路网的时空特征挖掘性不足,缺乏对外部因素的考虑,为此本文提出了一种基于门控循环单元(GRU)的时空图注意力密集连接网络,通过门控循环单元来捕获路网数据的动态规律,并以图注意力密集连接网络来提取路网复杂的空间结构特征,建立城市交通网络对时空的依赖关系。针对外部客观因素,采用独热编码的方式对城市各路段发生的交通事件进行数据建模,增强交通网络的信息属性。以杭州申花路及周围共309个路段为例,对所提出模型的预测能力和可行性进行验证。实验结果表明,模型预测精度最高达到了81.64%,与传统数学模型和主流的神经网络模型对比,预测精度较ARIMA提高了35.42%,较图注意力网络(GAT)和GRU神经网络分别提高了17.45%和3.02%。实验证明该方法可以适应复杂的交通流进行长期的交通预测任务,同时也能增强交通管理能力,减少交通拥堵成本。 展开更多

关键词 交通预测 时空特征 神经网络 门控循环单元(GRU) 密集连接 图注意力网络(GAT)

在线阅读 下载PDF 职称材料

针对网络流量测量的完整性干扰攻击与防御方法 被引量：3

8

作者 郑海斌 刘欣然 +2 位作者 陈晋音 王鹏程 王楦烨 《计算机科学》 CSCD 北大核心 2024年第8期420-428,共9页

近年来,网络测量在评估网络状态、提高网络自适应能力方面取得了较好的性能,被广泛运用于网络管理中。然而,目前的大规模网络中存在异常行为导致的网络流量数据污染问题。例如,自治系统中的恶意节点通过伪造恶意流量数据来故意操纵网络... 近年来,网络测量在评估网络状态、提高网络自适应能力方面取得了较好的性能,被广泛运用于网络管理中。然而,目前的大规模网络中存在异常行为导致的网络流量数据污染问题。例如,自治系统中的恶意节点通过伪造恶意流量数据来故意操纵网络指标,影响网络测量,误导下游任务决策。基于此,首先提出完整性干扰攻击方法,通过修改流量矩阵的最小代价,利用多策略干扰生成器生成恶意扰动流量的攻击策略,实现干扰流量测量的目的。然后,通过一种混合对抗训练策略,设计在网络中抵御此类攻击的防御方法,实现流量测量模型的安全加固。实验中对攻击目标进行了相应的限定,验证了完整性干扰攻击在受限场景下的攻击有效性。并通过混合训练的方式进行对比实验,验证了常规模型的加固方法可以提升模型的鲁棒性。 展开更多

关键词 网络流量测量 安全性 攻击可行性 攻击检测

在线阅读 下载PDF 职称材料

基于相似度感知的深度卷积神经网络剪枝方法 被引量：1

9

作者 程点 郑海斌 陈晋音 《小型微型计算机系统》 CSCD 北大核心 2024年第11期2656-2662,共7页

随着卷积神经网络规模的不断扩大,由于其庞大的计算量和参数量,终端智能设备的部署及发展面临着巨大的挑战,因此如何保持模型精度的同时尽可能地压缩和加速模型至关重要.目前已有工作提出的压缩方法仍然存在压缩算法实现、压缩效果、压... 随着卷积神经网络规模的不断扩大,由于其庞大的计算量和参数量,终端智能设备的部署及发展面临着巨大的挑战,因此如何保持模型精度的同时尽可能地压缩和加速模型至关重要.目前已有工作提出的压缩方法仍然存在压缩算法实现、压缩效果、压缩效率等方面的缺陷.为此,本文提出了一种基于通道相似性的卷积神经网络剪枝方法.具体而言,首先探究了卷积神经网络特征通道间的相似冗余,引入了一种高效的相似性指标来量化特征通道之间的相似性;其次,通过相似性排序算法移除整个网络中冗余的通道从而实现剪枝;再次,加载保留的通道参数通过微调减少由于剪枝操作造成对模型分类性能的影响.为了提高压缩效率,本文采用一次性剪枝策略,满足时间复杂度更低的要求.最后,在CIFAR-10、CIFAR-100数据集上对VGG-16、ResNet-56、ResNet-110、GoogLeNet模型的实验结果表明,与现有方法相比本文所提方法可以更高效地压缩模型且模型依然保持良好精度. 展开更多

关键词 卷积神经网络 模型剪枝 模型压缩 通道相似性

在线阅读 下载PDF 职称材料

基于GCN-LSTM的多交叉口信号灯控制 被引量：1

10

作者 徐东伟 朱宏俊 +2 位作者 郭海锋 周晓刚 汤立新 《高技术通讯》 北大核心 2025年第5期472-479,共8页

强化学习(reinforcement learning,RL)由于其解决高度动态环境中复杂决策问题的能力,成为信号灯控制中一种具有前景的解决方案。大多数基于强化学习的方法独立生成智能体的动作,它们可能导致交叉口的动作冲突、道路资源浪费。因此,本文... 强化学习(reinforcement learning,RL)由于其解决高度动态环境中复杂决策问题的能力,成为信号灯控制中一种具有前景的解决方案。大多数基于强化学习的方法独立生成智能体的动作,它们可能导致交叉口的动作冲突、道路资源浪费。因此,本文提出了基于图卷积网络和长短期记忆(graph convolution network-long short-term memory,GCNLSTM)的多交叉口信号灯控制方法。首先,基于二进制权重网络对多交叉口进行构图。其次,通过图卷积网络聚合周围交叉口的空间状态信息,利用长短期记忆(long short-term memory,LSTM)获得交叉口的历史状态信息。最后,通过基于竞争网络框架的Q值网络进行动作的选择,实现对交叉口相位的控制。实验结果表明,与其他强化学习方法相比,本文方法在多交叉口的信号灯控制中能够减少交叉口的队列长度,并使道路网络中的车辆获得更少的等待时间。 展开更多

关键词 智能交通系统 交通信号灯控制 多智能体强化学习 长短期记忆 图卷积网络

在线阅读 下载PDF 职称材料

深度时空混合图卷积的城市交通预测模型 被引量：1

11

作者 郭海锋 许宏伟 周子盛 《小型微型计算机系统》 北大核心 2025年第1期97-103,共7页

由于交通网络复杂的时空相关性和交通数据的非线性,给交通预测带来了很大的挑战.现有的方法主要关注路网的时空特征,分别对时间相关性和空间相关性进行建模来模拟时空依赖关系.随着城市道路网络的进一步扩大,导致模型对路网空间特征的... 由于交通网络复杂的时空相关性和交通数据的非线性,给交通预测带来了很大的挑战.现有的方法主要关注路网的时空特征,分别对时间相关性和空间相关性进行建模来模拟时空依赖关系.随着城市道路网络的进一步扩大,导致模型对路网空间特征的挖掘能力不足.此外,交通运行状态受到外部环境因素的干扰,交通流在路段传递效应的影响下会出现较大波动.为解决上述问题,提出深度时空混合图卷积模型,利用图卷积网络和图注意力网络的残差连接分别汇聚路网全局和局部信息,扩展图卷积的感受野范围,从而增强路网空间特征的提取能力.受Transformer在长序列预测上的启发,同时为减少计算复杂度,通过引入Informer模型来处理路网数据潜在的时间依赖性,实现对交通流参数的长期预测能力,并对城市天气和POI(医院,学校,商场)等外部因素进行编码来增强路网信息的属性.为验证所提出模型的性能,在真实数据集上开展实验,对模型进行准确性和可行性分析.实验结果表明,深度时空混合图卷积模型预测精度最高达到75.1%,较Transformer和Informer分别提升了2.5%和2.3%,在不同预测范围下都超过了其他基线模型,具有长期的交通预测能力. 展开更多

关键词 交通预测 时空依赖 道路网络 图神经网络 长期预测

在线阅读 下载PDF 职称材料

面向红外目标检测的显著特征测试样本排序方法

12

作者 陈晋音 严云杰 郑海斌 《小型微型计算机系统》 北大核心 2025年第8期2007-2015,共9页

红外目标检测是指在红外图像中确定目标对象的位置和类别,在自动驾驶、安防监控和电气设备检修等领域应用广泛.然而,由于深度模型存在脆弱性,红外目标检测模型容易受到对抗样本的攻击,因此对其展开安全性测试至关重要.测试样本优先级排... 红外目标检测是指在红外图像中确定目标对象的位置和类别,在自动驾驶、安防监控和电气设备检修等领域应用广泛.然而,由于深度模型存在脆弱性,红外目标检测模型容易受到对抗样本的攻击,因此对其展开安全性测试至关重要.测试样本优先级排序方法可通过对待测样本的优先级排序实现高效测试,并通过样本重训练提高模型的鲁棒性.针对现有的优先级排序测试方法存在无法适用红外目标图像的目标检测任务的问题,本文提出了一种基于显著特征的红外目标检测模型的测试样本优先级排序方法,简称SigPri,使用傅里叶变换和模型反向传播梯度筛选红外目标的关键轮廓像素特征,通过原样本与变异样本输入深度模型时激活神经元值的变化筛选关键神经元,对筛选出的关键像素特征和关键神经元实现模型变异,最后将待测样本分别输入原始模型和变异模型,通过其输出差异判定样本优先级,从而实现测试样本优先级排序.最后在不同模型和数据集上展开实验,验证了提出SigPri方法的平均排序效果(RAUC)比现有最优算法提高了9.39%.本文相关的数据集和代码公开在连接:https://github.com/TDY-raedae/infraprio. 展开更多

关键词 显著特征 红外目标检测 样本优先级排序 关键像素变异 关键神经元变异

在线阅读 下载PDF 职称材料

基于梯度引导的社团隐匿扰动子结构优化方法

13

作者 俞山青 宋亦聃 +4 位作者 周金涛 周梦 李家祥 汪泽钰 宣琦 《计算机科学》 北大核心 2025年第9期376-387,共12页

社团检测是一种用于揭示网络聚集行为的技术,能够精准识别网络中的社团结构,帮助更好地理解复杂网络的内部组织和功能。然而,随着社团检测算法的快速发展,其中信息泄露和过度挖掘等诸多隐私问题也备受关注。因此,社团隐匿算法被广泛研究... 社团检测是一种用于揭示网络聚集行为的技术,能够精准识别网络中的社团结构,帮助更好地理解复杂网络的内部组织和功能。然而,随着社团检测算法的快速发展,其中信息泄露和过度挖掘等诸多隐私问题也备受关注。因此,社团隐匿算法被广泛研究,它通过构建扰动子结构来模糊网络中的社团结构,从而有效地降低社团检测算法的识别能力,实现隐私保护。在现有的扰动子结构优化方法中,基于遗传算法的方法表现较为突出,但这些方法在搜索解过程中缺少方向性指导,因此在构建扰动子结构的效果和效率上仍有提升空间。通过将梯度引导信息引入遗传算法搜索,可以优化扰动子结构的构建过程,从而提高社团隐匿的效果和效率。实验结果表明,在社团隐匿问题中加入梯度引导信息的遗传算法,在搜索扰动子结构方面显著优于其他基线方法,证明了其有效性。 展开更多

关键词 社团检测 社团隐匿 梯度优化 进化计算 扰动子结构

在线阅读 下载PDF 职称材料

无人驾驶深度强化学习决策模型性能评测方法综述

14

作者 顾同成 徐东伟 孙成巨 《计算机工程与应用》 北大核心 2025年第19期12-42,共31页

目前,以深度强化学习(deep reinforcement learning,DRL)为主要决策方法的端到端无人驾驶技术在典型交通驾驶任务中的表现取得显著进展。但是,由于DRL“试错”交互的独特学习方式,使其在应用到真实驾驶环境之前,必须经过严格的多维评测... 目前,以深度强化学习(deep reinforcement learning,DRL)为主要决策方法的端到端无人驾驶技术在典型交通驾驶任务中的表现取得显著进展。但是,由于DRL“试错”交互的独特学习方式,使其在应用到真实驾驶环境之前,必须经过严格的多维评测过程。因此,性能评测成为DRL无人驾驶决策模型向真实世界迁移的一个关键且不可或缺的步骤。梳理分析当前无人驾驶领域主流的技术实现方法;聚焦DRL方法,综述其在无人驾驶决策中的研究模式与最新成果,探讨其在处理无人驾驶任务时所面临的问题与瓶颈;面向端到端DRL无人驾驶决策模型,从安全性、鲁棒性、舒适性、效率、可靠性五个方面全面综述性能评测方法,分析影响因素并梳理性能评测流程;对比总结目前常用且开源的无人驾驶虚拟仿真平台的特点及适用场景;概述性能评测存在的开放性问题及对未来评测方法的研究展望,为相关研究和模型应用部署提供理论支持和参考依据。 展开更多

关键词 智能交通 无人驾驶 深度强化学习 评测方法 决策性能 端到端控制

在线阅读 下载PDF 职称材料

多无人机变时域分布式模型预测控制

15

作者 朱俊威 应良焕 +2 位作者 侯鑫 宣琦 李家鑫 《小型微型计算机系统》 北大核心 2025年第4期810-817,共8页

本文针对具有避碰和避障功能的四旋翼无人机系统的轨迹跟踪和编队问题,提出了一种基于收缩约束的变时域分布式模型预测控制(VDMPC)算法.首先,以实际四旋翼为控制对象,建立单机解耦线性时变模型及编队控制框架.在考虑多约束条件下,以编... 本文针对具有避碰和避障功能的四旋翼无人机系统的轨迹跟踪和编队问题,提出了一种基于收缩约束的变时域分布式模型预测控制(VDMPC)算法.首先,以实际四旋翼为控制对象,建立单机解耦线性时变模型及编队控制框架.在考虑多约束条件下,以编队轨迹跟踪与队形保持为控制目标,并对该两项目标权重自适应调整,以实现队形反馈控制.此外,将多步控制李雅普诺夫函数纳入DMPC方案中,其优化问题采用具有代价函数最小的可变长度的block优化策略,进而应用收缩约束保证了整个闭环系统的稳定性.该方法对优化问题求解计算量和控制性能方面作了最优权衡,提高了滚动优化效率,也避免了传统MPC稳定性中终端成分的设计.最后,通过多无人机仿真验证了所提算法的有效性. 展开更多

关键词 四旋翼无人机 编队控制 变时域分布式模型预测控制 收缩约束 block优化策略

在线阅读 下载PDF 职称材料

基于对比学习的图神经网络后门攻击防御方法 被引量：5

16

作者 陈晋音 熊海洋 +1 位作者 马浩男 郑雅羽 《通信学报》 EI CSCD 北大核心 2023年第4期154-166,共13页

针对现有的后门攻击防御方法难以处理非规则的非结构化的离散的图数据的问题,为了缓解图神经网络后门攻击的威胁,提出了一种基于对比学习的图神经网络后门攻击防御方法(CLB-Defense)。具体来说,基于对比学习无监督训练的对比模型查找可... 针对现有的后门攻击防御方法难以处理非规则的非结构化的离散的图数据的问题,为了缓解图神经网络后门攻击的威胁,提出了一种基于对比学习的图神经网络后门攻击防御方法(CLB-Defense)。具体来说,基于对比学习无监督训练的对比模型查找可疑后门样本,采取图重要性指标以及标签平滑策略去除训练数据集中的扰动,实现对图后门攻击的防御。最终,在4个真实数据集和5主流后门攻击方法上展开防御验证,结果显示CLB-Defense能够平均降低75.66%的攻击成功率(与对比算法相比,改善了54.01%)。 展开更多

关键词 图神经网络 后门攻击 鲁棒性 防御 对比学习

在线阅读 下载PDF 职称材料

一种融合信息网络结构的数据增强行为预测算法 被引量：3

17

作者 傅晨波 夏镒楠 +2 位作者 岳昕晨 俞山青 闵勇 《小型微型计算机系统》 CSCD 北大核心 2022年第3期568-573,共6页

随着互联网上用户移动数据的日益繁荣,用户的移动行为预测也成为了预测研究的热点.近年来,循环神经网络(RNN)技术因其高效性和扩展性在移动预测中得到了广泛的应用.但是,目前大部分网上收集到的用户移动行为数据普遍具有稀疏和异质的特... 随着互联网上用户移动数据的日益繁荣,用户的移动行为预测也成为了预测研究的热点.近年来,循环神经网络(RNN)技术因其高效性和扩展性在移动预测中得到了广泛的应用.但是,目前大部分网上收集到的用户移动行为数据普遍具有稀疏和异质的特性,特别是当用户出于习惯或隐私考虑可能会拒绝向平台提交活动记录.因此在这些稀疏数据集上基于RNN的预测技术无法有效地学习到足够的用户行为特征,从而影响了模型的预测性能.为了解决该问题,本文提出了一种融合信息网络结构的数据增强行为预测算法.具体来说,首先我们将用户历史行为数据转为信息网络图;然后通过该信息网络的模块度来评估用户的信息传递效率;最后根据信息传递效率对用户的朋友数据进行采样,将具有高信息传递效率的朋友数据嵌入到用户数据中对用户数据进行增强.在真实数据集Yelp上的实验结果显示,我们的方法可以起到对现有算法模型增强的作用,所有模型的预测性能都得到了大幅提升. 展开更多

关键词 移动行为预测 信息行为网络 网络模块度 稀疏数据

在线阅读 下载PDF 职称材料

社交媒体上连边推荐机制对用户意见演化的影响

18

作者 袁科佳 殳欣成 +2 位作者 彭松涛 宣琦 阮中远 《小型微型计算机系统》 北大核心 2025年第10期2328-2337,共10页

在当今社交媒体环境下,个性化推荐算法发挥着至关重要的作用,平台通过分析用户特征来提供针对性的内容或推荐潜在的新朋友,极大地增强了用户体验.然而,长期暴露在基于推荐算法导向的社交媒体下也可能导致一些负作用,其中最受研究关注的... 在当今社交媒体环境下,个性化推荐算法发挥着至关重要的作用,平台通过分析用户特征来提供针对性的内容或推荐潜在的新朋友,极大地增强了用户体验.然而,长期暴露在基于推荐算法导向的社交媒体下也可能导致一些负作用,其中最受研究关注的是回音室现象和观点极化.目前对于社交媒体连边推荐机制的研究通常关注用户网络结构和意见的相似性,但很少有工作深入探讨用户活跃度的异质性.对此,本文提出了一种基于连边推荐的Deffuant-Weisbuch模型(Link Recommendation-based DW Model,LRDW),该模型在考虑了用户之间的意见冲突的基础上,还将用户活跃度纳入推荐策略.此外,本研究探讨了不同推荐策略对意见极化的具体影响.在人工网络和真实社交媒体网络上的模拟实验结果显示,基于用户活跃度的推荐机制会加剧意见极化.同时,本文发现通过控制活跃人口的意见,在一定程度上能够引导总体意见的走向.最后本文在推荐策略中引入了随机元素,有效减弱了极化现象. 展开更多

关键词 意见极化 推荐机制 社交媒体 Deffuant-Weisbuch模型 活跃度

在线阅读 下载PDF 职称材料

面向深度学习的公平性研究综述 被引量：9

19

作者 陈晋音 陈奕芃 +4 位作者 陈一鸣 郑海斌 纪守领 时杰 程瑶 《计算机研究与发展》 EI CSCD 北大核心 2021年第2期264-280,共17页

深度学习是机器学习研究中的一个重要领域,它具有强大的特征提取能力,且在许多应用中表现出先进的性能,因此在工业界中被广泛应用.然而,由于训练数据标注和模型设计存在偏见,现有的研究表明深度学习在某些应用中可能会强化人类的偏见和... 深度学习是机器学习研究中的一个重要领域,它具有强大的特征提取能力,且在许多应用中表现出先进的性能,因此在工业界中被广泛应用.然而,由于训练数据标注和模型设计存在偏见,现有的研究表明深度学习在某些应用中可能会强化人类的偏见和歧视,导致决策过程中的不公平现象产生,从而对个人和社会产生潜在的负面影响.为提高深度学习的应用可靠性、推动其在公平领域的发展,针对已有的研究工作,从数据和模型2方面出发,综述了深度学习应用中的偏见来源、针对不同类型偏见的去偏方法、评估去偏效果的公平性评价指标、以及目前主流的去偏平台,最后总结现有公平性研究领域存在的开放问题以及未来的发展趋势. 展开更多

关键词 深度学习 算法公平性 去偏方法 公平性指标 机器学习

在线阅读 下载PDF 职称材料

基于图注意力机制的平均场多智能车辆动态路径规划方法

20

作者 张彪 朱宏俊 徐东伟 《指挥与控制学报》 北大核心 2025年第5期642-648,共7页

随着车辆保有量的增加,交通拥堵成为城市路网面临的最严重的问题之一。提出一种基于图注意力机制的平均场多智能车辆动态路径规划方法,通过智能车辆之间的有效协同实现动态路径规划,一定程度上提高了路网的通行效率。根据车辆之间的距... 随着车辆保有量的增加,交通拥堵成为城市路网面临的最严重的问题之一。提出一种基于图注意力机制的平均场多智能车辆动态路径规划方法,通过智能车辆之间的有效协同实现动态路径规划,一定程度上提高了路网的通行效率。根据车辆之间的距离和影响关系进行图的构建;采用注意力机制,聚合当前智能车辆与邻居智能车辆的观测状态;根据平均场理论将周围智能体的联合动作考虑在内,进行Q值函数的更新,选择最优的路线。在简单自定义路网和杭州市滨江区路网上实施,结果表明,在不同的道路通行情况下,都能缩短智能车辆的平均旅行时间。 展开更多

关键词 智能交通系统 多智能体强化学习 平均场 动态路径规划 注意力机制

在线阅读 下载PDF 职称材料