-
题名基于特征迁移的流量对抗样本防御
- 1
-
-
作者
何元康
马海龙
胡涛
江逸茗
张鹏
梁浩
-
机构
解放军战略支援部队信息工程大学
网络空间安全教育部重点实验室
-
出处
《计算机科学》
北大核心
2025年第2期362-373,共12页
-
基金
雄安新区科技创新专项(2022XAGG0111)
国家自然科学基金青年科学基金(62002383)。
-
文摘
在流量检测领域,基于对抗训练的对抗样本防御方法需要大量对抗样本且训练后会降低对原始数据的识别准确率。针对该问题,提出了一种基于特征迁移的流量对抗样本防御方法,该方法结合了增强模型鲁棒性和隐藏对抗样本空间两种防御思路,由具有降噪功能的底层防御模块和具有识别功能的识别模块组成。首先,使用堆叠自编码器作为底层防御模块进行对抗知识学习,使其拥有对抗样本特征提取能力;其次,根据流量特征进行功能自适应构造,使用非对抗流量对识别模块进行训练从而获得识别能力。通过防御+识别功能的拆分,降低了防御成本消耗并减少了对抗训练对原始数据识别准确率的影响,实现了快速适配且提高了模型防御弹性,对新的对抗样本的识别准确率提升至40%左右。
-
关键词
入侵检测
流量对抗样本
对抗样本防御
防御知识迁移
-
Keywords
Intrusion detection
Traffic adversarial example
Adversarial example defense
Defensive knowledge transfer
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
-
题名基于生成对抗网络的对抗样本集成防御
- 2
-
-
作者
曹天杰
余志坤
祁韵妍
杨睿
张凤荣
陈秀清
-
机构
中国矿业大学教育部矿山数字化工程研究中心
中国矿业大学计算机科学与技术学院
徐州医科大学医学信息与工程学院
-
出处
《工程科学与技术》
EI
CSCD
北大核心
2022年第2期56-64,共9页
-
基金
中国博士后科学基金项目(2020T130098ZX)
江苏省博士后科研计划项目(1701061B)
国家自然科学基金项目(61972400)。
-
文摘
针对现有对抗样本防御方法防御能力不足、时间消耗过高等问题,参考生成对抗网络与集成学习在对抗样本研究中的优势,本文提出一种基于生成对抗网络的对抗样本集成防御方法。该方法使用生成对抗网络训练多个能够消除对抗样本表面对抗扰动的生成器,使用集成学习方法将多个生成器进行集成作为最终的防御。该方法的生成对抗网络由生成器和判别器组成。生成器以对抗样本作为输入,其目的是消除对抗样本表面的对抗扰动;判别器以良性样本与消除对抗扰动后的样本作为输入,其目的是区分输入的样本;生成器与判别器交替训练,当判别器无法对输入的样本做出区分时,生成器达到最佳状态。集成防御使用平均法作为集成策略,通过平均多个生成器的防御结果,取长补短,提升单个防御的能力;通过预训练生成器来降低防御的时间消耗,通过集成多个生成器来提升单个生成器的防御能力。分别在MNIST数据集与CIFAR10数据集上,用本文的集成防御方法与其他防御方法对常见的对抗样本进行防御,以分类准确率作为评价防御能力的指标,并记录防御的时间消耗。实验结果表明,本文方法能以较低的时间消耗防御多种对抗样本,并且防御能力比已有的防御方法更好。
-
关键词
对抗样本
对抗样本防御
推理模型
生成对抗网络
-
Keywords
adversarial example
adversarial example defense
inference model
generative adversarial network
-
分类号
TP391.4
[自动化与计算机技术—计算机应用技术]
-
-
题名面向图像数据的对抗样本检测与防御技术综述
被引量：15
- 3
-
-
作者
张田
杨奎武
魏江宏
刘扬
宁原隆
-
机构
战略支援部队信息工程大学
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2022年第6期1315-1328,共14页
-
基金
国家自然科学基金项目(61702549)
河南省科技攻关计划项目(172102210017)
信息工程大学前沿基金项目。
-
文摘
对抗样本是当前深度学习神经网络研究的热点问题.目前,对抗样本技术的研究主要分为2方面:生成攻击、检测防御.在总结对抗样本生成攻击技术的基础上,面向图像数据的对抗样本检测与防御技术综述从对抗样本的检测与防御的角度对面向图像数据的对抗样本防御技术进行了总结.综述从特征学习、分布统计、输入解离、对抗训练、知识迁移及降噪6个方面将检测与防御技术进行归类,介绍检测与防御技术的演进,分析其特点、性能,对比不同技术的优缺点,给出了检测效果和防御效果的综合评价.最后对当前该领域的研究情况进行了总结与展望.
-
关键词
深度学习
神经网络
对抗样本检测
对抗样本防御
降噪
-
Keywords
deep learning
neural network
adversarial examples detection
adversarial examples defense
denoising
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名面向语音识别系统的对抗样本攻击及防御综述
被引量：5
- 4
-
-
作者
陈佳豪
白炳松
王冬华
严迪群
王让定
-
机构
宁波大学信息科学与工程学院
-
出处
《小型微型计算机系统》
CSCD
北大核心
2022年第3期466-474,共9页
-
基金
浙江省自然科学基金项目(LY20F020010)资助
宁波市自然科学基金项目(202003N4089)资助。
-
文摘
自动语音识别系统(ASR)能将输入语音转换为对应的文本,其性能因深度学习技术的发展得到了显著提高.然而,通过在输入语音中添加微小扰动而生成的对抗样本,可以使人类毫无察觉的同时让ASR系统产生不可预测的,甚至是攻击性的指令.这种新型的对抗样本攻击给基于深度学习的ASR系统带来了诸多安全隐患.本文对语音对抗样本作了系统性的分析和梳理,提出了对现有对抗样本的分类.其次介绍了面向ASR系统的对抗样本生成方法.同时,阐述了典型的对抗样本防御策略.最后讨论了对抗样本带来的挑战,并分别就如何使生成的攻击更加逼真,和增强ASR的鲁棒性提出了若干有价值的研究方向.
-
关键词
语音对抗样本
语音识别系统
对抗样本防御
深度学习
生成对抗网络
-
Keywords
adversarial examples
speech recognition
defenses of adversarialexample
deep learning
generate adversarial network
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于自适应像素去噪的对抗攻击防御方法
被引量：1
- 5
-
-
作者
张帅
张晓琳
刘立新
王永平
郝琨
徐立
-
机构
内蒙古科技大学信息工程学院
中国人民大学信息学院
东北大学医学与生物信息工程学院
包头医学院计算机科学与技术系
-
出处
《计算机工程与设计》
北大核心
2023年第5期1336-1344,共9页
-
基金
国家自然科学基金项目(61562065)
内蒙古自然科学基金项目(2019MS06001、2019MS06036)。
-
文摘
针对深度神经网络容易遭到对抗样本攻击导致其分类错误的问题,提出一种基于自适应像素去噪的对抗攻击防御方法。通过基于前向导数的重要性计算方法获得像素重要性分数,根据像素重要性分数对多种对抗攻击进行鲁棒性分析,将其分为鲁棒或非鲁棒攻击,制定针对不同对抗攻击的降噪策略;按照降噪策略分别对重要性分数不同的图像像素进行自适应形态学降噪获得像素去噪图像;使用像素重要性分数、像素去噪图像等信息训练自适应像素去噪模型学习上述去噪过程,进行对抗防御。实验结果表明,该防御能在多个数据集与模型上快速且有效地防御各种对抗攻击,确保原始样本的精确分类。
-
关键词
深度神经网络
图像分类
对抗样本
鲁棒性
自适应
像素去噪
对抗样本防御
-
Keywords
deep neural networks
image classification
adversarial examples
robustness
adaptive
pixel denoising
adversarial examples defense
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
