-
题名一种改进的深度神经网络后门攻击方法
被引量：1
- 1
-
-
作者
任时萱
王茂宇
赵辉
-
机构
四川大学网络空间安全学院
-
出处
《信息网络安全》
CSCD
北大核心
2021年第5期82-89,共8页
-
基金
国家重点研发计划[2020YFB1805400]
国家自然科学基金[U1736212]
+2 种基金
中国博士后科学基金[2019TQ0217]
中央高校基本科研业务费[YJ201933]
四川省重点研发计划[20ZDYF3145]。
-
文摘
触发器生成网络是深度神经网络后门攻击方法的关键算法。现有的触发器生成网络有以下两个主要问题:第一,触发器候选数据集使用静态的人工选择,未考虑候选数据集对目的神经元的敏感性,存在冗余数据。第二,触发器生成网络仅考虑如何更好地激活目的神经元,并未考虑触发器的抗检测问题。针对候选数据集冗余的问题,文章使用敏感度分析方法,选择相对目标神经元更敏感的数据集从而降低冗余数据。面对现有的触发器检测方法,改进的触发器生成网络可以在保证攻击准确度的情况下,通过设计聚类结果与随机化混淆作为综合惩罚的方法,使生成的触发器绕过检测。实验结果表明,使用这种方法生成的触发器可以在保持较高攻击精确率的同时,在聚类检测方法上表现出较低的攻击检测率,在STRIP扰动检测方法上表现出较高的攻击拒识率。
-
关键词
深度神经网络后门攻击
触发器生成网络
目的神经元
触发器
-
Keywords
backdoor attack in deep neural network
trigger generation network
targe tneuron
trigger
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
-
题名神经网络水印技术研究进展
被引量：9
- 2
-
-
作者
张颖君
陈恺
周赓
吕培卓
刘勇
黄亮
-
机构
中国科学院软件研究所可信计算与信息保障实验室
信息安全国家重点实验室(中国科学院信息工程研究所)
中国科学院大学网络空间安全学院
中国科学院大学计算机科学与技术学院
奇安信科技集团股份有限公司
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2021年第5期964-976,共13页
-
基金
国家自然科学基金重点项目(U1836211)
国家自然科学基金项目(62072448)
+2 种基金
北京市自然科学基金项目(JQ18011)
中国科学院青年创新促进会优秀会员(Y202046)
大数据协同安全国家工程实验室开放课题。
-
文摘
随着深度神经网络的推广应用,训练后的神经网络模型已经成为一种重要的资产并为用户提供服务.服务商在提供服务的同时,也更多地关注其模型的版权保护,神经网络水印技术应运而生.首先,分析水印及其基本需求,并对神经网络水印涉及的相关技术进行介绍;对深度神经网络水印技术进行对比,并重点对白盒和黑盒水印进行详细分析;对神经网络水印攻击技术展开对比,并按照水印攻击目标的不同,对水印鲁棒性攻击、隐蔽性攻击、安全性攻击等技术进行分类介绍;最后对未来方向与挑战进行探讨.
-
关键词
数字水印
深度神经网络
神经网络后门
神经网络水印
水印攻击
-
Keywords
digital watermark
deep neural network
neural network backdoor
neural network watermark
attacks on the watermarking
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
