-
题名文本对抗验证码的研究
被引量：1
- 1
-
-
作者
李剑明
闫巧
-
机构
深圳大学计算机与软件学院
-
出处
《计算机工程与应用》
CSCD
北大核心
2023年第21期278-286,共9页
-
基金
国家自然科学基金(61976142)
深圳科技计划项目(JCYJ20210324093609025)。
-
文摘
图像识别等深度学习技术的发展使得传统的文本验证码安全性下降,利用对抗样本这一深度神经网络存在的缺陷来增强文本验证码的安全性具有重要研究意义。通过将多种对抗样本生成算法应用到文本验证码上,生成文本对抗验证码,并从耗时、扰动大小、黑白盒识别率等多个方面衡量生成的对抗验证码的实际效果。基于验证码生成频率较高的应用场景特点,筛选出将通用对抗扰动应用到文本验证码上的方案;在应用快速通用对抗扰动(Fast-UAP)算法时,为了克服Fast-UAP的不稳定性,提出了I-FUAP(initialized-FUAP)算法,通过利用通用对抗扰动来进行初始化,实验表明,在不显著影响扰动成功率和对抗样本攻击效果的前提下,改进后的算法相比于原来的Fast-UAP能更快地生成通用对抗扰动,生成耗时减少约30.22%。
-
关键词
深度学习
验证码
对抗攻击
通用对抗扰动
-
Keywords
deep learning
completely automated public turing test to tell computers and humans apart(CAPTCHA)
adversarial attack
universal adversarial perturbation
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于多视图网络三维形状检索的通用扰动攻击
被引量：1
- 2
-
-
作者
唐静
彭伟龙
唐可可
方美娥
-
机构
广州大学计算机科学与网络工程学院
-
出处
《图学学报》
CSCD
北大核心
2022年第1期93-100,共8页
-
基金
国家自然科学基金项目(62072126,61772164)
广州市科技计划项目(202002030263,202102010419),广州大学校内科研人才培育项目(XJ2021001901)。
-
文摘
几何深度学习模型在三维形状检索任务中已应用,其安全评估工作也引起了研究者们的关注。该文针对三维形状检索评估提出一种基于多视图通用扰动攻击(MvUPA)的对抗攻击方法,其具有高成功率的攻击效果。首先设计多视角深度全景图检索模型,训练适用于视图类三维形状检索的高效嵌入向量;其次,为三维形状检索提出有益于通用扰动更新的损失函数方案和攻击机制。该损失函数方案同时融合了三元损失和标签损失,提升了对相近拓扑异类样本和差异拓扑同类样本的对抗扰动生成。通过实验验证了MvUPA在多个视图类检索模型上攻击的有效性和稳定性,攻击指标下降率(DR)最高达94.52%;融合损失函数相比单个损失函数DR指标提高约3.0%~5.5%。
-
关键词
三维形状检索
多视图通用扰动攻击
通用扰动攻击
几何深度学习
融合损失
-
Keywords
3D shape retrieval
multi-view universal perturbation attack
universal perturbation attack
geometric deep learning
fusion loss
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于替代模型的批量零阶梯度符号算法
- 3
-
-
作者
李炎达
范纯龙
滕一平
于铠博
-
机构
沈阳航空航天大学计算机学院
-
出处
《计算机科学》
CSCD
北大核心
2023年第S02期851-856,共6页
-
基金
国家自然科学基金青年基金(61902260)
辽宁省教育厅科学研究资助项目(JYT2020026)。
-
文摘
在面向神经网络的对抗攻击领域中,针对黑盒模型进行的通用攻击,如何生成导致多数样本输出错误的通用扰动是亟待解决的问题。然而,现有黑盒通用扰动生成算法的攻击效果不佳,且生成的扰动易被肉眼察觉。针对该问题,以典型卷积神经网络为研究对象,提出基于替代模型的批量零阶梯度符号算法。该算法通过对替代模型集合进行白盒攻击来初始化通用扰动,并在黑盒条件下查询目标模型,实现对通用扰动的稳定高效更新。在CIFAR-10和SVHN两个数据集上的实验结果表明,与基线算法对比,该算法攻击能力显著提升,其生成通用扰动的性能提高了近3倍。
-
关键词
卷积神经网络
通用扰动
对抗攻击
黑盒攻击
替代模型
-
Keywords
Convolutional neural network
universal perturbation
Adversarial attack
Black-box attack
Substitution model
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于差分进化的神经网络通用扰动生成方法
- 4
-
-
作者
高乾顺
范纯龙
李炎达
滕一平
-
机构
沈阳航空航天大学计算机学院
-
出处
《计算机应用》
CSCD
北大核心
2023年第11期3436-3442,共7页
-
基金
国家自然科学基金资助项目(61902260)
辽宁省教育厅科学研究项目(JYT2020026)。
-
文摘
针对超球面通用攻击(HGAA)算法中通用扰动搜索始终限定在空间球面上,不具有球内空间搜索能力的问题,提出一种基于超球面的差分进化算法。该算法将搜索空间扩大到球面内部,并通过差分进化(DE)算法搜索最优球面,从而生成愚弄率更高、模长更低的通用扰动。此外,分析了种群数量等关键参数对该算法的影响,并且测试了该算法生成的通用扰动在不同神经网络模型上的性能。在CIFAR10和SVHN图像分类数据集上进行验证,该算法与HGAA算法相比愚弄率最多提高了11.8个百分点。实验结果表明,该算法扩展了HGAA算法的通用扰动搜索空间,降低了通用扰动的模长,提高了通用扰动的愚弄率。
-
关键词
对抗攻击
通用扰动
神经网络
超球面攻击
差分进化算法
-
Keywords
adversarial attack
universal perturbation
neural network
hypersphere attack
Differential Evolution(DE)algorithm
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
