期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
3
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
面向机器学习模型安全的测试与修复
被引量：
11
1
作者
张笑宇
沈超
+4 位作者
蔺琛皓
李前
王骞
李琦
管晓宏
《电子学报》
EI
CAS
CSCD
北大核心
2022年第12期2884-2918,共35页
近年来,以机器学习算法为代表的人工智能技术在计算机视觉、自然语言处理、语音识别等领域取得了广泛的应用,各式各样的机器学习模型为人们的生活带来了巨大的便利.机器学习模型的工作流程可以分为三个阶段.首先,模型接收人工收集或算...
近年来,以机器学习算法为代表的人工智能技术在计算机视觉、自然语言处理、语音识别等领域取得了广泛的应用,各式各样的机器学习模型为人们的生活带来了巨大的便利.机器学习模型的工作流程可以分为三个阶段.首先,模型接收人工收集或算法生成的原始数据作为输入,并通过预处理算法(如数据增强和特征提取)对数据进行预处理.随后,模型定义神经元或层的架构,并通过运算符(例如卷积和池)构建计算图.最后,模型调用机器学习框架的函数功能实现计算图并执行计算,根据模型神经元的权重计算输入数据的预测结果.在这个过程中,模型中单个神经元输出的轻微波动可能会导致完全不同的模型输出,从而带来巨大的安全风险.然而,由于对机器学习模型的固有脆弱性及其黑箱特征行为的理解不足,研究人员很难提前识别或定位这些潜在的安全风险,这为个人生命财产安全乃至国家安全带来了诸多风险和隐患.研究机器学习模型安全的相关测试与修复方法,对深刻理解模型内部风险与脆弱性、全面保障机器学习系统安全性以及促进人工智能技术的广泛应用有着重要意义.本文从不同安全测试属性出发,详细介绍了现有的机器学习模型安全测试和修复技术,总结和分析了现有研究中的不足,探讨针对机器学习模型安全的测试与修复的技术进展和未来挑战,为模型的安全应用提供了指导和参考.本文首先介绍了机器学习模型的结构组成和主要安全测试属性,随后从机器学习模型的三个组成部分即数据、算法和实现,六种模型安全相关测试属性即正确性、鲁棒性、公平性、效率、可解释性和隐私性,分析、归纳和总结了相关的测试与修复方法及技术,并探讨了现有方法的局限.最后本文讨论和展望了机器学习模型安全的测试与修复方法的主要技术挑战和发展趋势.
展开更多
关键词
人工智能安全
机器学习安全
机器学习模型测试
机器学习模型修复
软件测试
软件修复
在线阅读
下载PDF
职称材料
针对自动驾驶智能模型的攻击与防御
被引量：
2
2
作者
马晨
沈超
+4 位作者
蔺琛皓
李前
王骞
李琦
管晓宏
《计算机学报》
EI
CAS
CSCD
北大核心
2024年第6期1431-1452,共22页
近年来,以深度学习算法为代表的人工智能技术为人类生产生活的方方面面带来了巨大的革新,尤其是在自动驾驶领域,部署着自动驾驶系统的智能汽车已经走进入们的生活,成为了重要的生产力工具.然而,自动驾驶系统中的人工智能模型面临着潜在...
近年来,以深度学习算法为代表的人工智能技术为人类生产生活的方方面面带来了巨大的革新,尤其是在自动驾驶领域,部署着自动驾驶系统的智能汽车已经走进入们的生活,成为了重要的生产力工具.然而,自动驾驶系统中的人工智能模型面临着潜在的安全隐患和风险,这给人民群众生命财产安全带来了严重威胁.本文通过回顾自动驾驶智能模型攻击和防御的相关研究工作,揭示自动驾驶系统在物理世界下面临的安全风险并归纳总结了相应的防御对策.具体来说,本文首先介绍了包含攻击面、攻击能力和攻击目标的自动驾驶系统安全风险模型.其次,面向自动驾驶系统的三个关键功能层——传感器层、感知层和决策层,本文依据受攻击的智能模型和攻击手段归纳、分析了对应的攻击方法以及防御对策,并探讨了现有方法的局限性.最后,本文讨论和展望了自动驾驶智能模型攻击与防御技术面临的难题与挑战,并指出了未来潜在的研究方向和发展趋势.
展开更多
关键词
自动驾驶安全
人工智能安全
信息物理系统安全
物理对抗攻击
防御策略
在线阅读
下载PDF
职称材料
虚假数字人脸内容生成与检测技术
被引量：
11
3
作者
蔺琛皓
沈超
+5 位作者
邓静怡
胡鹏斌
王骞
马仕清
李琦
管晓宏
《计算机学报》
EI
CAS
CSCD
北大核心
2023年第3期469-498,共30页
近年来,以深度学习算法为代表的人工智能技术在安防视频监控、个人隐私保护、自动驾驶等领域广泛应用.尤其在人脸识别等领域,深度学习方法显示出超越人类感知及辨别的能力,为人类的日常生活带来了诸多便利.然而,利用人工智能生成、对抗...
近年来,以深度学习算法为代表的人工智能技术在安防视频监控、个人隐私保护、自动驾驶等领域广泛应用.尤其在人脸识别等领域,深度学习方法显示出超越人类感知及辨别的能力,为人类的日常生活带来了诸多便利.然而,利用人工智能生成、对抗、伪造等技术产生的虚假数字人脸给个人隐私安全、社会安全乃至国家安全等方面带来了诸多风险和挑战.本文通过回顾虚假数字人脸内容生成与检测的相关研究工作,揭示其对国民、国家安全造成的潜在威胁.具体来说,本文首先介绍虚假数字人脸内容的攻击对象及攻击类型,从两种攻击对象—人工智能系统及人类感知系统,两大攻击类型—人脸对抗样本及人脸深度篡改,归纳、分析相应的生成、攻击及检测、防御技术.最后,本文讨论和展望虚假数字人脸内容生成与检测技术未来的研究方向和发展趋势.
展开更多
关键词
虚假数字内容
人脸对抗样本
人脸深度篡改
人工智能安全
隐私保护
在线阅读
下载PDF
职称材料
题名
面向机器学习模型安全的测试与修复
被引量：
11
1
作者
张笑宇
沈超
蔺琛皓
李前
王骞
李琦
管晓宏
机构
西安交通大学电子与信息学部网络空间安全学院
智能
网络
与
网络
安全
教育部重点实验室(
西安交通大学
)
武汉
大学
国家
网络
安全
学院
清华
大学
网络
科学与
网络空间
研究院
中关村实验室
出处
《电子学报》
EI
CAS
CSCD
北大核心
2022年第12期2884-2918,共35页
基金
科技创新2030——“新一代人工智能”重大项目(No.2020AAA0107702)
国家自然科学基金(No.62161160337,No.U21B2018,No.U20A20177,No.62132011,No.62006181,No.U20B2049)
陕西重点研发计划项目(No.2021ZD LGY01-02)。
文摘
近年来,以机器学习算法为代表的人工智能技术在计算机视觉、自然语言处理、语音识别等领域取得了广泛的应用,各式各样的机器学习模型为人们的生活带来了巨大的便利.机器学习模型的工作流程可以分为三个阶段.首先,模型接收人工收集或算法生成的原始数据作为输入,并通过预处理算法(如数据增强和特征提取)对数据进行预处理.随后,模型定义神经元或层的架构,并通过运算符(例如卷积和池)构建计算图.最后,模型调用机器学习框架的函数功能实现计算图并执行计算,根据模型神经元的权重计算输入数据的预测结果.在这个过程中,模型中单个神经元输出的轻微波动可能会导致完全不同的模型输出,从而带来巨大的安全风险.然而,由于对机器学习模型的固有脆弱性及其黑箱特征行为的理解不足,研究人员很难提前识别或定位这些潜在的安全风险,这为个人生命财产安全乃至国家安全带来了诸多风险和隐患.研究机器学习模型安全的相关测试与修复方法,对深刻理解模型内部风险与脆弱性、全面保障机器学习系统安全性以及促进人工智能技术的广泛应用有着重要意义.本文从不同安全测试属性出发,详细介绍了现有的机器学习模型安全测试和修复技术,总结和分析了现有研究中的不足,探讨针对机器学习模型安全的测试与修复的技术进展和未来挑战,为模型的安全应用提供了指导和参考.本文首先介绍了机器学习模型的结构组成和主要安全测试属性,随后从机器学习模型的三个组成部分即数据、算法和实现,六种模型安全相关测试属性即正确性、鲁棒性、公平性、效率、可解释性和隐私性,分析、归纳和总结了相关的测试与修复方法及技术,并探讨了现有方法的局限.最后本文讨论和展望了机器学习模型安全的测试与修复方法的主要技术挑战和发展趋势.
关键词
人工智能安全
机器学习安全
机器学习模型测试
机器学习模型修复
软件测试
软件修复
Keywords
artificial intelligence security
machine learning security
machine learning model testing
machine learning model repairing
software testing
software repairing
分类号
TP391 [自动化与计算机技术—计算机应用技术]
在线阅读
下载PDF
职称材料
题名
针对自动驾驶智能模型的攻击与防御
被引量：
2
2
作者
马晨
沈超
蔺琛皓
李前
王骞
李琦
管晓宏
机构
西安交通大学电子与信息学部网络空间安全学院
智能
网络
与
网络
安全
教育部重点实验室(
西安交通大学
)
武汉
大学
国家
网络
安全
学院
清华
大学
网络
科学与
网络空间
研究院
出处
《计算机学报》
EI
CAS
CSCD
北大核心
2024年第6期1431-1452,共22页
基金
科技创新2030-“新一代人工智能”重大项目(2020AAA0107702)
国家自然科学基金(U21B2018,62161160337,6213201162376210,62006181,U20B2049,U20A20177,62206217)
陕西省重点研发计划项目(2021ZDLGY01-02,2023-ZDLGY-38)资助.
文摘
近年来,以深度学习算法为代表的人工智能技术为人类生产生活的方方面面带来了巨大的革新,尤其是在自动驾驶领域,部署着自动驾驶系统的智能汽车已经走进入们的生活,成为了重要的生产力工具.然而,自动驾驶系统中的人工智能模型面临着潜在的安全隐患和风险,这给人民群众生命财产安全带来了严重威胁.本文通过回顾自动驾驶智能模型攻击和防御的相关研究工作,揭示自动驾驶系统在物理世界下面临的安全风险并归纳总结了相应的防御对策.具体来说,本文首先介绍了包含攻击面、攻击能力和攻击目标的自动驾驶系统安全风险模型.其次,面向自动驾驶系统的三个关键功能层——传感器层、感知层和决策层,本文依据受攻击的智能模型和攻击手段归纳、分析了对应的攻击方法以及防御对策,并探讨了现有方法的局限性.最后,本文讨论和展望了自动驾驶智能模型攻击与防御技术面临的难题与挑战,并指出了未来潜在的研究方向和发展趋势.
关键词
自动驾驶安全
人工智能安全
信息物理系统安全
物理对抗攻击
防御策略
Keywords
autonomous driving security
artificial intelligence security
cyber-physical system security
physical adversarial attack
defense strategy
分类号
TP309 [自动化与计算机技术—计算机系统结构]
在线阅读
下载PDF
职称材料
题名
虚假数字人脸内容生成与检测技术
被引量：
11
3
作者
蔺琛皓
沈超
邓静怡
胡鹏斌
王骞
马仕清
李琦
管晓宏
机构
西安交通大学电子与信息学部网络空间安全学院
智能
网络
与
网络
安全
教育部重点实验室(
西安交通大学
)
武汉
大学
网络
安全
学院
罗格斯
大学
计算机
学院
清华
大学
网络
科学与
网络空间
研究院
出处
《计算机学报》
EI
CAS
CSCD
北大核心
2023年第3期469-498,共30页
基金
科技创新2030-“新一代人工智能”重大项目(No.2020AAA0107702)
国家自然科学基金重大项目(62006181,U20A20177,61822309,61703301,U21B2018)
陕西重点研发计划项目(2021ZDLGY01-02)资助.
文摘
近年来,以深度学习算法为代表的人工智能技术在安防视频监控、个人隐私保护、自动驾驶等领域广泛应用.尤其在人脸识别等领域,深度学习方法显示出超越人类感知及辨别的能力,为人类的日常生活带来了诸多便利.然而,利用人工智能生成、对抗、伪造等技术产生的虚假数字人脸给个人隐私安全、社会安全乃至国家安全等方面带来了诸多风险和挑战.本文通过回顾虚假数字人脸内容生成与检测的相关研究工作,揭示其对国民、国家安全造成的潜在威胁.具体来说,本文首先介绍虚假数字人脸内容的攻击对象及攻击类型,从两种攻击对象—人工智能系统及人类感知系统,两大攻击类型—人脸对抗样本及人脸深度篡改,归纳、分析相应的生成、攻击及检测、防御技术.最后,本文讨论和展望虚假数字人脸内容生成与检测技术未来的研究方向和发展趋势.
关键词
虚假数字内容
人脸对抗样本
人脸深度篡改
人工智能安全
隐私保护
Keywords
digitally forged content
adversarial face example
deep face manipulation
artificial intelligence security
privacy protection
分类号
TP309 [自动化与计算机技术—计算机系统结构]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
面向机器学习模型安全的测试与修复
张笑宇
沈超
蔺琛皓
李前
王骞
李琦
管晓宏
《电子学报》
EI
CAS
CSCD
北大核心
2022
11
在线阅读
下载PDF
职称材料
2
针对自动驾驶智能模型的攻击与防御
马晨
沈超
蔺琛皓
李前
王骞
李琦
管晓宏
《计算机学报》
EI
CAS
CSCD
北大核心
2024
2
在线阅读
下载PDF
职称材料
3
虚假数字人脸内容生成与检测技术
蔺琛皓
沈超
邓静怡
胡鹏斌
王骞
马仕清
李琦
管晓宏
《计算机学报》
EI
CAS
CSCD
北大核心
2023
11
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
