-
题名针对自动驾驶智能模型的攻击与防御
被引量：2
- 1
-
-
作者
马晨
沈超
蔺琛皓
李前
王骞
李琦
管晓宏
-
机构
西安交通大学电子与信息学部网络空间安全学院
智能网络与网络安全教育部重点实验室(西安交通大学)
武汉大学国家网络安全学院
清华大学网络科学与网络空间研究院
-
出处
《计算机学报》
EI
CAS
CSCD
北大核心
2024年第6期1431-1452,共22页
-
基金
科技创新2030-“新一代人工智能”重大项目(2020AAA0107702)
国家自然科学基金(U21B2018,62161160337,6213201162376210,62006181,U20B2049,U20A20177,62206217)
陕西省重点研发计划项目(2021ZDLGY01-02,2023-ZDLGY-38)资助.
-
文摘
近年来,以深度学习算法为代表的人工智能技术为人类生产生活的方方面面带来了巨大的革新,尤其是在自动驾驶领域,部署着自动驾驶系统的智能汽车已经走进入们的生活,成为了重要的生产力工具.然而,自动驾驶系统中的人工智能模型面临着潜在的安全隐患和风险,这给人民群众生命财产安全带来了严重威胁.本文通过回顾自动驾驶智能模型攻击和防御的相关研究工作,揭示自动驾驶系统在物理世界下面临的安全风险并归纳总结了相应的防御对策.具体来说,本文首先介绍了包含攻击面、攻击能力和攻击目标的自动驾驶系统安全风险模型.其次,面向自动驾驶系统的三个关键功能层——传感器层、感知层和决策层,本文依据受攻击的智能模型和攻击手段归纳、分析了对应的攻击方法以及防御对策,并探讨了现有方法的局限性.最后,本文讨论和展望了自动驾驶智能模型攻击与防御技术面临的难题与挑战,并指出了未来潜在的研究方向和发展趋势.
-
关键词
自动驾驶安全
人工智能安全
信息物理系统安全
物理对抗攻击
防御策略
-
Keywords
autonomous driving security
artificial intelligence security
cyber-physical system security
physical adversarial attack
defense strategy
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
