-
题名多模态大语言模型的安全性研究综述
- 1
-
-
作者
陈晋音
席昌坤
郑海斌
高铭
张甜馨
-
机构
浙江工业大学信息工程学院
浙江工业大学计算机科学与技术学院、软件学院
四川大学数据安全防护与智能治理教育部重点实验室
-
出处
《计算机科学》
北大核心
2025年第7期315-341,共27页
-
基金
国家自然科学基金(62406286)
浙江省自然科学基金(LDQ23F020001)
+1 种基金
四川大学数据安全防护与智能治理教育部重点实验室放课题(SCUSAKFKT202402Z)
北京生命科技研究院有限公司开放基金(2024200CD0210)。
-
文摘
随着大型语言模型的快速发展,多模态大语言模型因其在语言、图像等多种模态上的卓越表现而备受瞩目。其不仅在日常工作中成为用户的得力助手,还逐渐渗透到自动驾驶、医学诊断等各大应用领域。与传统的大型语言模型相比,多模态大语言模型由于更接近于多资源的现实世界应用以及多模态处理的复杂性而具有巨大的潜力和挑战。然而,多模态大语言模型的脆弱性研究相对较少,这些模型在实际应用中面临着诸多安全性挑战。为此,对多模态大语言模型尤其是大型视觉-语言模型的安全性进行了全面调查。首先,概述了多模态大语言模型的基本结构和发展历程;其次,讨论了多模态大语言模型在使用全周期的安全风险成因,分析了模型结构与安全风险之间的关联性;再次,系统总结了当前在多模态大语言模型图像和文本安全性的评估方面所做的工作,包括模型幻觉、隐私安全、偏见和鲁棒性4个方面,并将针对多模态大语言模型的攻击分为越狱攻击、对抗攻击、后门攻击和中毒攻击;然后,综合概述了一系列针对多模态大语言模型幻觉、隐私泄露和偏见等威胁的可信增强方法以及针对模型恶意攻击的防御措施;最后,讨论了多模态大语言模型安全性研究的主要机遇与挑战,为研究人员在多模态大语言模型的复杂应用和研究领域提供了指导建议。
-
关键词
模态大语言模型
安全
幻觉
对抗
越狱
防御
-
Keywords
Multimodal large language models
Security
Hallucinations
Adversarial
Jailbreak
Defence
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名高效的隐私保护多方多数据排序
- 2
-
-
作者
商帅
李雄
张文琪
汪小芬
李哲涛
张小松
-
机构
电子科技大学计算机科学与工程学院(网络空间安全学院)
四川大学数据安全防护与智能治理教育部重点实验室
电子科技大学(深圳)高等研究院
暨南大学网络安全检测与防护国家地方联合工程研究中心
暨南大学数据安全与隐私保护广东省重点实验室
暨南大学信息科学技术学院
-
出处
《计算机学报》
EI
CAS
CSCD
北大核心
2024年第8期1832-1852,共21页
-
基金
国家自然基金项目(重点项目62332018,面上项目62072078和62271128)
四川省自然科学基金面上项目(2022NSFSC0550)
四川大学数据安全防护与智能治理教育部重点实验室开放课题(SCUSAKFKT202303Z)的资助。
-
文摘
安全多方计算允许具有私密输入的多个参与方联合计算一个多输入函数而不泄露各参与方私有输入的任何信息,因此近年来受到广泛关注.作为安全多方计算中的一个基础问题,隐私保护排序允许多个参与方在不泄露数据集隐私的前提下计算多个数据集的排序结果,广泛应用于产品定价、拍卖等场景.现有的隐私保护排序协议大多只支持两个参与方.而已有的多方多数据排序协议通信开销大、计算复杂度高,整体效率较低.现有隐私保护排序协议均未考虑恶意参与者的穷举攻击,因此安全保护不足.对此,本文提出一个高效的隐私保护多方多数据排序协议.多个参与方仅需O(1)轮交互即可以隐私保护的方式获得其持有的多个数据的排序结果.具体来讲,本文设计一种基于多项式的编码方法,将参与方的数据集编码为一个多项式,其每项的指数和系数分别代表数据和该数据的个数.通过多项式加法可实现多个参与方数据集的排序.同时,本文设计了多项式加密、聚合多项式生成和解密多项式生成算法,在保证计算正确性的同时实现多项式的隐私保护.最后,各参与方通过不经意传输技术获得排序结果.本文定义了不合谋参与方穷举攻击下的恶意安全.安全性分析表明本文协议不仅实现了半诚实安全性,而且达到了不合谋恶意用户穷举攻击的恶意安全性.此外,大量实验表明本文提出的协议在通信和计算方面都十分高效.如当参与方数量为15、每个参与方持有20000个数据、数据上界为500000时,本文协议的通信和计算开销分别为898.44 MB和69.76 s,仅为LDYW协议的12.08%和76.85%;而相对于AHM+方案,本文协议在通信开销仅增加约4倍的情况下使计算效率提升了约20倍.
-
关键词
隐私计算
安全多方排序
安全数据分析
隐私保护
排序
-
Keywords
privacy computing
secure multi-party sorting
secure data analysis
privacy protection
sorting
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于多层聚类的自适应扰动匿名化算法及应用
- 3
-
-
作者
熊嘉城
陈兴蜀
兰晓
-
机构
四川大学网络空间安全学院
四川大学数据安全防护与智能治理教育部重点实验室
四川大学网络空间安全研究院
-
出处
《现代电子技术》
北大核心
2025年第14期85-89,共5页
-
基金
中央高校基本科研业务费专项资金(SCU2024D012)
四川大学理工学科内涵发展项目(2020SCUNG129)。
-
文摘
传统的K-means聚类算法在实现数据匿名化过程中,存在高维数据处理效率低下、敏感属性保护不足以及信息丢失较大的问题。为此,基于K-means聚类算法和Mondrian算法,提出一种多层聚类的自适应扰动匿名化算法(APMCA)。该算法结合区块映射与交叉迭代自适应扰动策略对数据集进行多粒度分区,增强数据划分的适应能力,确保敏感属性在分区内均匀分布,从而在细粒度层面提升隐私保护效果,降低重识别风险。实验结果表明,所提方法能有效进行数据匿名化并提升运行效率,可以满足复杂数据场景的匿名化需求。
-
关键词
数据匿名化
多层聚类
自适应扰动
PCA技术
隐私保护
多粒度分区
-
Keywords
data anonymization
multilayer clustering
adaptive perturbation
PCA technology
privacy preservation
multigranularity partition
-
分类号
TN918.1-34
[电子电信—通信与信息系统]
TP391
[自动化与计算机技术—计算机应用技术]
-
