-
题名基于秘密分享的大语言模型密态推理
- 1
-
-
作者
程珂
夏昱珩
代川云
付家瑄
祝幸辉
沈玉龙
-
机构
西安电子科技大学计算机科学与技术学院
西安电子科技大学陕西省网络与系统安全重点实验室
-
出处
《通信学报》
北大核心
2025年第6期168-184,共17页
-
基金
国家重点研发计划基金资助项目(No.2023YFB3107500)
国家自然科学基金资助项目(No.62402358,No.62220106004,No.92467201)
+5 种基金
陕西省自然科学基础研究计划基金资助项目(No.2025JC-YBQN-869)
陕西省技术创新引导计划(基金)资助项目(No.2023KXJ-033)
山东省重点研发计划基金资助项目(No.2023CXPT056)
陕西省科学技术协会青年人才托举计划基金资助项目(No.20240138)
香港狮子山网络空间安全实验室研究课题基金资助项目(No.LRL24004)
中央高校基本科研业务费专项资金资助项目(No.ZDRC2202,No.KYFZ25005)。
-
文摘
大语言模型推理服务可能导致用户输入提示信息泄露给服务器端或专有模型权重泄露给用户。安全多方计算、同态加密等密码学技术为解决上述问题提供了可行方案,但由于计算和通信开销过大,在处理大语言模型推理任务时难以实际应用。基于此,提出了基于轻量级秘密分享的大语言模型密态推理方案,在不泄露用户输入和模型权重的前提下,高效精准地实现大语言模型推理。实验表明,相较现有先进工作,所提方案密态推理效率提升1.2~10倍,通信开销减少20%~90%。
-
关键词
隐私保护
大语言模型
秘密分享
安全多方计算
密态推理
-
Keywords
privacy-preserving
large language model
secret sharing
secure multi-party computation
cryptographic inference
-
分类号
TP393
[自动化与计算机技术—计算机应用技术]
-
