近日,中国科学院软件所智能博弈重点实验室研究团队的论文“Mimicking the Familiar:Dynamic Command Generation for Information Theft Attacks in LLM Tool-Learning System”被自然语言处理领域会议ACL 2025授予SAC Highlights奖。...近日,中国科学院软件所智能博弈重点实验室研究团队的论文“Mimicking the Familiar:Dynamic Command Generation for Information Theft Attacks in LLM Tool-Learning System”被自然语言处理领域会议ACL 2025授予SAC Highlights奖。该研究揭示了大语言模型工具学习系统(LLM Tool-Learning System)存在的安全隐患,通过模拟攻击者工具投毒,分析造成的信息窃取风险并提出针对性防御方法,弥补了现有推理端安全检测方法的不足。论文主要完成人为特别研究助理江子攸、副研究员李明阳、研究员王俊杰和研究员王青。展开更多
文摘近日,中国科学院软件所智能博弈重点实验室研究团队的论文“Mimicking the Familiar:Dynamic Command Generation for Information Theft Attacks in LLM Tool-Learning System”被自然语言处理领域会议ACL 2025授予SAC Highlights奖。该研究揭示了大语言模型工具学习系统(LLM Tool-Learning System)存在的安全隐患,通过模拟攻击者工具投毒,分析造成的信息窃取风险并提出针对性防御方法,弥补了现有推理端安全检测方法的不足。论文主要完成人为特别研究助理江子攸、副研究员李明阳、研究员王俊杰和研究员王青。
