-
题名铁路行业大模型安全体系架构研究
被引量：1
- 1
-
-
作者
代明睿
周亮瑾
史维峰
丁晓萌
王鹏
李国华
-
机构
中国铁道科学研究院集团有限公司电子计算技术研究所
中国国家铁路集团有限公司科技和信息化部
中国铁路信息科技集团有限公司
-
出处
《中国铁路》
北大核心
2025年第4期112-119,共8页
-
基金
中国铁道科学研究院集团有限公司科研开发基金项目(2023YJ138)。
-
文摘
技术创新是推动新一代人工智能发展的关键因素,特别是大模型的发展,开启了人工智能新时代。我国铁路也开展了人工智能行业大模型建设,然而,大模型自身存在一定安全风险,如何构建铁路行业大模型安全体系,保障大模型应用的可信性与可靠性,是需关注的问题。首先调研大模型安全技术发展现状与趋势,分析铁路行业大模型安全技术的场景特点,挖掘其安全需求。其次,从安全风险、安全管理、安全目标、安全保障等角度出发,提出铁路行业大模型安全体系架构设计思路。最后,提出其安全保障技术,包括:提示词攻击防御技术,防止大模型被恶意诱导泄露铁路敏感信息;基于检索增强生成的幻觉抑制技术,降低大模型幻觉现象,提高模型生成内容的质量和安全性;数据保护技术,防止大模型输出原始训练数据或越权信息。
-
关键词
人工智能
铁路行业大模型
安全体系
提示词攻击防御
幻觉抑制
数据保护
-
Keywords
artificial intelligence
large models in railway industry
security architecture
prompt injection defense
hallucination mitigation
data protection
-
分类号
U29-39
[交通运输工程—交通运输规划与管理]
TP391.1
[自动化与计算机技术—计算机应用技术]
-
