-
题名铁路行业大模型安全体系架构研究
- 1
-
-
作者
代明睿
周亮瑾
史维峰
丁晓萌
王鹏
李国华
-
机构
中国铁道科学研究院集团有限公司电子计算技术研究所
中国国家铁路集团有限公司科技和信息化部
中国铁路信息科技集团有限公司
-
出处
《中国铁路》
北大核心
2025年第4期112-119,共8页
-
基金
中国铁道科学研究院集团有限公司科研开发基金项目(2023YJ138)。
-
文摘
技术创新是推动新一代人工智能发展的关键因素,特别是大模型的发展,开启了人工智能新时代。我国铁路也开展了人工智能行业大模型建设,然而,大模型自身存在一定安全风险,如何构建铁路行业大模型安全体系,保障大模型应用的可信性与可靠性,是需关注的问题。首先调研大模型安全技术发展现状与趋势,分析铁路行业大模型安全技术的场景特点,挖掘其安全需求。其次,从安全风险、安全管理、安全目标、安全保障等角度出发,提出铁路行业大模型安全体系架构设计思路。最后,提出其安全保障技术,包括:提示词攻击防御技术,防止大模型被恶意诱导泄露铁路敏感信息;基于检索增强生成的幻觉抑制技术,降低大模型幻觉现象,提高模型生成内容的质量和安全性;数据保护技术,防止大模型输出原始训练数据或越权信息。
-
关键词
人工智能
铁路行业大模型
安全体系
提示词攻击防御
幻觉抑制
数据保护
-
Keywords
artificial intelligence
large models in railway industry
security architecture
prompt injection defense
hallucination mitigation
data protection
-
分类号
U29-39
[交通运输工程—交通运输规划与管理]
TP391.1
[自动化与计算机技术—计算机应用技术]
-
-
题名铁路行业视觉大模型构建及应用
被引量：1
- 2
-
-
作者
代明睿
李文浩
史维峰
李国华
杨涛存
杜文然
-
机构
中国铁道科学研究院集团有限公司电子计算技术研究所
-
出处
《中国铁路》
北大核心
2025年第1期1-12,共12页
-
基金
中国国家铁路集团有限公司科技研究开发计划项目(P2023S001)。
-
文摘
铁路领域的视觉应用场景往往具有场景复杂多变、有效样本量少等困难,单独设计面向各场景的小模型耗费大量时间精力且难以满足业务要求,因此构建铁路行业视觉大模型具有重要意义。研究挖掘视觉大模型的潜在应用场景,提出铁路视觉大模型构建方案,基于UPerNet网络,利用InternImage代替原主干网络,更好地捕捉图像目标细节,并将Semantic-Aware Nor⁃malization(SAN)与Semantic-Aware Whitening(SAW)注意力机制代替原金字塔池化模块,提升模型整体鲁棒性,将空间注意力与通道注意力融合代替原解码部分,实现动态地调整对不同区域的关注度,最后通过半自动化标注构建一批铁路场景数据集。实验结果表明,研究提出的改进的UPerNet_InternImage铁路行业视觉大模型在提高分割效果的准确性和鲁棒性方面具有一定潜力,并在面对后续具体场景的分割任务时,收敛速度更快、模型效果更好,为解决铁路视觉场景中的问题提供了新的思路和方法。
-
关键词
人工智能
可变形卷积
注意力机制
语义分割
视觉大模型
铁路行业大模型
-
Keywords
artificial intelligence
deformable convolution
attention mechanism
semantic segmentation
large vision model
large models for railway industry
-
分类号
U29-39
[交通运输工程—交通运输规划与管理]
TP18
[自动化与计算机技术—控制理论与控制工程]
TP391.4
[自动化与计算机技术—计算机应用技术]
-
