-
题名一种利用大语言模型的安全关键系统失效模式识别方法
- 1
-
-
作者
林翰鑫
杨志斌
周勇
李维
-
机构
南京航空航天大学计算机科学与技术学院
高安全系统的软件开发与验证技术工信部重点实验室
航宇救生装备有限公司
-
出处
《小型微型计算机系统》
北大核心
2025年第9期2233-2241,共9页
-
基金
国家自然科学基金项目(62072233)资助
国防基础科研项目(JCKY2020205C006)资助
航空科学基金项目(201919052002)资助.
-
文摘
基于模型的安全分析(MBSA)是安全关键系统(SCS)安全评估的最新方法.失效模式是指系统、组件或设计可能无法达到预期性能标准的表现方式,是MBSA故障行为建模的重要组成部分.然而,随着系统复杂性的增加,手动提取失效模式非常耗时,不同安全工程师的提取结果缺乏一致性.为了应对这些挑战,本文提出了LLM4IFM方法,该方法利用大语言模型(LLM)从故障历史记录、安全标准等文本源中提取失效模式.为了确保数据安全,LLM4IFM采用本地大语言模型,而非云部署大语言模型.首先,该方法对从安全关键领域收集的数据进行预处理,用于知识增强,从而构建特定领域的LLM;实验结果表明,与微调方法相比,检索增强生成方法(RAG)在长上下文处理和知识整合方面具有更好的表现.其次,提出了一种基于命题逻辑的提示框架,与标准提示相比,它显著提高了不同粒度级别下失效模式提取的准确性.最后,该方法在工业界弹射座椅控制系统中取得了成功应用.
-
关键词
基于模型的安全分析
失效模式
大语言模型
检索增强生成
微调
提示工程
数据安全
-
Keywords
model-based safety analysis
failure mode
large language model
retrieval-augmented generation
fine-tuning
prompt engineering
data security
-
分类号
TP311
[自动化与计算机技术—计算机软件与理论]
-
-
题名基于模型的复杂系统安全分析综述
被引量：15
- 2
-
-
作者
陈磊
焦健
赵廷弟
-
机构
北京航空航天大学可靠性与系统工程学院
-
出处
《系统工程与电子技术》
EI
CSCD
北大核心
2017年第6期1287-1291,共5页
-
文摘
基于模型的安全分析(model-based safety analysis,MBSA)的最终目的是以复杂的安全关键性系统的形式化和半形式化模型为基础,实现自动化的安全分析。MBSA的方法众多,涵盖了用以实现对复杂的安全关键性系统进行建模、安全分析和验证的所有理论、技术、工具及语言。根据MBSA技术在安全分析过程所使用的模型的不同,即安全模型与系统设计模型之间的不同关系,将MBSA的实现手段分为两类:一类是基于系统扩展模型(extended system model,ESM)的MBSA方法;另一类是基于故障逻辑建模(failure logic modelling,FLM)技术的MBSA方法。文中对这两种方法的实现过程分别进行了描述,并分别对每种方法的优点和局限性进行了分析说明,最后对两类MBSA方法可做的改进进行了分析。
-
关键词
基于模型的安全分析
复杂安全关键性系统
系统扩展模型
故障逻辑建模
-
Keywords
model-based safety analysis （MBSA）
complex safety-critical system
extended system model（ESM）
failure logic modelling （FLM）
-
分类号
N945.12
[自然科学总论—系统科学]
-
