-
题名大模型应用可信框架研究
- 1
-
-
作者
韦韬
刘焱
翁海琴
仲震宇
朱泽韬
王宇
王美琴
-
机构
蚂蚁集团安全可信事业部
山东大学网络空间安全学院
-
出处
《信息安全研究》
CSCD
北大核心
2024年第12期1153-1159,共7页
-
基金
国家自然科学基金项目(62032014,U2336207)。
-
文摘
大模型技术的出现极大推动了人工智能在各行各业的快速应用,但大模型在实际应用过程中面临着一系列由“模型幻觉”导致的安全可信挑战.这些挑战导致大模型应用落地时,尤其是安全攸关的专业性推理和研判时,其给出的结果难以被轻易信任采纳.在诸多专业领域实践中发现,大模型应用过程中缺乏一个统一的技术框架保证其结果的可信,严重阻碍了大模型技术在专业领域的应用.针对这个问题,结合在金融、医疗、安全等专业领域的应用实践,提出一种集充足数据(data,D)、专业知识(knowledge,K)、能力协同(collaboration,C)、高效反馈(feedback,F)为一体的大模型可信应用框架DKCF.希望DKCF可以推动行业大模型安全可信,助力大模型应用变革,推动越来越多的行业迎来革命.
-
关键词
DKCF
大模型
可信
可信框架
网络安全
-
Keywords
DKCF
large language model
trustworthiness
trust framework
cyber security
-
分类号
TP393.0
[自动化与计算机技术—计算机应用技术]
-
