-
题名基于组合上下文提示的大型语言模型领域知识问答研究
- 1
-
-
作者
方全
张金龙
王冰倩
胡骏
-
机构
北京邮电大学人工智能学院
郑州大学河南先进技术研究院
新加坡国立大学计算机学院
-
出处
《计算机科学》
北大核心
2025年第11期13-21,共9页
-
基金
北京市自然科学基金(JQ24019)
空地一体新航行系统技术全国重点实验室开放课题(2024B31)
国家自然科学基金(62036012)。
-
文摘
近年来,大型语言模型的快速发展引起了社会各界的广泛关注。大型语言模型虽然天然适应各种自然语言处理任务,但是在特定领域的问答任务中,由于缺少针对垂直领域的训练,生成答案的可靠性和适用性往往不尽如人意。为提升领域知识问答系统的性能,提出了一种新的基于组合上下文提示的大型语言模型领域知识问答方法。组合上下文提示包括了领域知识上下文和问答示例上下文两部分。领域知识上下文由采用基于对比学习的密集检索器从领域知识库中检索得到,能够增强大型语言模型的领域专业知识处理能力。问答示例上下文则通过语义相似检索从训练集中取得,能够提升大型语言模型对问题意图的理解能力。最后,将得到的组合上下文提示输入经过领域知识微调后的大型语言模型中,生成最终的领域答案。通过充分的实验和与基线模型的综合比较证明,所提方法在BERTScore指标上精确度和召回率分别比ChatGPT提高了15.91%和16.14%,F1 Score比ChatGPT提高了15.87%。
-
关键词
大语言模型
领域知识问答
组合上下文提示
对比学习
检索
-
Keywords
Large language models
Domain knowledge question-answering
Compositional context prompting
Contrastive learning
Retrieval
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
