-
题名对抗性四元组缓解大语言模型自相矛盾型幻觉研究
- 1
-
-
作者
冯巍山
金澎
陈兴元
王兵
郭宽
-
机构
西南石油大学计算机与软件学院
乐山师范学院互联网自然语言智能处理四川省高校重点实验室
乐山师范学院特殊教育语言智能处理四川省哲学社会科学重点实验室
-
出处
《中文信息学报》
北大核心
2025年第8期1-10,共10页
-
基金
教育部人文社科项目(23YJA740013)
四川省自然科学基金(24NSFSC0520)。
-
文摘
为了缓解大语言模型输出中的幻觉现象——即生成的文本看似合理,实则包含错误或误导性内容,该文设计开发了一个消除自相矛盾型幻觉的自动化处理框架QCDetector。该框架利用四元组架构进行原子级知识事实的精准提取与表征,并通过注入对抗性四元组,诱导模型触发自我矛盾的幻觉状态,从而揭示其生成文本的非事实性。进一步地,通过消除矛盾信息,以实现幻觉的缓解。在英文数据集MainTestSet上的实验结果表明,QCDetector能够在低成本环境下高效检测并缓解幻觉。为了进一步验证QCDetector的有效性,该文构建了一个中文幻觉数据集ChineseTopicHullSet,F1值达到了39.5%。值得一提的是,QCDetector完全基于提示完成,使得其可以适用于任何语言模型。
-
关键词
大语言模型
自相矛盾
幻觉检测
幻觉缓解
-
Keywords
large language models
self-contradictory
hallucination detection
hallucination mitigation
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于规则约束的深度学习网络用于文本信息抽取
被引量：3
- 2
-
-
作者
赖娟
洪艳伟
-
机构
乐山师范学院互联网自然语言智能处理四川省高校重点实验室
乐山师范学院人工智能学院
-
出处
《计算机工程与设计》
北大核心
2021年第12期3548-3554,共7页
-
基金
四川省教育厅重点基金项目(18ZA0233)。
-
文摘
针对文本信息抽取中由于训练样本不足导致性能下降的问题,提出一种基于规矩约束的深度学习网络模型。模型分为深度学习模块、逻辑规则库和差异单元3个部分。将文本句子作为输入数据馈送到学习模块中,基于Bi-GRU网络和多头自注意力机制在多个维度上为每个单词生成一个预测向量;规则库采用带权重的逻辑规则对深度学习进行约束;差异单元利用损失函数协调学习模块与规则库之间的一致性。实验结果表明,所提模型比其它算法具有更好的性能,能够高效精确处理复杂文本。
-
关键词
信息抽取
深度学习
规则约束
Bi-GRU网络
多头自注意力机制
-
Keywords
information extraction
deep learning
rule constraint
Bi-GRU network
multi head self-attention mechanism
-
分类号
TP393
[自动化与计算机技术—计算机应用技术]
-
