期刊文献+
共找到3篇文章
< 1 >
每页显示 20 50 100
融合双通道特征信息的医疗短文本分类模型
1
作者 李晨 刘纳 +2 位作者 郑国风 杨杰 道路 《现代电子技术》 北大核心 2025年第13期123-132,共10页
针对医疗短文本存在特征稀疏、语义歧义和提取短文本特征不充分等问题,提出融合双通道特征的医疗短文本分类模型(EBDF)。该模型利用预训练模型得到动态词向量,使模型包含更丰富的语义信息;之后利用BiLSTM获取全局文本特征信息和DPECNN... 针对医疗短文本存在特征稀疏、语义歧义和提取短文本特征不充分等问题,提出融合双通道特征的医疗短文本分类模型(EBDF)。该模型利用预训练模型得到动态词向量,使模型包含更丰富的语义信息;之后利用BiLSTM获取全局文本特征信息和DPECNN获取深层次的局部文本特征信息,为了提高模型的鲁棒性和泛化能力,采用FGM对抗训练算法对数据进行扰动;最后,将双通道的特征信息进行特征融合获得最终的文本表示。EBDF模型在三个医疗领域和两个通用领域的短文本数据集上与效果较好的模型相比,准确率提升约0.57%~6.16%,F1值提高约0.65%~5.80%。 展开更多
关键词 医疗文本挖掘 文本分类 特征融合 BiLSTM DPECNN 双通道
在线阅读 下载PDF
基于多层动态融合的中文医疗命名实体识别 被引量:1
2
作者 林令德 刘纳 +2 位作者 徐贞顺 李昂 李晨 《计算机工程与应用》 CSCD 北大核心 2024年第15期161-169,共9页
针对基于预训练模型的命名实体识别方法仅使用了预训练模型最后一层隐状态,忽略了各Transformer层对应不同文本信息的问题,提出一种预训练模型多层动态融合方法。采用预训练模型进行特征提取,获得模型各层隐状态序列;通过多层动态融合... 针对基于预训练模型的命名实体识别方法仅使用了预训练模型最后一层隐状态,忽略了各Transformer层对应不同文本信息的问题,提出一种预训练模型多层动态融合方法。采用预训练模型进行特征提取,获得模型各层隐状态序列;通过多层动态融合方法对各层隐状态信息进行结合,作为预训练模型最终输出;采用条件随机场对序列进行解码,完成序列标注。多层动态融合方法可以充分利用预训练模型各层知识,使结果中包含丰富的句法、语义等特征信息,提升模型在任务中的表示能力,增强模型灵活性。通过对医疗文本数据集CMeEE、CCKS2017与通用领域数据集Resume、Weibo进行实验验证,结果证明,加入多层动态融合方法可以有效地提升命名实体识别效果。 展开更多
关键词 医疗文本挖掘 命名实体识别 预训练语言模型 多层动态融合
在线阅读 下载PDF
基于Transformer的预训练语言模型在生物医学领域的应用 被引量:1
3
作者 游至宇 阳倩 +2 位作者 傅姿晴 陈庆超 李奇渊 《厦门大学学报(自然科学版)》 CAS CSCD 北大核心 2024年第5期883-893,共11页
[背景]随着人工智能技术的快速发展,自然语言处理(NLP)已成为生物医学研究领域中的一项关键技术.而基于Transformer框架的预训练语言模型(T-PLMs)已被广泛应用于生物医学文本的分析,有效地推动了临床决策支持系统的发展和基因组学数据... [背景]随着人工智能技术的快速发展,自然语言处理(NLP)已成为生物医学研究领域中的一项关键技术.而基于Transformer框架的预训练语言模型(T-PLMs)已被广泛应用于生物医学文本的分析,有效地推动了临床决策支持系统的发展和基因组学数据的解读.[进展]本文聚焦于T-PLMs在生物医学领域的应用,探讨其在处理和理解生物医学文本数据方面的潜力和挑战.首先回顾NLP技术的演进,从传统的特征工程到预训练语言模型的兴起,特别是BERT等模型如何改变生物医学文本分析的范式;随后详细介绍T-PLMs的训练范式,包括预训练和微调过程,以及如何通过特定领域的预训练和Prompt工程来提升模型在生物医学任务中的性能;进而深入探讨T-PLMs在生物医学领域的多样化应用,包括文本表示和知识挖掘、临床决策支持、医学影像理解、蛋白质预测、分子表示和药物设计等,并特别归纳收集了上述多个生物医学细分领域相关的数据库资料.[展望]当前研究和应用中仍面临许多挑战,如模型可解释性、数据隐私保护、多模态数据等.基于此对未来的研究方向提出展望,以充分发挥NLP在推动生物医学研究和改善患者护理方面的潜力. 展开更多
关键词 自然语言处理 生物医学应用 预训练语言模型 多模态学习 医疗文本挖掘
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部