期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
3
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
融合双通道特征信息的医疗短文本分类模型
1
作者
李晨
刘纳
+2 位作者
郑国风
杨杰
道路
《现代电子技术》
北大核心
2025年第13期123-132,共10页
针对医疗短文本存在特征稀疏、语义歧义和提取短文本特征不充分等问题,提出融合双通道特征的医疗短文本分类模型(EBDF)。该模型利用预训练模型得到动态词向量,使模型包含更丰富的语义信息;之后利用BiLSTM获取全局文本特征信息和DPECNN...
针对医疗短文本存在特征稀疏、语义歧义和提取短文本特征不充分等问题,提出融合双通道特征的医疗短文本分类模型(EBDF)。该模型利用预训练模型得到动态词向量,使模型包含更丰富的语义信息;之后利用BiLSTM获取全局文本特征信息和DPECNN获取深层次的局部文本特征信息,为了提高模型的鲁棒性和泛化能力,采用FGM对抗训练算法对数据进行扰动;最后,将双通道的特征信息进行特征融合获得最终的文本表示。EBDF模型在三个医疗领域和两个通用领域的短文本数据集上与效果较好的模型相比,准确率提升约0.57%~6.16%,F1值提高约0.65%~5.80%。
展开更多
关键词
医疗文本挖掘
短
文本
分类
特征融合
BiLSTM
DPECNN
双通道
在线阅读
下载PDF
职称材料
基于多层动态融合的中文医疗命名实体识别
被引量:
1
2
作者
林令德
刘纳
+2 位作者
徐贞顺
李昂
李晨
《计算机工程与应用》
CSCD
北大核心
2024年第15期161-169,共9页
针对基于预训练模型的命名实体识别方法仅使用了预训练模型最后一层隐状态,忽略了各Transformer层对应不同文本信息的问题,提出一种预训练模型多层动态融合方法。采用预训练模型进行特征提取,获得模型各层隐状态序列;通过多层动态融合...
针对基于预训练模型的命名实体识别方法仅使用了预训练模型最后一层隐状态,忽略了各Transformer层对应不同文本信息的问题,提出一种预训练模型多层动态融合方法。采用预训练模型进行特征提取,获得模型各层隐状态序列;通过多层动态融合方法对各层隐状态信息进行结合,作为预训练模型最终输出;采用条件随机场对序列进行解码,完成序列标注。多层动态融合方法可以充分利用预训练模型各层知识,使结果中包含丰富的句法、语义等特征信息,提升模型在任务中的表示能力,增强模型灵活性。通过对医疗文本数据集CMeEE、CCKS2017与通用领域数据集Resume、Weibo进行实验验证,结果证明,加入多层动态融合方法可以有效地提升命名实体识别效果。
展开更多
关键词
医疗文本挖掘
命名实体识别
预训练语言模型
多层动态融合
在线阅读
下载PDF
职称材料
基于Transformer的预训练语言模型在生物医学领域的应用
被引量:
1
3
作者
游至宇
阳倩
+2 位作者
傅姿晴
陈庆超
李奇渊
《厦门大学学报(自然科学版)》
CAS
CSCD
北大核心
2024年第5期883-893,共11页
[背景]随着人工智能技术的快速发展,自然语言处理(NLP)已成为生物医学研究领域中的一项关键技术.而基于Transformer框架的预训练语言模型(T-PLMs)已被广泛应用于生物医学文本的分析,有效地推动了临床决策支持系统的发展和基因组学数据...
[背景]随着人工智能技术的快速发展,自然语言处理(NLP)已成为生物医学研究领域中的一项关键技术.而基于Transformer框架的预训练语言模型(T-PLMs)已被广泛应用于生物医学文本的分析,有效地推动了临床决策支持系统的发展和基因组学数据的解读.[进展]本文聚焦于T-PLMs在生物医学领域的应用,探讨其在处理和理解生物医学文本数据方面的潜力和挑战.首先回顾NLP技术的演进,从传统的特征工程到预训练语言模型的兴起,特别是BERT等模型如何改变生物医学文本分析的范式;随后详细介绍T-PLMs的训练范式,包括预训练和微调过程,以及如何通过特定领域的预训练和Prompt工程来提升模型在生物医学任务中的性能;进而深入探讨T-PLMs在生物医学领域的多样化应用,包括文本表示和知识挖掘、临床决策支持、医学影像理解、蛋白质预测、分子表示和药物设计等,并特别归纳收集了上述多个生物医学细分领域相关的数据库资料.[展望]当前研究和应用中仍面临许多挑战,如模型可解释性、数据隐私保护、多模态数据等.基于此对未来的研究方向提出展望,以充分发挥NLP在推动生物医学研究和改善患者护理方面的潜力.
展开更多
关键词
自然语言处理
生物医学应用
预训练语言模型
多模态学习
医疗文本挖掘
在线阅读
下载PDF
职称材料
题名
融合双通道特征信息的医疗短文本分类模型
1
作者
李晨
刘纳
郑国风
杨杰
道路
机构
北方民族大学计算机科学与工程学院
北方民族大学图像图形智能处理国家民委重点实验室
出处
《现代电子技术》
北大核心
2025年第13期123-132,共10页
基金
宁夏自然科学基金项目(2021AAC03224)
北方民族大学校级科研项目(2024XYZJK01)
北方民族大学研究生创新项目(YCX23167)。
文摘
针对医疗短文本存在特征稀疏、语义歧义和提取短文本特征不充分等问题,提出融合双通道特征的医疗短文本分类模型(EBDF)。该模型利用预训练模型得到动态词向量,使模型包含更丰富的语义信息;之后利用BiLSTM获取全局文本特征信息和DPECNN获取深层次的局部文本特征信息,为了提高模型的鲁棒性和泛化能力,采用FGM对抗训练算法对数据进行扰动;最后,将双通道的特征信息进行特征融合获得最终的文本表示。EBDF模型在三个医疗领域和两个通用领域的短文本数据集上与效果较好的模型相比,准确率提升约0.57%~6.16%,F1值提高约0.65%~5.80%。
关键词
医疗文本挖掘
短
文本
分类
特征融合
BiLSTM
DPECNN
双通道
Keywords
medical text mining
short text classification
feature fusion
BiLSTM
DPECNN
two-channel
分类号
TN911-34 [电子电信—通信与信息系统]
TP391.1 [自动化与计算机技术—计算机应用技术]
在线阅读
下载PDF
职称材料
题名
基于多层动态融合的中文医疗命名实体识别
被引量:
1
2
作者
林令德
刘纳
徐贞顺
李昂
李晨
机构
北方民族大学计算机科学与工程学院
北方民族大学图像图形智能处理国家民委重点实验室
出处
《计算机工程与应用》
CSCD
北大核心
2024年第15期161-169,共9页
基金
国家自然科学基金(62162001)
宁夏自然科学基金(2021AAC03224,2021AAC03217)。
文摘
针对基于预训练模型的命名实体识别方法仅使用了预训练模型最后一层隐状态,忽略了各Transformer层对应不同文本信息的问题,提出一种预训练模型多层动态融合方法。采用预训练模型进行特征提取,获得模型各层隐状态序列;通过多层动态融合方法对各层隐状态信息进行结合,作为预训练模型最终输出;采用条件随机场对序列进行解码,完成序列标注。多层动态融合方法可以充分利用预训练模型各层知识,使结果中包含丰富的句法、语义等特征信息,提升模型在任务中的表示能力,增强模型灵活性。通过对医疗文本数据集CMeEE、CCKS2017与通用领域数据集Resume、Weibo进行实验验证,结果证明,加入多层动态融合方法可以有效地提升命名实体识别效果。
关键词
医疗文本挖掘
命名实体识别
预训练语言模型
多层动态融合
Keywords
medical text mining
named entity recognition
pre-trained language model
multi-layer dynamic fusion
分类号
TP391.1 [自动化与计算机技术—计算机应用技术]
在线阅读
下载PDF
职称材料
题名
基于Transformer的预训练语言模型在生物医学领域的应用
被引量:
1
3
作者
游至宇
阳倩
傅姿晴
陈庆超
李奇渊
机构
厦门大学医学院
北京大学健康医疗大数据国家研究院
出处
《厦门大学学报(自然科学版)》
CAS
CSCD
北大核心
2024年第5期883-893,共11页
基金
国家自然科学基金面上项目(82272944)。
文摘
[背景]随着人工智能技术的快速发展,自然语言处理(NLP)已成为生物医学研究领域中的一项关键技术.而基于Transformer框架的预训练语言模型(T-PLMs)已被广泛应用于生物医学文本的分析,有效地推动了临床决策支持系统的发展和基因组学数据的解读.[进展]本文聚焦于T-PLMs在生物医学领域的应用,探讨其在处理和理解生物医学文本数据方面的潜力和挑战.首先回顾NLP技术的演进,从传统的特征工程到预训练语言模型的兴起,特别是BERT等模型如何改变生物医学文本分析的范式;随后详细介绍T-PLMs的训练范式,包括预训练和微调过程,以及如何通过特定领域的预训练和Prompt工程来提升模型在生物医学任务中的性能;进而深入探讨T-PLMs在生物医学领域的多样化应用,包括文本表示和知识挖掘、临床决策支持、医学影像理解、蛋白质预测、分子表示和药物设计等,并特别归纳收集了上述多个生物医学细分领域相关的数据库资料.[展望]当前研究和应用中仍面临许多挑战,如模型可解释性、数据隐私保护、多模态数据等.基于此对未来的研究方向提出展望,以充分发挥NLP在推动生物医学研究和改善患者护理方面的潜力.
关键词
自然语言处理
生物医学应用
预训练语言模型
多模态学习
医疗文本挖掘
Keywords
natural language processing
biomedical application
pretrained language model
multimodal learning
medical text mining
分类号
TP183 [自动化与计算机技术—控制理论与控制工程]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
融合双通道特征信息的医疗短文本分类模型
李晨
刘纳
郑国风
杨杰
道路
《现代电子技术》
北大核心
2025
0
在线阅读
下载PDF
职称材料
2
基于多层动态融合的中文医疗命名实体识别
林令德
刘纳
徐贞顺
李昂
李晨
《计算机工程与应用》
CSCD
北大核心
2024
1
在线阅读
下载PDF
职称材料
3
基于Transformer的预训练语言模型在生物医学领域的应用
游至宇
阳倩
傅姿晴
陈庆超
李奇渊
《厦门大学学报(自然科学版)》
CAS
CSCD
北大核心
2024
1
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部