期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
基于增强异构图融合的多模态医学实体识别研究 被引量:1
1
作者 韩普 李雄 《现代情报》 北大核心 2025年第6期34-45,共12页
[目的/意义]为充分挖掘医学图像与文本间语义关联信息,本文利用增强异构图融合方法提升图像特征表示并进行模态信息交互实现特征融合,进而提升多模态医学实体识别效果。[方法/过程]首先利用RoBERTa和ResNet分别提取医学文本与图像特征,... [目的/意义]为充分挖掘医学图像与文本间语义关联信息,本文利用增强异构图融合方法提升图像特征表示并进行模态信息交互实现特征融合,进而提升多模态医学实体识别效果。[方法/过程]首先利用RoBERTa和ResNet分别提取医学文本与图像特征,接着通过视觉增强模块捕获图像关键信息并过滤无关噪声,然后构建基于图像与文本节点和对应边的异构图以获取模态间细粒度语义关联,并通过自注意力机制、跨模态门控机制和位置前馈网络实现医学多模态特征融合,最后在中文多模态医学数据集上验证实体识别效果。[结果/结论]所构建的RMGFM模型在中文多模态医学数据集上F1值达到88.99%,相比UMT、AGBAN和UMGF等多模态基线模型的F1值分别提高了5.52%、5.28%和5.08%。实验表明Ro-UMGF*+Manifold(RMGFM)模型能有效挖掘医学图像和文本间语义关联信息,在中文多模态医学实体识别任务中表现优异。 展开更多
关键词 异构图融合 视觉增强 多模态命名实体识别 语义融合 医疗健康
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部