基于表示增强的RippleNet模型改进研究

1

作者 李鹏彦 王宝会 叶子豪 《计算机科学》 北大核心 2025年第S1期584-592,共9页

随着互联网信息量的激增,推荐系统在解决信息过载问题中扮演着关键角色。针对现有推荐系统模型在实体和关系表示中的不足,提出了一种基于表示增强的RippleNet模型(Representation Enhanced RippleNet,RE-RippleNet)。一方面,传统模型在... 随着互联网信息量的激增,推荐系统在解决信息过载问题中扮演着关键角色。针对现有推荐系统模型在实体和关系表示中的不足,提出了一种基于表示增强的RippleNet模型(Representation Enhanced RippleNet,RE-RippleNet)。一方面,传统模型在实体表示中忽略了关系的语义信息,通过将邻居实体和关系聚合到实体的嵌入表示中,提升实体嵌入的表达能力和用户表征的精确度。另一方面,在用户偏好传播的多跳波纹集聚合时,引入长短期记忆网络(Long Short-Term Memory,LSTM)来捕捉不同跳数中用户偏好表示的不同影响力和特征,以实现更深层次的用户偏好挖掘和更精准的推荐。在MovieLens-1M和Book-Crossing两个公共数据集上的点击率预测实验结果表明,相比基线模型RippleNet,RE-RippleNet在准确率(ACC)和AUC指标上均取得显著提升。其中,在MovieLens-1M数据集上的ACC和AUC分别提高了1.7%和1.2%,在Book-Crossing数据集上分别提高了3.6%和1.6%,结果验证了模型在提升推荐系统性能方面的有效性。 展开更多

关键词 推荐系统 知识图谱 RippleNet 表示增强 长短期记忆

在线阅读 下载PDF 职称材料

基于特征增强和语义相关性匹配的图像文本检索方法 被引量：5

2

作者 陈佳 张鸿 《计算机应用》 CSCD 北大核心 2024年第1期16-23,共8页

为实现图像文本检索中图像与文本的精确语义连接,提出一种基于特征增强和语义相关性匹配(FESCM)的图像文本检索方法。首先,通过特征增强表示模块,引入多头自注意力机制增强图像区域特征和文本单词特征,以减少冗余信息对图像区域和文本... 为实现图像文本检索中图像与文本的精确语义连接,提出一种基于特征增强和语义相关性匹配(FESCM)的图像文本检索方法。首先,通过特征增强表示模块,引入多头自注意力机制增强图像区域特征和文本单词特征,以减少冗余信息对图像区域和文本单词对齐的干扰;其次,通过语义相关性匹配模块,不仅利用局部匹配捕获局部显著对象之间的对应相关性,还把图像背景信息融入图像全局特征,利用全局匹配实现精确的全局语义相关性;最后,通过局部匹配分数和全局匹配分数获取图像和文本的最终匹配分数。实验结果表明,基于FESCM的图像文本检索方法在Flickr8k和Flickr30k基准数据集上的召回率总值比扩展的视觉语义嵌入方法分别提升了5.7和7.5个百分点,在MS-COCO数据集比双流层次相似度推理方法提升了3.7个百分点。因此该方法可以有效提高图像文本检索的准确度,实现图像与文本的语义连接。 展开更多

关键词 图像文本检索 特征增强表示 多头自注意力机制 语义相关性匹配

在线阅读 下载PDF 职称材料

基于增强时空表示特征和注意力模型的人体动作识别方法 被引量：1

3

作者 蒋营国 陆璐 《计算机应用研究》 CSCD 北大核心 2020年第S01期182-185,共4页

人体动作识别在社交活动和科学研究中具有重要应用价值。先进的骨骼数据是人体动作识别中一类重要数据。现有大部分基于骨骼数据的动作识别方法没有充分考虑两方面:一是减少视点变化的影响,二是区分时空信息的不同权重。这两方面影响人... 人体动作识别在社交活动和科学研究中具有重要应用价值。先进的骨骼数据是人体动作识别中一类重要数据。现有大部分基于骨骼数据的动作识别方法没有充分考虑两方面:一是减少视点变化的影响,二是区分时空信息的不同权重。这两方面影响人体动作识别的稳定性和准确性。提出一种新型的增强时空表示特征,能减少视点变化的影响,并设计了一个关注动作时空信息的注意力模型用于提取这种表示特征和分类。在两个基准多视点数据集上执行两种交叉验证协议的实验结果表明,所提出的完整方法具有很好的稳健性,能显著提高人体动作识别的准确性。 展开更多

关键词 动作识别 增强的时空表示 注意力模型 欧拉角 累积欧氏距离

在线阅读 下载PDF 职称材料

基于深度自编码的局部增强属性网络表示学习

4

作者 陈嶷瑛 张珊珊 柴变芳 《计算机应用研究》 CSCD 北大核心 2020年第9期2610-2614,共5页

基于深度自编码器的网络表示,可以捕获高度非线性的网络结构,但当链接稀疏时学到的表示不够准确。针对这一问题,提出一种基于深度自编码的局部增强属性网络表示学习模型,以提高表示学习的准确度。该模型首先利用链接与属性特征,采用多... 基于深度自编码器的网络表示,可以捕获高度非线性的网络结构,但当链接稀疏时学到的表示不够准确。针对这一问题,提出一种基于深度自编码的局部增强属性网络表示学习模型,以提高表示学习的准确度。该模型首先利用链接与属性特征,采用多个深度自编码器,学习保持网络拓扑结构及属性特征的低维网络表示。之后,基于节点间近邻结构及属性相似性,对学出的低维网络表示进行节点约束,实现网络局部结构增强,达到最大程度保持原始结构信息及属性特征的目的。在五个真实属性网络上的实验结果表明,提出的模型在聚类与分类任务中,效果均优于目前流行的表示学习方法。 展开更多

关键词 网络表示 深度自编码器 属性网络 局部增强网络表示

在线阅读 下载PDF 职称材料

基于轻量化改进ERNIE-RCNN的中文新闻标题分类

5

作者 李莉 张之欣 王小龙 《科学技术与工程》 北大核心 2025年第2期649-656,共8页

针对大型预训练语言模型在处理新闻标题时,面临参数规模庞大、无法高效利用上下文语意特征以及循环卷积神经网络对初始输入元素重要性忽视的问题,提出了一种融合混合专家模型(mixture-of-expert,MoE)的ERNIE与注意力机制的循环卷积神经... 针对大型预训练语言模型在处理新闻标题时,面临参数规模庞大、无法高效利用上下文语意特征以及循环卷积神经网络对初始输入元素重要性忽视的问题,提出了一种融合混合专家模型(mixture-of-expert,MoE)的ERNIE与注意力机制的循环卷积神经网络(recurrent convolutional neural networks,RCNN)的新闻标题分类方法。首先,借助MoE改进ERNIE技术进行文本编码,随后利用注意力RCNN在保留文本词序和特征的基础上进行分类。为提高分类能力,通过计算输入的融合上下文权重对RCNN进行改进。在计算MoE中各个专家权重的过程中,选择Gumbel_Softmax作为新型的门控函数以改进传统的Softmax函数,从而更好地控制平滑程度。根据实验结果,发现相较于传统的分类方法,本文研究提出的分类方法展现出显著优势,极大地减少了参数数量。在此基础上,F_(1)相较于传统模型提升了0.51%。经过消融实验的验证,该分类方法在分类任务上的可行性得到了证实。 展开更多

关键词 混合专家系统 知识增强语义表示模型 注意力机制 循环卷积神经网络 文本分类

在线阅读 下载PDF 职称材料

基于自然语言处理的航行通告风险识别方法

6

作者 瞿也丰 辜汝桐 +2 位作者 黄文强 陈东玲 邓李明 《中国安全科学学报》 北大核心 2025年第S1期33-39,共7页

为实现海量航行通告文本数据的高效精准风险识别,满足现代航班运行对航行通告风险解析的需求,提升民航领域风险识别能力,提出一种融合知识增强的语义表示(ERNIE)模型、卷积神经网络(CNN)以及双向长短期记忆神经网络(BiLSTM)的航行通告... 为实现海量航行通告文本数据的高效精准风险识别,满足现代航班运行对航行通告风险解析的需求,提升民航领域风险识别能力,提出一种融合知识增强的语义表示(ERNIE)模型、卷积神经网络(CNN)以及双向长短期记忆神经网络(BiLSTM)的航行通告风险识别模型;借助ERNIE模型进行词向量的训练,利用CNN捕捉文本局部结构的特性,并结合BiLSTM理解文本的深层次上下文关联;并开展对比试验进行验证。结果表明:相较于其他同类模型,该方法对国内中文和国际英文航行通告的识别精度分别高达92.01%和93.85%。该成果可以为航空公司在航行情报的风险解析和安全管理提供一定的数据支撑。 展开更多

关键词 自然语言处理(NLP) 航行通告 风险识别 知识增强的语义表示(ERNIE) 卷积神经网络(CNN) 双向长短期记忆网络(BiLSTM)

在线阅读 下载PDF 职称材料

人大报告内容的文本分类 被引量：4

7

作者 喻航 李红莲 吕学强 《计算机工程与设计》 北大核心 2021年第6期1772-1778,共7页

针对区级人大报告特定的几方面内容进行文本分类,可以让人大工作人员对不同工作内容进行快速分辨,是构建人大报告辅助生成系统的必要内容。为对不同内容分类,基于TF-IDF(词频-逆文档频率)与知识增强语义表示模型ERNIE(enhanced represen... 针对区级人大报告特定的几方面内容进行文本分类,可以让人大工作人员对不同工作内容进行快速分辨,是构建人大报告辅助生成系统的必要内容。为对不同内容分类,基于TF-IDF(词频-逆文档频率)与知识增强语义表示模型ERNIE(enhanced representation from knowledge integration)结合构建分类模型。ERNIE直接对语义知识单元进行建模,在此基础上加入TF-IDF提升模型性能。实验结果表明,该方法在分类的准确率和召回率上表现不错,使ERNIE模型收敛速度加快,通过该模型可以较好地对人大报告的文本进行分类。 展开更多

关键词 人大报告 文本分类 词频-逆文档频率 知识增强语义表示模型 速度

在线阅读 下载PDF 职称材料

改进YOLOv5s的航拍图像车辆检测研究 被引量：19

8

作者 龙赛 宋晓凤 +1 位作者 张苏 张青林 《激光杂志》 CAS 北大核心 2022年第10期22-29,共8页

无人机视角下的航拍图像车辆检测任务存在场景复杂容易误检漏检,小尺度目标多的问题,兼顾车辆检测实时性要求,基于轻量高效的YOLOv5s网络提出一种改进网络。首先引入轻量化特征增强表示模块,特征增强表示模块基于特征内容在更大的感受... 无人机视角下的航拍图像车辆检测任务存在场景复杂容易误检漏检,小尺度目标多的问题,兼顾车辆检测实时性要求,基于轻量高效的YOLOv5s网络提出一种改进网络。首先引入轻量化特征增强表示模块,特征增强表示模块基于特征内容在更大的感受野聚合上下文信息,降低了网络的误检率与漏检率;然后根据车辆目标的尺度分布,重新设计特征融合网络,使用特征增强表示模块进一步提取有利于小目标检测的更高分辨率的特征图,同时裁剪无效检测分支;最后使用Kmeans++算法聚类anchor,得到更优的锚框参数。改进后的网络均值平均检测精度(mAP)达到67.3%,相比YOLOv5s网络提升了5.5%,参数量减少20.4%,速度达81FPS。网络保持了YOLOv5s网络的轻量高效,得到了优于YOLOv5s的检测精度,能够实现更准确的实时车辆检测。 展开更多

关键词 YOLOv5s 车辆检测 特征增强表示 小目标 Kmeans++

在线阅读 下载PDF 职称材料

基于ERNIE和CNN的在线评论情感分析模型 被引量：5

9

作者 齐梦娜 朱丽平 李宁 《计算机应用》 CSCD 北大核心 2022年第S01期7-11,共5页

针对用户提交的商品评论内容与情感标记存在不一致的现象,提出了一种基于知识增强的语义表示(ERNIE)与卷积神经网络(CNN)的在线评论情感分析模型ECN,对评论文本进行情感倾向划分。首先,利用ERNIE预训练模型生成基于上下文信息的文本向... 针对用户提交的商品评论内容与情感标记存在不一致的现象,提出了一种基于知识增强的语义表示(ERNIE)与卷积神经网络(CNN)的在线评论情感分析模型ECN,对评论文本进行情感倾向划分。首先,利用ERNIE预训练模型生成基于上下文信息的文本向量表示;然后,通过多通道CNN模型对文本向量进行特征提取;最后,利用Softmax进行文本情感分类。在两个数据集上的实验结果表明,ECN模型的情感分类准确率、召回率及F1值均达到91%以上。与CNN、双向长短时记忆(BiLSTM)网络、ERNIE相比,ECN模型的情感分类效果更好。采用ECN模型对商品评论文本自动划分情感类别,能够更客观地反映消费者的情感倾向,对商家及其他消费者更具有指导意义。 展开更多

关键词 情感分类 卷积神经网络 多通道卷积神经网络 知识增强的语义表示 在线商品评论

在线阅读 下载PDF 职称材料

多层AR-LBP与WLD特征融合的SA-CRC人脸识别 被引量：1

10

作者 叶枫 叶学义 +1 位作者 罗宵晗 陈泽 《计算机工程与应用》 CSCD 北大核心 2019年第14期134-141,共8页

针对非对称局部二值模式(AR-LBP)提取的人脸特征有限,以及协同表示分类(CRC)人脸存在的类间干扰,提出以多层AR-LBP特征及联合韦伯局部描述子(WLD)特征进行补充,并以增加CRC中稀疏性来降低类间干扰。提取人脸图像的多层AR-LBP特征并级联... 针对非对称局部二值模式(AR-LBP)提取的人脸特征有限,以及协同表示分类(CRC)人脸存在的类间干扰,提出以多层AR-LBP特征及联合韦伯局部描述子(WLD)特征进行补充,并以增加CRC中稀疏性来降低类间干扰。提取人脸图像的多层AR-LBP特征并级联,与从原图像提取的WLD特征级联得到多层AR-LBP与WLD融合特征,采用稀疏增强的协同表示分类(SA-CRC)完成人脸分类。在ORL、Yale和GT公开人脸库上,提出的多层AR-LBP与WLD特征融合算法与AR-LBP特征提取算法、WLD特征提取算法以及多层LBP与HOG特征融合算法相比,识别正确率提高了0.7%~42.6%;当利用SA-CRC取代CRC后,识别正确率进一步得到提高。 展开更多

关键词 非对称局部二值模式(AR-LBP) 韦伯局部描述子(WLD) 协同表示分类(CRC) 稀疏增强的协同表示分类(SA-CRC) 特征提取

在线阅读 下载PDF 职称材料

基于功效特征的专利聚类方法 被引量：2

11

作者 马建红 曹文斌 +1 位作者 刘元刚 夏爽 《计算机应用》 CSCD 北大核心 2021年第5期1361-1366,共6页

当前专利是按照领域划分的,而基于功效特征可以实现跨领域的专利聚类,这在企业创新设计中具有重要意义,而精确提取专利功效特征和快速获得最优聚类结果是其中的关键任务。为此提出一种信息实体语义增强表示(ERNIE)和卷积神经网络(CNN)... 当前专利是按照领域划分的,而基于功效特征可以实现跨领域的专利聚类,这在企业创新设计中具有重要意义,而精确提取专利功效特征和快速获得最优聚类结果是其中的关键任务。为此提出一种信息实体语义增强表示(ERNIE)和卷积神经网络(CNN)相结合的功效特征联合提取(FEI-Joint)模型来提取专利文献的功效特征,并且改进自组织神经网络(SOM)算法,从而提出具有早期拒绝策略与类合并思想的自组织神经网络(ERCM-SOM)来实现基于功效特征的专利聚类。对FEI-Joint模型与TF-IDF、狄利克雷分布(LDA)、CNN在特征提取后的聚类效果上进行比较和分析,结果表明其F-measure值比其他模型有明显提高。ERCM-SOM算法与K-Means算法、SOM算法相比,在Fmeasure值提高的同时,其时间较SOM算法有明显缩短。对比使用专利分类号(IPC)的专利分类,采用基于功效特征的聚类方法可实现跨领域的专利聚类效果,为设计者借鉴其他领域的设计方法奠定了基础。 展开更多

关键词 专利聚类 信息实体语义增强表示 卷积神经网络 跨领域 自组织神经网络

在线阅读 下载PDF 职称材料