作为自然语言处理领域的一项关键任务,事实验证要求能够从大量的纯文本中根据给定的声明检索相关的证据,并使用这些证据推理验证声明。以往的研究通常利用证据句子拼接或图结构表示证据之间的关系,而不能清晰地表示各证据之间的内在关...作为自然语言处理领域的一项关键任务,事实验证要求能够从大量的纯文本中根据给定的声明检索相关的证据,并使用这些证据推理验证声明。以往的研究通常利用证据句子拼接或图结构表示证据之间的关系,而不能清晰地表示各证据之间的内在关联。因此,设计一种基于图谱和文本融合的协同推理网络模型CNGT(Co-attention Network with Graph and Text fusion),以通过构建证据知识图谱和证据句子进行语义融合。首先,根据证据句子构建证据知识图谱,并利用图变换编码器学习图谱表示;其次,利用BERT(Bidirectional Encoder Representations from Transformers)模型对声明和证据编码;最后,通过双层协同推理网络有效地融合推理图谱信息和文本特征。实验结果表明,相较于先进模型KGAT(KnowledgeGraphAttentionneTwork),所提模型在FEVER(FactExtractionand VERification)数据集上的标签准确率(LA)提高了0.84个百分点,FEVER得分提高了1.51个百分点。可见,所提模型更关注证据句子之间的关系,并且通过证据图谱展示出模型对证据句子关系的可解释性。展开更多
剩余使用寿命(Remaining useful life,RUL)预测是大型设备故障预测与健康管理(Prognostics and health management,PHM)的重要环节,对于降低设备维修成本和避免灾难性故障具有重要意义.针对RUL预测,首次提出一种基于多变量分析的时序图...剩余使用寿命(Remaining useful life,RUL)预测是大型设备故障预测与健康管理(Prognostics and health management,PHM)的重要环节,对于降低设备维修成本和避免灾难性故障具有重要意义.针对RUL预测,首次提出一种基于多变量分析的时序图推理模型(Multivariate similarity temporal knowledge graph,MSTKG),通过捕捉设备各部件的运行状态耦合关系及其变化趋势,挖掘其中蕴含的设备性能退化信息,为寿命预测提供有效依据.首先,设计时序图结构,形式化表达各部件不同工作周期的关联关系.其次,提出联合图卷积神经网络(Convolutional neural network,CNN)和门控循环单元(Gated recurrent unit,GRU)的深度推理网络,建模并学习设备各部件工作状态的时空演化过程,并结合回归分析,得到剩余使用寿命预测结果.最后,与现有预测方法相比,所提方法能够显式建模并利用设备部件耦合关系的变化信息,仿真实验结果验证了该方法的优越性.展开更多
文摘作为自然语言处理领域的一项关键任务,事实验证要求能够从大量的纯文本中根据给定的声明检索相关的证据,并使用这些证据推理验证声明。以往的研究通常利用证据句子拼接或图结构表示证据之间的关系,而不能清晰地表示各证据之间的内在关联。因此,设计一种基于图谱和文本融合的协同推理网络模型CNGT(Co-attention Network with Graph and Text fusion),以通过构建证据知识图谱和证据句子进行语义融合。首先,根据证据句子构建证据知识图谱,并利用图变换编码器学习图谱表示;其次,利用BERT(Bidirectional Encoder Representations from Transformers)模型对声明和证据编码;最后,通过双层协同推理网络有效地融合推理图谱信息和文本特征。实验结果表明,相较于先进模型KGAT(KnowledgeGraphAttentionneTwork),所提模型在FEVER(FactExtractionand VERification)数据集上的标签准确率(LA)提高了0.84个百分点,FEVER得分提高了1.51个百分点。可见,所提模型更关注证据句子之间的关系,并且通过证据图谱展示出模型对证据句子关系的可解释性。
