基于梯度提升决策树改进双向门限循环单元的锅炉变负荷燃烧系统建模 被引量：7

1

作者 杨国田 何雨晨 +1 位作者 李鑫 李新利 《热力发电》 CAS CSCD 北大核心 2021年第12期6-12,共7页

锅炉燃烧系统是一个典型变量多、耦合性强、大滞后、多输入/多输出的动态系统,构建符合实际工况的燃烧系统模型十分困难。本文提出一种新的基于双向门限循环单元(Bi-GRU)的锅炉燃烧系统建模方法,建立了变负荷(低、中、高负荷)工况下燃... 锅炉燃烧系统是一个典型变量多、耦合性强、大滞后、多输入/多输出的动态系统,构建符合实际工况的燃烧系统模型十分困难。本文提出一种新的基于双向门限循环单元(Bi-GRU)的锅炉燃烧系统建模方法,建立了变负荷(低、中、高负荷)工况下燃烧系统训练模型。同时,采用梯度提升决策树(GBDT)降低输入特征矩阵维数。GBDT模型可以在不同的负荷与输出下评估输入特征的权重,能在保留特征原有物理意义的基础上识别出权重比例最大的特征。基于GBDT的特征选择模型既能降低原始输入维数,又可以为后续燃烧控制策略提供理论指导。实际运行数据计算结果表明,Bi-GRU和GBDT建立的新的燃烧系统模型能够准确地反映不同负荷下主蒸汽流量、主蒸汽压力和NO_(x)排放量的动态变化。与传统的循环神经网络(RNN)模型相比,本文新模型的精度和性能都有显著提高,并且结构简单,计算量小。 展开更多

关键词 锅炉燃烧系统 双向门限循环单元 梯度提升决策树 输出特征

在线阅读 下载PDF 职称材料

基于卷积神经网络和双向门控循环单元网络注意力机制的情感分析 被引量：15

2

作者 张腾 刘新亮 高彦平 《科学技术与工程》 北大核心 2021年第1期269-274,共6页

传统的情感分析方法不能获取全局特征,以及否定词、转折词和程度副词的出现影响句子极性判断。在深度学习方法基础上提出了基于卷积神经网络和双向门控循环单元网络注意力机制的短文本情感分析方法。将情感积分引入卷积神经网络,利用情... 传统的情感分析方法不能获取全局特征,以及否定词、转折词和程度副词的出现影响句子极性判断。在深度学习方法基础上提出了基于卷积神经网络和双向门控循环单元网络注意力机制的短文本情感分析方法。将情感积分引入卷积神经网络,利用情感词自身信息,通过双向门控循环网络模型获取全局特征,对影响句子极性的否定词、转折词和程度副词引入注意力机制实现对这类词的重点关注,提取影响句子极性的重要信息。实验结果表明,该模型与现有相关模型相比,有效提高情感分类的准确率。 展开更多

关键词 深度学习 双向门控循环单元(bi-gru) 注意力机制 卷积神经网络 情感分析

在线阅读 下载PDF 职称材料

多重注意力特征融合网络对中文评价情感分析 被引量：4

3

作者 王勇 张索宇 吕心怡 《小型微型计算机系统》 CSCD 北大核心 2021年第8期1633-1638,共6页

针对目前中文评价情感分析对深层情感语义信息关注较少的问题,提出一种多重注意力的特征融合神经网络模型简称MTA-CBG(Multi-Attention Convolution-BiGRU).传统词向量不能有效解决一词多义的情况,本文构建了自注意力(Self-Attention)... 针对目前中文评价情感分析对深层情感语义信息关注较少的问题,提出一种多重注意力的特征融合神经网络模型简称MTA-CBG(Multi-Attention Convolution-BiGRU).传统词向量不能有效解决一词多义的情况,本文构建了自注意力(Self-Attention)词向量矩阵模型,获取词语间的关联特征.通过多尺度宽卷积结构(Multi-scale Wide Convolution,MWC)全面地提取局部特征.将两种不同粒度的特征融合后输入双向门限循环单元(Bidirectional Gated Reccurrent Unit,BiGRU)学习序列化特征,在解决长距离依赖问题的同时获取更广泛的文本特征.最后输入改进的高速注意力层(Attention-Highway)构建句子级的关联,提取深层情感语义特征.通过多组对比实验证明本文所提方法能有效提高中文评价情感分析的准确率和F1值. 展开更多

关键词 多重注意力 特征融合 多尺度宽卷积 双向门限循环单元 高速注意力层

在线阅读 下载PDF 职称材料

基于并行混合神经网络模型的短文本情感分析 被引量：16

4

作者 陈洁 邵志清 +1 位作者 张欢欢 费佳慧 《计算机应用》 CSCD 北大核心 2019年第8期2192-2197,共6页

针对传统的卷积神经网络(CNN)在进行情感分析任务时会忽略词的上下文语义以及CNN在最大池化操作时会丢失大量特征信息,从而限制模型的文本分类性能这两大问题,提出一种并行混合神经网络模型CA-BGA。首先,采用特征融合的方法在CNN的输出... 针对传统的卷积神经网络(CNN)在进行情感分析任务时会忽略词的上下文语义以及CNN在最大池化操作时会丢失大量特征信息,从而限制模型的文本分类性能这两大问题,提出一种并行混合神经网络模型CA-BGA。首先,采用特征融合的方法在CNN的输出端融入双向门限循环单元(BiGRU)神经网络,通过融合句子的全局语义特征加强语义学习;然后,在CNN的卷积层和池化层之间以及BiGRU的输出端引入注意力机制,从而在保留较多特征信息的同时,降低噪声干扰;最后,基于以上两种改进策略构造出了并行混合神经网络模型。实验结果表明,提出的混合神经网络模型具有收敛速度快的特性,并且有效地提升了文本分类的F1值,在中文评论短文本情感分析任务上具有优良的性能。 展开更多

关键词 卷积神经网络 特征融合 双向门限循环单元 注意力机制 短文本情感分析

在线阅读 下载PDF 职称材料

基于深度学习的录音文本分类方法 被引量：9

5

作者 张彦楠 黄小红 +1 位作者 马严 丛群 《浙江大学学报（工学版）》 EI CAS CSCD 北大核心 2020年第7期1264-1271,共8页

为了提高具有关联工单数据的录音文本的分类精确率,根据录音文本及关联数据的特点,设计基于深度学习的录音文本分类方法.针对录音文本,通过双向词嵌入语言模型(ELMo)获得录音文本及工单信息的向量化表示,基于获取的词向量,利用卷积神经... 为了提高具有关联工单数据的录音文本的分类精确率,根据录音文本及关联数据的特点,设计基于深度学习的录音文本分类方法.针对录音文本,通过双向词嵌入语言模型(ELMo)获得录音文本及工单信息的向量化表示,基于获取的词向量,利用卷积神经网络(CNN)挖掘句子局部特征;使用CNN分别挖掘工单标题和工单的描述信息,将CNN输出的特征进行加权拼接后,输入双向门限循环单元(GRU),捕捉句子上下文语义特征;引入注意力机制,对GRU隐藏层的输出状态赋予不同的权重.实验结果表明,与已有算法相比,该分类方法的收敛速度快,具有更高的准确率. 展开更多

关键词 词向量 卷积神经网络(CNN) 双向门限循环单元 注意力 文本分类

在线阅读 下载PDF 职称材料

结合多头注意力机制的旅游问句分类研究 被引量：3

6

作者 吴迪 姜丽婷 +3 位作者 王路路 吐尔根·依布拉音 艾山·吾买尔 早克热·卡德尔 《计算机工程与应用》 CSCD 北大核心 2022年第3期165-171,共7页

旅游问句具有长度较短,不严格按照语法规则的特点,导致该文本数据信息容量过少、口语化严重。充分理解问句表达的语义是提高旅游问句分类器性能面临的重要挑战,基于此,提出一个融合Bi-GRU、CNN与Multi-Head-Attention的旅游问句分类模... 旅游问句具有长度较短,不严格按照语法规则的特点,导致该文本数据信息容量过少、口语化严重。充分理解问句表达的语义是提高旅游问句分类器性能面临的重要挑战,基于此,提出一个融合Bi-GRU、CNN与Multi-Head-Attention的旅游问句分类模型。该模型将预先训练的词向量和经Bi-GRU处理得到的语义信息进行融合,进行问句依赖关系学习,通过CNN和Multi-Head-Attention进行特征提取,以加强局部特征的学习,通过Softmax完成分类。实验结果表明,该模型在文本信息少、表述不规范的旅游问句分类任务中F1值达到了92.11%,优于现有的主流分类模型。 展开更多

关键词 自然语言处理 旅游问句分类 双向门控循环单元(bi-gru) 卷积神经网络(CNN) 多头注意力机制

在线阅读 下载PDF 职称材料

基于WRF模拟和注意力机制的短期风速预测 被引量：3

7

作者 罗颖 刘雨辰 +3 位作者 米立华 韩艳 王力东 姜言 《太阳能学报》 EI CAS CSCD 北大核心 2023年第9期302-310,共9页

提出一种结合中尺度数值天气预报(WRF)模式和注意力机制(AM)的短期风速预测模型。首先,利用WRF模式模拟多维数据,包括风速、风向、温度和湿度,作为后续算法的输入变量。其次,利用变分模态分解将WRF风速误差及其他相关气象因素分解成不... 提出一种结合中尺度数值天气预报(WRF)模式和注意力机制(AM)的短期风速预测模型。首先,利用WRF模式模拟多维数据,包括风速、风向、温度和湿度,作为后续算法的输入变量。其次,利用变分模态分解将WRF风速误差及其他相关气象因素分解成不同频率的子模态分量,降低原始数据的复杂性和非平稳特征。随后,使用自适应网格搜索算法对添加注意力机制的双向门限循环单元进行模型结构参数优化。最后,基于所提模型预测误差修正WRF风速。通过算例分析,所提模型在单步和多步预测中精度均优于对比模型,证明了模型的优越性。 展开更多

关键词 风速 预测 风能 变分模态分解 双向门限循环单元 WRF模拟 注意力机制 自适应参数优化

在线阅读 下载PDF 职称材料

基于并行混合网络融入注意力机制的情感分析 被引量：3

8

作者 孙敏 李旸 +1 位作者 庄正飞 余大为 《计算机应用》 CSCD 北大核心 2020年第9期2543-2548,共6页

针对传统卷积神经网络(CNN)不仅会忽略词的上下文语义信息而且最大池化处理时会丢失大量特征信息的问题,传统循环神经网络(RNN)存在的信息记忆丢失和梯度弥散问题,和CNN和RNN都忽略了词对句子含义的重要程度的问题,提出一种并行混合网... 针对传统卷积神经网络(CNN)不仅会忽略词的上下文语义信息而且最大池化处理时会丢失大量特征信息的问题,传统循环神经网络(RNN)存在的信息记忆丢失和梯度弥散问题,和CNN和RNN都忽略了词对句子含义的重要程度的问题,提出一种并行混合网络融入注意力机制的模型。首先,将文本用Glove向量化;之后,通过嵌入层分别用CNN和双向门限循环神经网络提取不同特点的文本特征;然后,再把二者提取得到的特征进行融合,特征融合后接入注意力机制判断不同的词对句子含义的重要程度。在IMDB英文语料上进行多组对比实验,实验结果表明,所提模型在文本分类中的准确率达到91.46%而其F1-Measure达到91.36%。 展开更多

关键词 卷积神经网络 双向门限循环单元 特征融合 注意力机制 文本情感分析

在线阅读 下载PDF 职称材料

融合BiGRU和记忆网络的会话推荐算法 被引量：3

9

作者 曾亚竹 孙静宇 何倩倩 《计算机工程与设计》 北大核心 2023年第2期335-342,共8页

为消除噪声、充分使用邻域信息并考虑用户动态兴趣,提出一种融合BiGRU和记忆网络的会话推荐模型。使用BiGRU捕获会话总体特征,使用另一个加入缩放点积自注意力的BiGRU消除噪声项的干扰并捕获细粒度的用户兴趣,使用记忆网络通过邻域会话... 为消除噪声、充分使用邻域信息并考虑用户动态兴趣,提出一种融合BiGRU和记忆网络的会话推荐模型。使用BiGRU捕获会话总体特征,使用另一个加入缩放点积自注意力的BiGRU消除噪声项的干扰并捕获细粒度的用户兴趣,使用记忆网络通过邻域会话信息预测当前的会话意图,改进融合选通门进行特征融合并计算每个候选项的推荐分数。通过在两个数据集上的实验,验证了该模型能够准确预测用户意图,提高推荐效果。 展开更多

关键词 会话推荐 双向门限循环单元 记忆网络 缩放点积自注意力 用户兴趣 邻域会话 融合选通门

在线阅读 下载PDF 职称材料

基于Bert和卷积神经网络的人物关系抽取研究 被引量：6

10

作者 杜慧祥 杨文忠 +2 位作者 石义乐 柴亚闯 王丽花 《东北师大学报（自然科学版）》 北大核心 2021年第3期49-55,共7页

通过构造人物关系数据集,将人物关系定义为14类,提出了基于Bert-BiGRU-CNN的人物关系抽取网络模型.该模型首先通过Bert预训练模型获取上下文语义信息的词向量,利用双向门限循环单元网络(BiGRU)进一步获取相关的文本特征,然后加入卷积神... 通过构造人物关系数据集,将人物关系定义为14类,提出了基于Bert-BiGRU-CNN的人物关系抽取网络模型.该模型首先通过Bert预训练模型获取上下文语义信息的词向量,利用双向门限循环单元网络(BiGRU)进一步获取相关的文本特征,然后加入卷积神经网络(CNN)获取局部文本特征,最后通过全连接层加Softmax分类器进行关系分类.在构造的人物关系数据集中进行了实验,结果表明,本文模型相较于其他4种模型进一步提高了人物关系抽取的精确率和召回率. 展开更多

关键词 人物关系 Bert预训练模型 双向门限循环单元 卷积神经网络

在线阅读 下载PDF 职称材料

基于双重注意力机制的远程监督中文关系抽取 被引量：11

11

作者 车金立 唐力伟 +1 位作者 邓士杰 苏续军 《计算机工程与应用》 CSCD 北大核心 2019年第20期107-113,共7页

相比于传统有监督的中文关系抽取方法,基于远程监督的方法可极大地避免训练语料匮乏的问题,因此得到了广泛关注。然而,远程监督方法的性能却严重受困于构建语料过程中引入的错误标签,因此为缓解噪声数据所带来的影响,提出一种基于双重... 相比于传统有监督的中文关系抽取方法,基于远程监督的方法可极大地避免训练语料匮乏的问题,因此得到了广泛关注。然而,远程监督方法的性能却严重受困于构建语料过程中引入的错误标签,因此为缓解噪声数据所带来的影响,提出一种基于双重注意力机制的关系抽取模型。该模型可通过双向门限循环单元(Bidirectional Gated Recurrent Unit,BI-GRU)网络获取训练实例的双向上下文语义信息,并利用字符级注意力机制关注实例中重要的语义特征,同时在多个实例间引入实例级注意力机制计算实例与对应关系的相关性,以降低噪声数据的权重。在基于互动百科构建的中文人物关系抽取语料上的实验结果表明,该模型相比于单注意力机制模型可有效利用实例中所包含的语义信息并降低错误标签实例的影响,获取更高的准确率。 展开更多

关键词 中文关系抽取 远程监督 双重注意力机制 双向门限循环单元(bi-gru) 互动百科

在线阅读 下载PDF 职称材料