期刊文献+
共找到21篇文章
< 1 2 >
每页显示 20 50 100
基于改进灰狼优化-简单循环单元网络的整流二极管寿命预测
1
作者 谢亮 柴琳 +1 位作者 段航 方德 《科学技术与工程》 北大核心 2025年第15期6360-6367,共8页
整流器作为电能变换功率模块的关键环节,广泛应用于变频器等供电系统设备中,其运行可靠性直接影响整个系统的运行状态。为提高整流器运行可靠性,需针对其中的敏感部件整流二极管进行寿命预测,提出一种由改进后的灰狼优化算法(grey wolf ... 整流器作为电能变换功率模块的关键环节,广泛应用于变频器等供电系统设备中,其运行可靠性直接影响整个系统的运行状态。为提高整流器运行可靠性,需针对其中的敏感部件整流二极管进行寿命预测,提出一种由改进后的灰狼优化算法(grey wolf optimization,GWO)优化简单循环单元(simple recurrent unit,SRU)网络超参数的预测模型。首先对二极管进行功率循环加速老化试验,对其特征参数进行分析,选取正向导通压降作为主要老化特征,其次采用改良策略后的GWO对SRU网络的学习率、隐藏层个数、迭代次数等超参数进行寻优,建立组合预测模型,最后将老化试验所得数据输入模型中进行训练以及验证,得到预测结果与其他模型对比。结果表明:本文模型具有更高的准确性,基于数据驱动的预测方法较传统分析建模方法提高了二极管寿命预测精度,进而提高了整流器工作可靠性。 展开更多
关键词 整流二极管 寿命预测 加速老化试验 简单循环单元 改进灰狼算法
在线阅读 下载PDF
基于简单循环单元的深层神经网络机器翻译模型 被引量:19
2
作者 张文 冯洋 刘群 《中文信息学报》 CSCD 北大核心 2018年第10期36-44,共9页
基于注意力机制的神经网络机器翻译模型已经成为目前主流的翻译模型,在许多翻译方向上均超过了统计机器翻译模型,尤其是在训练语料规模比较大的情况下,优势更加明显。该模型使用编码器—解码器框架,将翻译任务建模成序列到序列的问题。... 基于注意力机制的神经网络机器翻译模型已经成为目前主流的翻译模型,在许多翻译方向上均超过了统计机器翻译模型,尤其是在训练语料规模比较大的情况下,优势更加明显。该模型使用编码器—解码器框架,将翻译任务建模成序列到序列的问题。然而,在基于门控循环单元(gated recurrent unit,GRU)的编码器—解码器模型中,随着模型层数的增加,梯度消失的问题使模型难以收敛并且严重退化,进而使翻译性能下降。该文使用了一种简单循环单元(simple recurrent unit,SRU)代替GRU单元,通过堆叠网络层数加深编码器和解码器的结构,提高了神经网络机器翻译模型的性能。我们在德语—英语和维语—汉语翻译任务上进行了实验,实验结果表明,在神经网络机器翻译模型中使用SRU单元,可以有效地解决梯度消失带来的模型难以训练的问题;通过加深模型能够显著地提升系统的翻译性能,同时保证训练速度基本不变。此外,我们还与基于残差连接(residual connections)的神经网络机器翻译模型进行了实验对比,实验结果表明,我们的模型有显著性优势。 展开更多
关键词 门控循环单元 梯度消失 残差连接 简单循环单元
在线阅读 下载PDF
基于卷积神经网络和简单循环单元集成模型的风电场内多风机风速预测 被引量:35
3
作者 王晨 寇鹏 《电工技术学报》 EI CSCD 北大核心 2020年第13期2723-2735,共13页
在传统风电场风速预测中,往往将风电场视作一个整体,进而给出较大空间尺度下的单一整体风速预测结果。但在实际风电场中,多台风机分布在不同的地理位置上,其各自的本地风速也存在明显差异。对此,该文提出一种通过学习历史风速和历史风... 在传统风电场风速预测中,往往将风电场视作一个整体,进而给出较大空间尺度下的单一整体风速预测结果。但在实际风电场中,多台风机分布在不同的地理位置上,其各自的本地风速也存在明显差异。对此,该文提出一种通过学习历史风速和历史风向中空间相关性和时间相关性,从而实现不同地理位置上多风机各自本地风速的预测方法。该方法首先利用卷积神经网络(CNN)提取空间相关性信息,然后将蕴含空间信息的特征序列交由简单循环单元(SRU)处理,进而学习时间相关性信息。风速和三角函数化的风向构成类似于RGB图像结构的三维矩阵。CNN非常适合处理RGB图像类型的数据,故使用CNN提取多风机的风速和风向在同一个时刻下的空间信息。与其他循环神经网络相比,由于SRU可大幅减小计算代价,故使用SRU提取多风机的风速和风向随时间变化的动态信息。在实际风电场数据上的仿真测试表明:在多个不同的预测时域下,该方法与现有利用时空相关性的预测方法相比,不仅显著减小了计算代价,而且提高了预测的准确性。 展开更多
关键词 多风机风速预测 卷积神经网络 简单循环单元 改进循环神经网络 时空相关性
在线阅读 下载PDF
基于卷积与双向简单循环单元的文本分类模型 被引量:2
4
作者 陈天龙 喻国平 姚磊岳 《计算机工程与设计》 北大核心 2020年第3期838-844,共7页
针对基于词粒度的长短时记忆(LSTM)网络模型存在着无法充分学习上下文语义信息的问题,提出一种基于卷积和双向简单循环单元的文本分类模型(Conv-BSA)。利用卷积和局部池化操作提取并筛选n-gram信息,使用双向简单循环单元结构提取文本深... 针对基于词粒度的长短时记忆(LSTM)网络模型存在着无法充分学习上下文语义信息的问题,提出一种基于卷积和双向简单循环单元的文本分类模型(Conv-BSA)。利用卷积和局部池化操作提取并筛选n-gram信息,使用双向简单循环单元结构提取文本深层次语义特征,通过注意力机制对深层语义特征进行加权得到最终文本表示,借助softmax函数进行分类,达到高效分辨文本类别的目的。实验结果表明,Conv-BSA模型的分类准确率高达96.09%,优于即有主流模型。简单循环单元(SRU)能够提升分类准确率,降低训练耗时。 展开更多
关键词 卷积层 双向简单循环单元 注意力机制 文本分类 文本表示
在线阅读 下载PDF
基于双向堆叠简单循环单元的滚动轴承寿命预测 被引量:1
5
作者 李博阳 姚德臣 +1 位作者 刘恒畅 杨建伟 《机械强度》 CAS CSCD 北大核心 2021年第4期786-792,共7页
为解决传统滚动轴承寿命预测方法精度差,效率低的问题。提出一种基于双向堆叠简单循环单元(Bidirectional Stack Simple Recurrent Unit,Bi-SRU)的预测方法。从原始信号中提取多种时、频域特征构建多维数据集,增强信息表征,避免了单一... 为解决传统滚动轴承寿命预测方法精度差,效率低的问题。提出一种基于双向堆叠简单循环单元(Bidirectional Stack Simple Recurrent Unit,Bi-SRU)的预测方法。从原始信号中提取多种时、频域特征构建多维数据集,增强信息表征,避免了单一特征对轴承退化能力反映不足的缺点。依靠循环神经网络(Recurrent Neural Network,RNN)处理时序数据的能力,构建SRU模型,重构传统RNN串行运算结构,提升训练效率。并在单层SRU的基础上反向堆叠,使模型能够获取学习时间维度上的双向信息,提升预测准确性。实验结果表明,所提方法在预测精度和训练效率上均有提升。 展开更多
关键词 滚动轴承 简单循环单元 反向堆叠 双向信息 寿命预测
在线阅读 下载PDF
基于多尺度稀疏简单循环单元模型的水声目标识别方法 被引量:4
6
作者 杨爽 曾向阳 《哈尔滨工程大学学报》 EI CAS CSCD 北大核心 2022年第7期958-964,共7页
针对实际应用中目标识别系统在噪声环境下识别性能显著下降的问题,本文基于有监督的简单循环单元提出了一种多尺度稀疏简单循环单元模型。该模型利用简单循环单元的内部反馈机制对水声目标时间序列(时域波形)建模,利用不同层数堆叠的简... 针对实际应用中目标识别系统在噪声环境下识别性能显著下降的问题,本文基于有监督的简单循环单元提出了一种多尺度稀疏简单循环单元模型。该模型利用简单循环单元的内部反馈机制对水声目标时间序列(时域波形)建模,利用不同层数堆叠的简单循环单元块学习时间序列的多尺度特征表示,并对特征表示进行融合;同时在模型输入和多特征层(特征融合层)间添加跳跃连接来加快模型收敛。通过3类实测水声目标辐射噪声数据的对比实验发现,与多层卷积神经网络模型相比,多尺度稀疏简单循环单元模型在训练样本和测试样本噪声条件不匹配的情况下,能够保持较高的正确识别率,是具有噪声鲁棒性的网络模型。 展开更多
关键词 水声目标识别 简单循环单元 深度学习 噪声失匹配 循环神经网络 多尺度特征融合
在线阅读 下载PDF
基于简单循环单元的储能锂离子电池SOC和SOH联合估计方法 被引量:11
7
作者 周航 刘晓龙 +2 位作者 张梦迪 孙金磊 程泽 《电气工程学报》 CSCD 2023年第3期332-340,共9页
锂离子电池的荷电状态(State of charge,SOC)和健康状态(State of health,SOH)是电池储能系统在运维过程中所需要估算的重要参数。为了能够对电池状态进行可靠估计,采用深度学习方法中的简单循环单元(Simple recurrent unit,SRU)来实现... 锂离子电池的荷电状态(State of charge,SOC)和健康状态(State of health,SOH)是电池储能系统在运维过程中所需要估算的重要参数。为了能够对电池状态进行可靠估计,采用深度学习方法中的简单循环单元(Simple recurrent unit,SRU)来实现对电池SOC和SOH的联合估计。首先,通过利用SRU在处理时序问题上的优势,建立了基于SRU的电池SOC估计模型;接着,给模型引入了数据单元的输入形式,并使用含有电池老化信息的样本数据来对模型进行训练,使得训练好的模型能够实现任意电池老化程度下的SOC估计;最后,通过对该模型输出的SOC估计值中所隐含的老化信息进行挖掘,实现对电池SOH的估计。试验结果表明,该联合估计方法可以实现电池SOC与SOH的准确估计,并且对不同种类的电池也有较好的适用能力。 展开更多
关键词 锂离子电池 荷电状态 健康状态 简单循环单元 联合估计
在线阅读 下载PDF
基于简单循环单元组合模型的计量器具需求预测方法研究 被引量:2
8
作者 黄磊 邓红梅 +1 位作者 赵莉 张羽 《电测与仪表》 北大核心 2023年第5期193-200,共8页
为提升电网公司计量器具管理水平,制定科学的物资采购计划,对计量器具需求预测的准确性及可靠性提出了更高的要求。文章以电能表为计量器具主要研究对象,依据简单循环单元(Simple Recurrent Unit,SRU)算法处理时序数据及并行计算的优势,... 为提升电网公司计量器具管理水平,制定科学的物资采购计划,对计量器具需求预测的准确性及可靠性提出了更高的要求。文章以电能表为计量器具主要研究对象,依据简单循环单元(Simple Recurrent Unit,SRU)算法处理时序数据及并行计算的优势,以SRU算法为基础,结合径向基(Radial Basis Function,RBF)神经网络、贝叶斯网络对需求影响因素的数据处理,针对“业扩新装”、“轮换改造”及“故障抢修”需求类的计量器具分别构建需求预测组合模型,进行计量器具需求量的预测。实验数据表明,文章所提基于SRU组合模型的需求预测方法预测精度高且具有较高的运算效率,运用到电网公司业务中,经过验证该方法可为计量器具补货策略的制定提供有效的数据基础,进一步提高电网公司对计量器具的采购管理水平。 展开更多
关键词 简单循环单元SRU 需求预测 计量器具 组合模型
在线阅读 下载PDF
结合BERT和卷积双向简单循环网络的文本情感分析 被引量:5
9
作者 黄泽民 吴迎岗 《计算机应用与软件》 北大核心 2022年第12期213-218,共6页
针对传统预训练模型无法解决多义词表征问题和抽取的情感特征能力不足等问题,提出一种结合BERT和卷积双向简单循环网络的文本情感分类模型。用BERT预训练得到融合句子语境的动态词向量;用多粒度卷积神经网络对词向量特征进行二次抽取,... 针对传统预训练模型无法解决多义词表征问题和抽取的情感特征能力不足等问题,提出一种结合BERT和卷积双向简单循环网络的文本情感分类模型。用BERT预训练得到融合句子语境的动态词向量;用多粒度卷积神经网络对词向量特征进行二次抽取,池化后注入局部响应归一化层LRN来归一化特征图,以生成句子整体特征表示;利用双向简单循环单元进一步学习上下文语义信息;使用Softmax回归得出文本的情感倾向。实验结果表明,结合BERT和卷积双向简单循环网络的文本情感分类模型能获得更高的准确率,注入的LRN层和并行化循环网络有效提高模型性能,具有较好的实用价值。 展开更多
关键词 文本情感分析 双向解码器 上下文信息 双向简单循环单元 卷积神经网络
在线阅读 下载PDF
Transformer融合CNN-SRU的工业控制网络入侵检测方法 被引量:1
10
作者 史长鑫 宗学军 +2 位作者 何戡 连莲 孙逸菲 《重庆理工大学学报(自然科学)》 北大核心 2025年第3期85-92,共8页
针对工业控制网络入侵检测的现有方法只关注网络流量的局部特征或全局特征,以及网络流量数据分布不平衡导致入侵检测模型准确率低的问题,提出一种Transformer融合卷积神经网络-简单循环单元(CNN-SRU)的工业控制网络入侵检测方法。采用... 针对工业控制网络入侵检测的现有方法只关注网络流量的局部特征或全局特征,以及网络流量数据分布不平衡导致入侵检测模型准确率低的问题,提出一种Transformer融合卷积神经网络-简单循环单元(CNN-SRU)的工业控制网络入侵检测方法。采用自适应合成采样方法(ADASYN)和高斯混合模型(GMM)对少数类样本进行过采样,达到样本平衡。通过CNN-SRU捕获网络流量数据的时空局部特征,Transformer编码器部分捕捉全局联系进行深层次特征提取。在NSL_KDD数据集上进行实验,模型的总体准确率达到99.61%,高于对比的神经网络模型。在密西西比州立大学天然气管道控制系统数据集和本实验室油气集输全流程工业攻防靶场上进行实验,总体准确率分别达到98.58%和96.89%,证明了所提方法在工业控制网络入侵检测中的科学性与可行性。 展开更多
关键词 工业控制网络 入侵检测 TRANSFORMER 卷积神经网络 简单循环单元
在线阅读 下载PDF
改进EEMD-WOA-SRU模型在用水量预测中的应用 被引量:2
11
作者 刘扬 杜帅兵 《水电能源科学》 北大核心 2023年第12期32-35,共4页
针对用水量信号表现出的强随机性和非平稳性状态,用水量预测存在的精度低、可信度差等问题,提出了基于改进EEMD-WOA-SRU的混合用水量预测模型。首先采用长短期记忆网络(LSTM)预测法抑制集合经验模态分解(EEMD)的端点效应得到改进后的本... 针对用水量信号表现出的强随机性和非平稳性状态,用水量预测存在的精度低、可信度差等问题,提出了基于改进EEMD-WOA-SRU的混合用水量预测模型。首先采用长短期记忆网络(LSTM)预测法抑制集合经验模态分解(EEMD)的端点效应得到改进后的本征模态分量(IMF),然后使用鲸鱼算法(WOA)优化简单循环单元(SRU)并预测各分量,最后累加得到最终的预测结果。试验结果表明,EEMD的分解误差平均降低0.94%,相较于SRU,EEMD-WOA-SRU模型预测的平均绝对误差降低45.42%,均方根误差降低50.43%,可信度提高52.38%。研究结果可为水资源决策提供依据。 展开更多
关键词 用水量预测 集合经验模态分解 鲸鱼优化算法 端点效应 简单循环单元
在线阅读 下载PDF
基于混合特征网络的学生评教文本情感分析模型 被引量:3
12
作者 吴奇林 党亚固 +2 位作者 熊山威 吉旭 毕可鑫 《计算机工程》 CAS CSCD 北大核心 2023年第11期24-29,39,共7页
以学生评教文本情感分析任务作为切入点,针对传统基础深度学习模型特征提取能力不足、循环神经网络训练效率较低以及词向量语义表示不准确等问题,提出基于混合特征网络的学生评教文本情感分类算法。采用轻量级ALBERT预训练模型提取符合... 以学生评教文本情感分析任务作为切入点,针对传统基础深度学习模型特征提取能力不足、循环神经网络训练效率较低以及词向量语义表示不准确等问题,提出基于混合特征网络的学生评教文本情感分类算法。采用轻量级ALBERT预训练模型提取符合当前上下文语境的每个词的动态向量表示,解决传统词向量模型存在的一词多义问题,增强向量语义表示的准确性;混合特征网络通过结合简单循环单元和多尺度局部卷积学习模块以及自注意力层,全面捕捉评教文本全局上下文序列特征和不同尺度下的局部语义信息,提升模型的深层次特征表示能力,自注意力机制通过计算每个分类特征对分类结果的重要程度,识别出对情感识别结果影响较大的关键特征,避免无关特征对结果造成干扰,影响分类性能,将分类向量拼接后由线性层输出评教文本情感分类结果。在真实学生评教文本数据集上的实验结果表明,该模型F1值达到97.8%,高于对比的BERT-BiLSTM、BERT-GRU-ATT等深度学习模型。此外,消融实验结果也证明了各模块的有效性。 展开更多
关键词 情感分析 预训练模型 自注意力 双向简单循环单元 多尺度卷积网络
在线阅读 下载PDF
利用多空间尺度下时空相关性的点云分布多风机风速预测 被引量:11
13
作者 王晨 寇鹏 +1 位作者 王若谷 高欣 《电力系统自动化》 EI CSCD 北大核心 2021年第22期65-73,共9页
在风机呈不规则排列的风电场中,不同空间位置下的众多风机分布构成点云,而不是规则化的矩形网格。点云是不规则且无序的,可以代表任意风电场中多风机的地理位置分布,但是不能构成卷积神经网络(CNN)高度规则的网格输入,卷积算子难以学习... 在风机呈不规则排列的风电场中,不同空间位置下的众多风机分布构成点云,而不是规则化的矩形网格。点云是不规则且无序的,可以代表任意风电场中多风机的地理位置分布,但是不能构成卷积神经网络(CNN)高度规则的网格输入,卷积算子难以学习其空间局部相关性。若直接将不规则点云映射为网格排列进行常规卷积,会失去点云原始的空间信息。为此,采用点CNN进行空间相关性提取,再利用简单循环单元进行时间相关性提取,从而获取点云数据的时空相关性。同时,设计点CNN时融入了多尺度下的空间特征提取与汇集。最后,结合实际以点云分布的多风机仿真结果验证了所提预测模型的有效性。 展开更多
关键词 点云 多风机 本地风速预测 时空相关性 卷积神经网络 简单循环单元
在线阅读 下载PDF
基于混合神经网络的短期电力负荷预测方法 被引量:10
14
作者 任轩 汪庆年 +2 位作者 尚宝 姜宏伟 常乐 《电子测量技术》 北大核心 2022年第14期71-77,共7页
电力负荷预测对电网的经济运行至关重要,为提高短期负荷预测精度并降低混合神经网络模型的训练时间,提出了一种基于多层感知器(MLP)的基础子网、简单循环单元(SRU)与主成分分析(PCA)的短期电力负荷预测模型。首先,考虑影响电力负荷变化... 电力负荷预测对电网的经济运行至关重要,为提高短期负荷预测精度并降低混合神经网络模型的训练时间,提出了一种基于多层感知器(MLP)的基础子网、简单循环单元(SRU)与主成分分析(PCA)的短期电力负荷预测模型。首先,考虑影响电力负荷变化的各种因素,建立负荷预测输入特征集;其次,利用PCA对输入网络的部分特征进行变换并降维;最后,将经过PCA处理后得到的全新数据信息作为模型的输入,并结合Adam梯度下降算法进行训练,输出负荷预测的结果。通过仿真实验结果表明,包含SRU的混合模型在全部测试集样本上的MAPE为2.126%,远低于仅有子网的单一模型与包含DNN的混合模型,而与包含LSTM的混合模型相比,训练时间却降低了22.74%,同时PCA的应用也使得模型的收敛速度加快,极大地减小了训练轮数。 展开更多
关键词 短期负荷预测 主成分分析 基础子网 简单循环单元 混合模型
在线阅读 下载PDF
结合BERT和BiSRU-AT的中文文本情感分类 被引量:6
15
作者 黄泽民 吴晓鸰 +1 位作者 吴迎岗 凌捷 《计算机工程与科学》 CSCD 北大核心 2021年第9期1668-1675,共8页
针对传统语言模型的词向量表示无法解决多义词表征的问题,以及现有情感分析模型不能充分捕获长距离语义信息的问题,提出了一种结合BERT和BiSRU-AT的文本情感分类模型BERT-BiSRU-AT。首先用预训练模型BERT获取融合文本语境的词向量表征;... 针对传统语言模型的词向量表示无法解决多义词表征的问题,以及现有情感分析模型不能充分捕获长距离语义信息的问题,提出了一种结合BERT和BiSRU-AT的文本情感分类模型BERT-BiSRU-AT。首先用预训练模型BERT获取融合文本语境的词向量表征;然后利用双向简单循环单元(BiSRU)二次提取语义特征和上下文信息;再利用注意力机制对BiSRU层的输出分配权重以突出重点信息;最后使用Softmax激励函数得出句子级别的情感概率分布。实验采用中文版本的推特数据集和酒店评论数据集。实验结果表明,结合BERT和BiSRU-AT的文本情感分析模型能够获得更高的准确率,双向简单循环模型和注意力机制的引入能有效提高模型的整体性能,有较大的实用价值。 展开更多
关键词 文本情感分析 语义特征 注意力机制 双向简单循环单元 双向解码器
在线阅读 下载PDF
融合RoBERTa的多尺度语义协同专利文本分类模型 被引量:3
16
作者 梅侠峰 吴晓鸰 +1 位作者 黄泽民 凌捷 《计算机工程与科学》 CSCD 北大核心 2023年第5期903-910,共8页
针对静态词向量工具(如word2vec)舍弃词的上下文语境信息,以及现有专利文本分类模型特征抽取能力不足等问题,提出了一种融合RoBERTa的多尺度语义协同(RoBERTa-MCNN-BiSRU++-AT)专利文本分类模型。RoBERTa能够学习到当前词符合上下文的... 针对静态词向量工具(如word2vec)舍弃词的上下文语境信息,以及现有专利文本分类模型特征抽取能力不足等问题,提出了一种融合RoBERTa的多尺度语义协同(RoBERTa-MCNN-BiSRU++-AT)专利文本分类模型。RoBERTa能够学习到当前词符合上下文的动态语义表示,解决静态词向量无法表示多义词的问题。多尺度语义协同模型利用卷积层捕获文本多尺度局部语义特征,再由双向内置注意力简单循环单元进行不同层次的上下文语义建模,将多尺度输出特征进行拼接,由注意力机制对分类结果贡献大的关键特征分配更高权重。在国家信息中心发布的专利文本数据集上进行验证,与ALBERT-BiGRU和BiLSTM-ATT-CNN相比,RoBERTa-MCNN-BiSRU++-AT部级专利的分类准确率分别提升了2.7%和5.1%,大类级专利的分类准确率分别提升了6.7%和8.4%。结果表明,RoBERTa-MCNN-BiSRU++-AT能有效提升对不同层级专利的分类准确率。 展开更多
关键词 专利文本分类 语义协同 简单循环单元 RoBERTa模型
在线阅读 下载PDF
结合ALBERT和BiFASRU-AT的情感分析模型 被引量:2
17
作者 梅侠峰 吴晓鸰 +1 位作者 吴杰文 凌捷 《小型微型计算机系统》 CSCD 北大核心 2023年第1期36-42,共7页
针对现有循环和卷积深度模型特征抽取不全面,以及循环模型训练速度慢等问题,本文提出了结合ALBERT和BiFASRU-AT的情感分析模型.借助ALBERT(A Lite BERT)预训练模型赋予词上下文动态语义,解决一词多义问题;再采用双向内置快速注意力简单... 针对现有循环和卷积深度模型特征抽取不全面,以及循环模型训练速度慢等问题,本文提出了结合ALBERT和BiFASRU-AT的情感分析模型.借助ALBERT(A Lite BERT)预训练模型赋予词上下文动态语义,解决一词多义问题;再采用双向内置快速注意力简单循环单元(Bidirectional Build-in Fast Attention Simple Recurrent Unit,BiFASRU)对上下文进行建模,同时内置快速注意力机制可以捕获词与词之间的依赖关系,得到更为全面的高维情感特征;最后通过注意力机制对情感分析贡献大的词分配更高权重,经分类器得到结果.实验采用中文酒店评论和豆瓣评论数据集,结果表明,ALBERT-BiFASRU-AT模型能够获得更高的F1值,且BiFASRU模型比其他循环模型训练速度更快,证明了该模型的有效性. 展开更多
关键词 情感分析 快速注意力 简单循环单元 ALBERT
在线阅读 下载PDF
基于多层双向SRU与注意力模型的加密流量分类方法 被引量:6
18
作者 张稣荣 卜佑军 +3 位作者 陈博 孙重鑫 王涵 胡先君 《计算机工程》 CAS CSCD 北大核心 2022年第11期127-136,共10页
基于传统循环神经网络的加密流量分类方法普遍存在并行性较差、模型运行效率较低等问题。为实现加密流量的快速准确分类,提出一种基于多层双向简单循环单元(SRU)与注意力(MLBSRU-A)模型的加密流量分类方法。将特征学习和分类统一到一个... 基于传统循环神经网络的加密流量分类方法普遍存在并行性较差、模型运行效率较低等问题。为实现加密流量的快速准确分类,提出一种基于多层双向简单循环单元(SRU)与注意力(MLBSRU-A)模型的加密流量分类方法。将特征学习和分类统一到一个端到端模型中,利用SRU模型高度并行化的序列建模能力来提高整体运行效率。为了提升MLBSRU-A模型的分类精度,堆叠多层双向SRU网络使其自动地从原始流量中提取特征,并引入注意力机制为特征赋予不同的权重,从而提高重要特征之间的区分度。实验结果表明,在公开数据集ISCX VPN-nonVPN上,MLBSRU-A模型具有较高的分类精度和运行效率,与BGRUA模型相比,MLBSRU-A的细粒度分类准确率提高4.34%,训练时间减少55.38%,在USTC-TFC2016数据集上,MLBSRU-A模型对未知加密恶意流量的检测准确率达到99.50%,细粒度分类准确率为98.84%,其兼具对未知加密恶意流量的高精度检测能力以及对加密恶意流量的细粒度分类能力。 展开更多
关键词 加密流量分类 加密恶意流量检测 简单循环单元 注意力机制 循环神经网络
在线阅读 下载PDF
结合SE与BiSRU的Unet的音乐源分离方法 被引量:5
19
作者 张瑞峰 白金桐 +1 位作者 关欣 李锵 《华南理工大学学报(自然科学版)》 EI CAS CSCD 北大核心 2021年第11期106-115,134,共11页
音乐源分离在音乐信息检索领域有着重要的研究价值。传统音乐源分离方法存在依赖假设、模型复杂度有限、表示能力不足等问题。能应对这些问题的时域深度学习端到端网络模型训练耗时长,且分离性能有待提升。为进一步改善时域端到端分离... 音乐源分离在音乐信息检索领域有着重要的研究价值。传统音乐源分离方法存在依赖假设、模型复杂度有限、表示能力不足等问题。能应对这些问题的时域深度学习端到端网络模型训练耗时长,且分离性能有待提升。为进一步改善时域端到端分离模型的表示能力和计算效率,在目前时域分离性能最优的Demucs模型基础上进行改进,提出了一种端对端网络Unet-SE-BiSRU。该模型在广义编码层和解码层中引入了注意力机制,采用挤压-激励块(SE)根据待分离音频的种类有选择地提取特征;在一维卷积后增加组归一化,以应对在学习过程中可能出现的梯度爆炸或梯度消失问题;将双向长短期记忆网络改进为双向简单循环单元(BiSRU),进一步提高了学习的并行性,且降低了模型参数量。实验结果表明,改进后的网络模型的信噪比指标提升了0.34 dB,在目前检索到的文献的时域端对端方法中取得了最好的分离性能,并且训练时间缩短为源模型的2/5。 展开更多
关键词 音乐源分离 U型网络 时域端到端分离模型 简单循环单元 挤压-激励块 组归一化
在线阅读 下载PDF
面向BSP-CNN的短文本情感倾向性分类研究 被引量:6
20
作者 廖小琴 徐杨 《计算机工程与应用》 CSCD 北大核心 2019年第23期120-124,共5页
针对消费短文本评论中的情感倾向性分类问题,提出了一种BSP-CNN混合神经网络模型。模型先使用双向简单循环单元(BiSRU)对数据进行特征表示,再使用逐点卷积神经网络(P-CNN)进一步学习语义特征,并输出情感倾向性分类结果。实验结果表明,... 针对消费短文本评论中的情感倾向性分类问题,提出了一种BSP-CNN混合神经网络模型。模型先使用双向简单循环单元(BiSRU)对数据进行特征表示,再使用逐点卷积神经网络(P-CNN)进一步学习语义特征,并输出情感倾向性分类结果。实验结果表明,与传统的长短期记忆神经网络(LSTM)和卷积神经网络(CNN)相比,BSPCNN混合神经网络模型有效简化了计算,缩短了运行时间,并且在不同大小和不同文本长度的数据集上均能取得更高的F1值。 展开更多
关键词 情感倾向性分析 双向简单循环单元 逐点卷积神经网络 混合神经网络
在线阅读 下载PDF
上一页 1 2 下一页 到第
使用帮助 返回顶部