期刊文献+
共找到323篇文章
< 1 2 17 >
每页显示 20 50 100
融合RNN与稀疏自注意力的文本摘要方法 被引量:2
1
作者 刘钟 唐宏 +1 位作者 王宁喆 朱传润 《计算机工程》 北大核心 2025年第1期312-320,共9页
随着深度学习的高速发展,基于序列到序列(Seq2Seq)架构的文本摘要方法成为研究焦点,但现有大多数文本摘要模型受限于长期依赖,忽略了注意力机制复杂度以及词序信息对文本摘要生成的影响,生成的摘要丢失关键信息,偏离原文内容与意图,影... 随着深度学习的高速发展,基于序列到序列(Seq2Seq)架构的文本摘要方法成为研究焦点,但现有大多数文本摘要模型受限于长期依赖,忽略了注意力机制复杂度以及词序信息对文本摘要生成的影响,生成的摘要丢失关键信息,偏离原文内容与意图,影响用户体验。为了解决上述问题,提出一种基于Transformer改进的融合递归神经网络(RNN)与稀疏自注意力的文本摘要方法。首先采用窗口RNN模块,将输入文本按窗口划分,每个RNN对窗口内词序信息进行压缩,并通过窗口级别的表示整合为整个文本的表示,进而增强模型捕获局部依赖的能力;其次采用基于递归循环机制的缓存模块,循环缓存上一文本片段的信息到当前片段,允许模型更好地捕获长期依赖和全局信息;最后采用稀疏自注意力模块,通过块稀疏矩阵对注意力矩阵按块划分,关注并筛选出重要令牌对,而不是在所有令牌对上平均分配注意力,从而降低注意力的时间复杂度,提高长文本摘要任务的效率。实验结果表明,该方法在数据集text8、enwik8上的BPC分数相比于LoBART模型降低了0.02,在数据集wikitext-103以及ptb上的PPL分数相比于LoBART模型分别降低了1.0以上,验证了该方法的可行性与有效性。 展开更多
关键词 序列到序列架构 文本摘要 Transformer模型 递归神经网络 递归循环机制 稀疏自注意力机制
在线阅读 下载PDF
An INS/GNSS integrated navigation in GNSS denied environment using recurrent neural network 被引量:16
2
作者 Hai-fa Dai Hong-wei Bian +1 位作者 Rong-ying Wang Heng Ma 《Defence Technology(防务技术)》 SCIE EI CAS CSCD 2020年第2期334-340,共7页
In view of the failure of GNSS signals,this paper proposes an INS/GNSS integrated navigation method based on the recurrent neural network(RNN).This proposed method utilizes the calculation principle of INS and the mem... In view of the failure of GNSS signals,this paper proposes an INS/GNSS integrated navigation method based on the recurrent neural network(RNN).This proposed method utilizes the calculation principle of INS and the memory function of the RNN to estimate the errors of the INS,thereby obtaining a continuous,reliable and high-precision navigation solution.The performance of the proposed method is firstly demonstrated using an INS/GNSS simulation environment.Subsequently,an experimental test on boat is also conducted to validate the performance of the method.The results show a promising application prospect for RNN in the field of positioning for INS/GNSS integrated navigation in the absence of GNSS signal,as it outperforms extreme learning machine(ELM)and EKF by approximately 30%and 60%,respectively. 展开更多
关键词 INERTIAL NAVIGATION system(INS) Global NAVIGATION satellite system(GNSS) Integrated NAVIGATION recurrent neural network(rnn)
在线阅读 下载PDF
基于改进RNN元启发式的RRT冗余机械臂路径规划
3
作者 胡江瑜 马珺杰 +1 位作者 李展 黄德青 《现代制造工程》 北大核心 2025年第9期41-52,共12页
为满足铁路接触网腕臂智能检修作业中机械臂自动导航需求,提出一种综合解决路径规划和障碍物避让问题的研究方法。该方法将双重目标转化为单一的约束优化问题。在此基础上,对标准快速搜索随机树(Rapidly exploring Random Tree,RRT)算... 为满足铁路接触网腕臂智能检修作业中机械臂自动导航需求,提出一种综合解决路径规划和障碍物避让问题的研究方法。该方法将双重目标转化为单一的约束优化问题。在此基础上,对标准快速搜索随机树(Rapidly exploring Random Tree,RRT)算法进行改进,引入地图复杂程度评估策略和高斯混合分布采样策略,以约束随机采样点的生成方向。通过加入角度约束策略和临近障碍物的变步长机制,确保随机树始终向目标点方向生长,从而规划出渐进最优的路径。此外,设计一种基于甲虫嗅觉探测的递归神经网络(Recurrent Neural Network based on Beetle Olfactory Detection,RNNBOD)算法,配置最优关节角度,驱动冗余机械臂末端执行器沿规划的参考路径移动,从而降低其计算成本。仿真结果表明,该方法不仅有效提升了标准RRT算法的搜索效率、节点利用率和路径质量,还成功解决了冗余机械臂在运行过程中的跟踪控制难题。 展开更多
关键词 接触网检修 路径规划 避障 递归神经网络算法 跟踪控制
在线阅读 下载PDF
基于RNN的倾转四旋翼无人机滑模控制
4
作者 李晨 熊晶晶 《控制工程》 北大核心 2025年第5期866-873,共8页
针对倾转四旋翼无人机处于不同倾转角的固定翼模式以及直升机模式下的位姿跟踪控制,提出一种基于循环神经网络(recurrentneuralnetwork,RNN)的自适应滑模控制策略。首先,将四旋翼动力学模型分为全驱动和欠驱动2个子系统。鉴于无人机存... 针对倾转四旋翼无人机处于不同倾转角的固定翼模式以及直升机模式下的位姿跟踪控制,提出一种基于循环神经网络(recurrentneuralnetwork,RNN)的自适应滑模控制策略。首先,将四旋翼动力学模型分为全驱动和欠驱动2个子系统。鉴于无人机存在模型参数的不确定性和外部扰动,通过循环神经网络对等效控制器进行估算,以解决使用滑模控制方法得到的等效控制器不能直接应用于无人机的问题。然后,为保证控制系统的稳定性,并削弱控制器的抖振,设计了新的切换控制器。根据Lyapunov理论,2个子系统均能到达滑模面。最后,通过对比仿真验证了所提方法的有效性。 展开更多
关键词 倾转四旋翼无人机 循环神经网络 自适应控制 滑模控制
在线阅读 下载PDF
基于RNN信息累积的动态多目标优化算法 被引量:4
5
作者 程雪峰 董明刚 《计算机科学》 CSCD 北大核心 2024年第8期333-344,共12页
动态多目标优化问题广泛存在于现实生活中,在环境发生变化后,进化算法需具备快速收敛、快速追踪帕累托最优前沿和维持多样性的能力。对于环境变化程度严重且变化频繁的情况,传统的预测方法无法有效获得帕累托最优前沿解。针对该问题,提... 动态多目标优化问题广泛存在于现实生活中,在环境发生变化后,进化算法需具备快速收敛、快速追踪帕累托最优前沿和维持多样性的能力。对于环境变化程度严重且变化频繁的情况,传统的预测方法无法有效获得帕累托最优前沿解。针对该问题,提出了一种基于循环神经网络(Recurrent Neural Networks,RNN)信息累积的动态多目标优化算法(IA-RNN)。首先,提出了一种基于RNN信息累积的非线性预测方法,利用RNN递归进行信息累积,提高了历史信息利用率,增强了预测的能力。其次,设计了一种基于个体的线性预测方法,利用参数矩阵对个体线性变化进行预测。线性预测与RNN非线性预测协同进化,可快速追踪帕累托最优前沿。最后,设计了一种基于最小二乘法的参数修正策略,通过当前环境的近似帕累托最优前沿解反向指导参数修正,减小了误差堆积的影响。将IA-RNN与5种代表性动态多目标优化算法在14个DF基准测试问题上进行比较。实验证明,IA-RNN算法的收敛性和多样性更优。 展开更多
关键词 动态多目标 进化算法 预测 循环神经网络 信息累积
在线阅读 下载PDF
基于RNN算法和分子模拟设计新的STAT3抑制剂
6
作者 薛义宽 王禹翔 +1 位作者 王佩 陆卫忠 《中国生物化学与分子生物学报》 CAS CSCD 北大核心 2024年第12期1732-1741,共10页
信号转导子和转录激活因子3(signal transducer and activator of transcription3,STAT3)在多种癌干细胞中存在异常表达,其与细胞的癌变具有强相关性。因此,设计和研究新的STAT3抑制剂是攻克癌症的重要且有效策略。本文基于循环神经网络... 信号转导子和转录激活因子3(signal transducer and activator of transcription3,STAT3)在多种癌干细胞中存在异常表达,其与细胞的癌变具有强相关性。因此,设计和研究新的STAT3抑制剂是攻克癌症的重要且有效策略。本文基于循环神经网络(recurrent neural network,RNN)算法,提出一种全新STAT3抑制剂的设计方法,并且通过分子模拟研究对该方法进行效果评价。本文的研究路线如下:使用RNN算法构建STAT3抑制剂生成模型,使其能生成全新抑制剂;基于机器学习算法,建立STAT3抑制剂的分子分类预测模型;对分类为STAT3抑制剂的分子进行基于分子对接的层级虚拟筛选,选出最终在高精度筛选(extra precision,XP)中得分最高的3个分子作为潜在抑制剂进行下一步研究;对潜在抑制剂进行结合自由能计算以及吸收、分配、代谢、排泄和毒性(absorption distribution metabolism excretion toxicity,ADMET)的预测并在后续利用独立梯度模型(independent gradient model,IGM)分析,进一步探究其成药性。本文的研究结果表明,利用上述方法可以有效生成出有良好成药性的全新STAT3潜在抑制剂,为后续STAT3药物研发提供经验和参考。 展开更多
关键词 抑制剂 信号转导子和转录激活因子3 循环神经网络
在线阅读 下载PDF
Bi-RNN与GMS耦合的金属露天矿井涌水量预测
7
作者 赵誉兴 李向文 《煤田地质与勘探》 EI CAS CSCD 北大核心 2024年第12期155-169,共15页
【目的】在矿井实际生产过程开始前,准确预测涌水量对预防矿井潜在水害事故和保障安全生产具有重要的直接指导作用。【方法】为提升以大气降水为主要补给来源的露天矿井涌水量预测的准确性与稳定性,提出一种结合双向循环神经网络(bidire... 【目的】在矿井实际生产过程开始前,准确预测涌水量对预防矿井潜在水害事故和保障安全生产具有重要的直接指导作用。【方法】为提升以大气降水为主要补给来源的露天矿井涌水量预测的准确性与稳定性,提出一种结合双向循环神经网络(bidirectional recurrent neural network,Bi-RNN)和地下水数值模拟系统(groundwater modeling system,GMS)的涌水量预测耦合模型。该模型通过对全球预报系统数据(global forecast system,GFS)提供的研究区内历史预报降水与实际降水之间差值的波动规律进行分析,利用Bi-RNN对预报降水数据进行校正,将校正后的降水数据输入GMS中以预测南北2个开采区的涌水量。同时,采用传统的大井法和补给模数大井法对开采区涌水量进行预测,并对比不同方法的预测结果。【结果和结论】结果表明:北部开采区耦合模型预测结果为294 m^(3)/d,大井法预测结果为276.651~940.613 m^(3)/d,补给模数大井法预测结果为287.241 m^(3)/d;南部开采区耦合模型预测结果为1 160 m^(3)/d;大井法预测结果为3 330.107~5 090.944 m^(3)/d,补给模数大井法预测结果为1 108.575 m^(3)/d。研究表明,所建立的耦合模型在预测露天矿井涌水量方面取得了一定成果,作为一种结合多数据源的预测方法具有一定优势。该模型为解决矿井涌水量问题提供了新的思路和技术支持,具有较高的理论价值和实际应用潜力。 展开更多
关键词 露天矿井 涌水量预测 双向循环神经网络 全球预报系统 地下水数值模拟系统 深度学习
在线阅读 下载PDF
蜉蝣优化双通道网络在齿轮箱故障诊断中的应用
8
作者 于宁 魏沉潜 +2 位作者 田立勇 赵建军 于晓涵 《西安交通大学学报》 北大核心 2025年第5期217-228,共12页
为了有效提取齿轮箱中齿轮和滚动轴承的故障信号特征,并克服深度学习模型超参数选取依赖人工经验的局限性,提高故障诊断的准确性和稳定性,提出了一种基于蜉蝣算法(MA)优化的双通道神经网络故障诊断模型。该模型采用一维时序输入的门控... 为了有效提取齿轮箱中齿轮和滚动轴承的故障信号特征,并克服深度学习模型超参数选取依赖人工经验的局限性,提高故障诊断的准确性和稳定性,提出了一种基于蜉蝣算法(MA)优化的双通道神经网络故障诊断模型。该模型采用一维时序输入的门控循环单元(GRU)和二维图像输入的卷积神经网络(CNN)构建双通道并行架构,并引入自适应批标准化(AdaBN)算法。利用MA的全局优化能力,以CNN-GRU的诊断精度为优化目标,自适应调整模型超参数。将蜉蝣算法优化效果与粒子群算法和遗传算法进行了对比验证,以评估其在模型参数优化方面的有效性。基于东南大学齿轮箱数据集和凯斯西储大学轴承数据集的实验结果表明:该模型能够有效提取振动信号特征,其故障识别精度与稳定性均优于典型深度学习模型,并展现出较强的鲁棒性。在稳态工况下,优化后的CNN-GRU(MA-CNN-GRU)模型在各数据集上的识别精度显著提高;在噪声工况下,MA优化的CNN-GRU模型表现出优异的抗噪性;在变负载工况下,结合AdaBN算法的MA-CNN-GRU模型实现了最高的平均识别精度。所提模型能够高效、准确地检测齿轮箱故障,为机械设备的维护和稳定运行提供了重要的参考价值。 展开更多
关键词 故障诊断 齿轮箱 门控循环单元 卷积神经网络 蜉蝣算法
在线阅读 下载PDF
基于WOA-CNN-BiGRU的PEMFC性能衰退预测
9
作者 陈贵升 刘强 许杨松 《电源技术》 北大核心 2025年第4期831-840,共10页
针对PEMFC性能预测领域中存在的预测精度不足和泛化能力有限的问题,提出了一种结合鲸鱼优化算法(WOA)、卷积神经网络(CNN)和双向门控循环单元(BiGRU)的PEMFC输出性能预测方法。首先,采用最大信息系数从大量数据中提取对PEMFC输出性能影... 针对PEMFC性能预测领域中存在的预测精度不足和泛化能力有限的问题,提出了一种结合鲸鱼优化算法(WOA)、卷积神经网络(CNN)和双向门控循环单元(BiGRU)的PEMFC输出性能预测方法。首先,采用最大信息系数从大量数据中提取对PEMFC输出性能影响显著的特征,以降低计算复杂度。然后,结合CNN的特征提取能力和BiGRU在处理双向时间依赖性数据上的优势建立CNNBiGRU模型,并通过WOA优化其超参数进一步提升预测的准确性。最后,与传统预测模型进行对比,验证所建模型的优越性。实验结果表明:在训练集占比为60%时,模型在三种不同工况PEMFC老化数据集上的RMSE分别为0.0017、0.0014和0.0110,证明CNN-BiGRU模型具有较高的预测精度以及良好的泛化能力。 展开更多
关键词 PEMFC 性能衰退 鲸鱼优化算法 卷积神经网络 双向门控循环单元
在线阅读 下载PDF
基于多特征融合与双向RNN的细粒度意见分析 被引量:19
10
作者 郝志峰 黄浩 +1 位作者 蔡瑞初 温雯 《计算机工程》 CAS CSCD 北大核心 2018年第7期199-204,211,共7页
文本细粒度意见分析主要有属性抽取和基于属性的情感分类2个任务,现有方法完成上述任务采用条件随机场(CRF)训练属性抽取模型,并运用循环神经网络(RNN)训练基于属性的情感分类模型。但同时完成2个任务则无法找到属性和情感倾向的对应关... 文本细粒度意见分析主要有属性抽取和基于属性的情感分类2个任务,现有方法完成上述任务采用条件随机场(CRF)训练属性抽取模型,并运用循环神经网络(RNN)训练基于属性的情感分类模型。但同时完成2个任务则无法找到属性和情感倾向的对应关系。针对该问题,提出利用双向RNN构建基于序列标注的细粒度意见分析模型。通过融合文本的词向量、词性和依存关系等语言学特征,学习文本的修饰和语义信息,并设计一个时间序列标注模型,同时抽取属性实体判断文本的情感极性。在真实数据集上的实验结果表明,与CRF、TD-LSTM、AELSTM等模型相比,该模型情感分类效果提升明显。 展开更多
关键词 特征融合 词向量 循环神经网络 属性抽取 细粒度意见分析
在线阅读 下载PDF
基于自适应动态区间策略的工业控制协议模糊测试方法TDRFuzzer
11
作者 宗学军 韩冰 +3 位作者 王国刚 宁博伟 何戡 连莲 《计算机应用》 北大核心 2025年第10期3241-3251,共11页
针对模糊测试在工业控制协议(ICP)应用中存在测试用例接受率(TCAR)低和多样性不足等问题,提出一种基于自适应动态区间策略的ICP模糊测试方法。将循环神经网络(RNN)加入Transformer的自注意力机制,以构建协议特征提取模型;使用RNN通过滑... 针对模糊测试在工业控制协议(ICP)应用中存在测试用例接受率(TCAR)低和多样性不足等问题,提出一种基于自适应动态区间策略的ICP模糊测试方法。将循环神经网络(RNN)加入Transformer的自注意力机制,以构建协议特征提取模型;使用RNN通过滑动窗口提取数据的局部特征,并引入自注意力机制进行全局特征提取,以保证TCAR;在自注意力块间添加残差连接,以传递权重分数并提高计算效率;生成过程定义动态区间策略,调节模型在任意时间步的采样范围,从而增加测试用例的多样性;在测试过程中构建字段自适应重要性函数,以定位变异关键字段。基于上述方法,设计模糊测试框架TDRFuzzer,并采用Modbus TCP、S7 comm和Ethernet/IP等3种工业协议进行实验评估。结果表明,相较于GANFuzzer、WGANFuzzer和PeachFuzzer这3种模型,TDRFuzzer的TCAR指标显著提高,且漏洞检测率(VDR)分别提高了0.073、0.035和0.150个百分点,表明TDRFuzzer具备更强的ICP漏洞挖掘能力。 展开更多
关键词 模糊测试 工业控制协议 漏洞挖掘 TRANSFORMER 循环神经网络
在线阅读 下载PDF
增量构造式随机循环神经网络
12
作者 李文艺 代伟 +1 位作者 南静 刘从虎 《软件学报》 北大核心 2025年第9期4072-4092,共21页
针对循环神经网络(recurrent neural network,RNN)的结构不易确定、参数学习过程复杂等问题,提出一种增量构造式随机循环神经网络(incremental-construction for random RNN,IRRNN),实现了RNN结构的增量构造与参数的随机学习.首先建立... 针对循环神经网络(recurrent neural network,RNN)的结构不易确定、参数学习过程复杂等问题,提出一种增量构造式随机循环神经网络(incremental-construction for random RNN,IRRNN),实现了RNN结构的增量构造与参数的随机学习.首先建立隐含节点增量构造的约束机制,同时利用候选节点池策略实现隐含节点的优选,避免了网络随机构造的盲目性;进一步,从模型参数的局部优化与全局优化两个角度考虑,提出模型参数的两种增量随机(incremental random,IR)学习方法,即IR-1与IR-2,并证明了其万能逼近特性;同时通过研究IRRNN的动态特性,分析了IRRNN的泛化性能.通过实验验证了IRRNN在动态特性、紧凑性和精度等多个方面具有良好特性. 展开更多
关键词 增量构造 随机学习 随机权神经网络 循环神经网络 稳定性
在线阅读 下载PDF
基于BLSTM-RNN的船舶轨迹修复方法 被引量:5
13
作者 王贵槐 钟诚 +1 位作者 初秀民 张代勇 《重庆交通大学学报(自然科学版)》 CAS CSCD 北大核心 2019年第10期7-12,67,共7页
针对内河干线船舶AIS轨迹数缺失问题,提出一种基于双向长短时记忆网络(BLSTM-RNN)模型的船舶轨迹数据修复方法。通过利用船舶轨迹上下文信息及其他回传特征作为模型输入,构建两层的双向循环神经网络(RNN)模型。在模型输入上,采用相关性... 针对内河干线船舶AIS轨迹数缺失问题,提出一种基于双向长短时记忆网络(BLSTM-RNN)模型的船舶轨迹数据修复方法。通过利用船舶轨迹上下文信息及其他回传特征作为模型输入,构建两层的双向循环神经网络(RNN)模型。在模型输入上,采用相关性分析及序列自相关系数,确定船舶轨迹点相关变量及轨迹序列自相关滞后值;在模型结构上,以ACC率为指标对模型超参数值进行合理设置,以长江干线航道武汉段及重庆段船舶轨迹数据为样本,对模型进行实证验证。实验结果表明:与线性及其他机器学习方法相比BLSTM-RNN方法在精度上有一定提升;在武汉段顺直河段实验中,将修复误差控制在15 m量级内,远低于其他非线性方法的50 m量级;在重庆复杂河段内,可将修复误差控制在10 m量级;模型解决了传统方法在长距离丢失点上精度缺失的问题,在20个连续点丢失的情况上,将修复误差降低至50m量级。 展开更多
关键词 船舶工程 双向长短时记忆网络(BLSTM) 循环神经网络(rnn) 船舶轨迹修复 船舶自动驾驶
在线阅读 下载PDF
基于RNN的中文二分结构句法分析 被引量:17
14
作者 谷波 王瑞波 +1 位作者 李济洪 李国臣 《中文信息学报》 CSCD 北大核心 2019年第1期35-45,共11页
为了构建一个简单易扩展的中文句法分析器,我们依据朱德熙和陆俭明先生的中文二分结构的层次分析句法理论,手工构建了一个3万句的二分结构的中文句法树库,并使用哈夫曼编码方式来简化表示完全二叉树的层次结构。该文将中文句法分析转换... 为了构建一个简单易扩展的中文句法分析器,我们依据朱德熙和陆俭明先生的中文二分结构的层次分析句法理论,手工构建了一个3万句的二分结构的中文句法树库,并使用哈夫曼编码方式来简化表示完全二叉树的层次结构。该文将中文句法分析转换为迭代二分的序列标注问题,并根据该任务的特点,提出了在词的间隔上进行标记的序列标注模型(RNN-Interval,RNN-INT),与常用的循环神经网络模型(RNN,LSTM)和条件随机场模型(CRF)进行对比实验,使用mx2交叉验证序贯t-检验来比较模型。实验结果表明,RNN-INT模型在窗口为1的词特征就可达到最好的性能,并好于其他窗口大小和其他序列标注模型(RNN,LSTM,CRF)。最后,在测试集上,在人工分词下,RNN-INT在短语级别的F1值(块F1)达到71.25%,在句子级别的准确率达到约43%。 展开更多
关键词 层次句法分析 循环神经网络(rnn) m×2CV序贯t-检验
在线阅读 下载PDF
线性合成的双粒度RNN集成系统 被引量:2
15
作者 张亮 黄曙光 胡荣贵 《自动化学报》 EI CSCD 北大核心 2011年第11期1402-1406,共5页
针对脱机文字识别,提出了一种基于线性合成的双粒度递归神经网络(Recurrent neural net work,RNN)集成系统.首先,使用单词RNN对未知图像进行识别;然后,依据识别结果进行字符分割,使用字符RNN对分割后的字符进行识别,并利用查表法计算字... 针对脱机文字识别,提出了一种基于线性合成的双粒度递归神经网络(Recurrent neural net work,RNN)集成系统.首先,使用单词RNN对未知图像进行识别;然后,依据识别结果进行字符分割,使用字符RNN对分割后的字符进行识别,并利用查表法计算字符的后验概率;最后,综合两个RNN的识别结果决定最终单词输出.在CAPTCHA识别和手写识别上的实验结果证明了该系统的有效性. 展开更多
关键词 脱机文字识别 递归神经网络 集成系统 字符分割
在线阅读 下载PDF
Text-CRNN+attention架构下的多类别文本信息分类 被引量:13
16
作者 卢健 马成贤 +1 位作者 杨腾飞 周嫣然 《计算机应用研究》 CSCD 北大核心 2020年第6期1693-1696,1701,共5页
迄今为止,传统机器学习方法依赖人工提取特征,复杂度高;深度学习网络本身特征表达能力强,但模型可解释性弱导致关键特征信息丢失。为此,以网络层次结合的方式设计了CRNN并引入attention机制,提出一种Text-CRNN+attention模型用于文本分... 迄今为止,传统机器学习方法依赖人工提取特征,复杂度高;深度学习网络本身特征表达能力强,但模型可解释性弱导致关键特征信息丢失。为此,以网络层次结合的方式设计了CRNN并引入attention机制,提出一种Text-CRNN+attention模型用于文本分类。首先利用CNN处理局部特征的位置不变性,提取高效局部特征信息;然后在RNN进行序列特征建模时引入attention机制对每一时刻输出序列信息进行自动加权,减少关键特征的丢失,最后完成时间和空间上的特征提取。实验结果表明,提出模型较其他模型准确率提升了2%~3%;在提取文本特征时,该模型既保证了数据的局部相关性又起到强化序列特征的有效组合能力。 展开更多
关键词 文本分类 卷积神经网络 循环神经网络 convolutional recurrent neural network 注意力机制
在线阅读 下载PDF
基于CAPSO-RNN的光伏系统短期发电量预测 被引量:12
17
作者 赵杰 张艳霞 《中国电力》 CSCD 北大核心 2012年第4期87-91,共5页
针对光伏系统的发电特性及影响光伏发电的因素,建立基于混沌自适应粒子群优化算法的反馈型神经网络短期发电量预测模型。该预测模型利用混沌自适应粒子群优化算法的全局优化能力初始化反馈性神经网络权值和阈值,可以克服反馈型神经网络... 针对光伏系统的发电特性及影响光伏发电的因素,建立基于混沌自适应粒子群优化算法的反馈型神经网络短期发电量预测模型。该预测模型利用混沌自适应粒子群优化算法的全局优化能力初始化反馈性神经网络权值和阈值,可以克服反馈型神经网络收敛速度慢俄且易陷于局部最优等缺点。同时为提高预测精度,采用隶属度函数对温度进行模糊化处理。预测结果表明,建立的预测模型具有较高的精度。 展开更多
关键词 光伏系统 发电量预测 混沌自适应粒子群优化算法 反馈型神经网络
在线阅读 下载PDF
一种类RNN的改进ISTA稀疏脉冲反褶积 被引量:3
18
作者 潘树林 闫柯 +2 位作者 杨海飞 蒋从元 秦子雨 《石油物探》 EI CSCD 北大核心 2019年第4期533-540,共8页
稀疏脉冲反褶积方法对提高地震资料分辨率有着重要作用,迭代阈值收缩算法(ISTA)是其核心算法,首先利用地震数据提取子波,再利用ISTA求解反射系数.当地震子波提取不准确时,反褶积效果不理想.为此,在ISTA基础上,结合循环神经网络(RNN)中... 稀疏脉冲反褶积方法对提高地震资料分辨率有着重要作用,迭代阈值收缩算法(ISTA)是其核心算法,首先利用地震数据提取子波,再利用ISTA求解反射系数.当地震子波提取不准确时,反褶积效果不理想.为此,在ISTA基础上,结合循环神经网络(RNN)中反向传播(BPTT)的思想,研究形成了一种类RNN的改进ISTA稀疏脉冲反褶积方法.该算法首先使用常规手段从实际地震数据中提取地震子波,构建反褶积的子波字典;然后将构建的地震子波字典作为已知的初始条件,结合ISTA求取的反射系数;再根据BPTT算法思想,将求取的反射系数与子波褶积并与实际数据进行比较,反向修改地震子波;最终,经过多次迭代修改获得合理的地震子波字典,并利用该地震子波字典求解实际地震数据的反射系数序列.为验证算法的有效性,采用不同信噪比的理论地震记录,给定存在较大误差的初始子波,进行了反褶积计算.采用传统的ISTA和类RNN的改进ISTA进行对比处理,结果表明,改进ISTA具有较好的抗噪能力和子波自适应能力,可使实测地震资料的有效频带拓展约1.5倍,能够较好地适应实际地震资料的反褶积处理. 展开更多
关键词 稀疏脉冲反褶积 分辨率 ISTA 地震子波 信噪比 循环神经网络 反向传播
在线阅读 下载PDF
基于多分支RNN快速学习算法的混沌时间序列预测 被引量:6
19
作者 廖大强 印鉴 《计算机应用研究》 CSCD 北大核心 2015年第2期403-408,共6页
针对传统递归神经网络中出现的网络结构与计算复杂性,提出了使用多分支递归神经网络学习算法,并将其应用到混沌时间序列预测领域。首先缩减了部分冗余的分支,只保留了节点与自身之间以及节点与代表以后时刻的节点之间的分支;然后使用规... 针对传统递归神经网络中出现的网络结构与计算复杂性,提出了使用多分支递归神经网络学习算法,并将其应用到混沌时间序列预测领域。首先缩减了部分冗余的分支,只保留了节点与自身之间以及节点与代表以后时刻的节点之间的分支;然后使用规则导数代替惯用的一般偏导数,有助于同时反映权值对目标函数的直接影响和间接影响;最后使学习率根据学习情况进行动态调整,有助于加快学习算法的收敛速度。仿真实验表明,当参数的选取合理时,多分支递归神经网络能够达到较高的性能。 展开更多
关键词 混沌时间序列 多分支递归神经网络 BPTT学习算法
在线阅读 下载PDF
基于GRU改进RNN神经网络的飞机燃油流量预测 被引量:30
20
作者 陈聪 候磊 +1 位作者 李乐乐 杨鑫涛 《科学技术与工程》 北大核心 2021年第27期11663-11673,共11页
利用从飞机快速存储记录器(quick access recorder,QAR)中获取的大量数据设计研究了一种利用循环神经网络(recurrent neural network,RNN)及其改进网络门控循环单元(gate recurrent unit,GRU)进行飞机燃油流量预测的模型。首先使用基于... 利用从飞机快速存储记录器(quick access recorder,QAR)中获取的大量数据设计研究了一种利用循环神经网络(recurrent neural network,RNN)及其改进网络门控循环单元(gate recurrent unit,GRU)进行飞机燃油流量预测的模型。首先使用基于时间的反向传播算法(back propagation trough time,BPTT)训练网络,Adam优化算法加速迭代更新神经网络权重。在参数调整实验中发现循环神经网络对历史信息利用能力不足,极易发生梯度消失与梯度爆炸,遂提出改进网络结构,引入GRU重构燃油流量预测模型。在最优的超参数条件下,重构模型在训练集和测试集上的损失函数均方误差(mean squared error,MSE)值分别为0.00108、0.00097。通过与朴素RNN的预测曲线和MSE对比可以发现,改进后的GRU网络能够“记忆”更多历史信息而不易出现梯度消失或梯度爆炸的问题,预测精度与曲线拟合能力显著提高。因此,GRU重构模型显著改善了预测能力,并通过实际案例验证该预测模型在故障诊断等领域的应用。 展开更多
关键词 燃油流量预测 rnn神经网络 GRU神经网络 BPTT算法
在线阅读 下载PDF
上一页 1 2 17 下一页 到第
使用帮助 返回顶部