基于变分自编码器和注意力Seq2Seq模型的风电功率预测

1

作者 李辰龙 李逗 +2 位作者 车畅畅 潘苗 高进 《南方电网技术》 CSCD 北大核心 2024年第12期107-116,共10页

针对风电场功率影响因素多、有效数据量小、预测时序长的复杂特点,提出了基于变分自编码器和注意力Seq2Seq模型的风电功率预测方法。采集测风塔数据和对应的连续功率值构造样本集,利用变分自编码器模型将样本进行数据增强,从而获得足够... 针对风电场功率影响因素多、有效数据量小、预测时序长的复杂特点,提出了基于变分自编码器和注意力Seq2Seq模型的风电功率预测方法。采集测风塔数据和对应的连续功率值构造样本集,利用变分自编码器模型将样本进行数据增强,从而获得足够多的样本用于支撑预测模型训练;构建从测风塔多个监测指标到连续功率值的回归分析模型,充分挖掘不同指标与功率值的映射关系;将扩充后的不同指标分别输入到注意力Seq2Seq模型中进行指标时序预测,并将数值天气预报数据用于修正预测结果,从而得到更准确的指标加权预测结果;将实时获取的测风塔和数值天气预报数据输入到训练好的加权预测模型和回归分析模型中,实现风电功率的多步预测。利用风电场站实际运行数据集进行了模型验证,结果表明:与传统时序预测方法相比,基于变分自编码器和注意力Seq2Seq模型能够在较小的重构误差下得到更准确的风电功率预测结果。 展开更多

关键词 变分自编码器 注意力机制 注意力seq2seq模型 风电功率预测

在线阅读 下载PDF 职称材料

基于Seq2Seq模型的SparQL查询预测 被引量：5

2

作者 杨东华 邹开发 +1 位作者 王宏志 王金宝 《软件学报》 EI CSCD 北大核心 2021年第3期805-817,共13页

近年来,随着以数据为中心的应用大量增加,图数据模型逐渐被人们所关注,图数据库的发展也非常迅速,对于用户而言,往往更关心其在使用数据库过程中的效率问题.主要研究如何利用已有的信息进行图数据库的查询预测,从而进行数据的预加载与缓... 近年来,随着以数据为中心的应用大量增加,图数据模型逐渐被人们所关注,图数据库的发展也非常迅速,对于用户而言,往往更关心其在使用数据库过程中的效率问题.主要研究如何利用已有的信息进行图数据库的查询预测,从而进行数据的预加载与缓存,提高系统的响应效率.为了使得方法具有跨数据移植性,并深入挖掘数据间的联系,将SparQL查询提取为序列的形式,使用Seq2Seq模型对其进行数据分析和预测,并使用真实的数据集对方法进行测试,实验结果表明,本方案具有良好的效果. 展开更多

关键词 图数据库 SPARQL 查询预测 seq2seq模型

在线阅读 下载PDF 职称材料

基于深度特征和Seq2Seq模型的网络态势预测方法 被引量：15

3

作者 林志兴 王立可 《计算机应用》 CSCD 北大核心 2020年第8期2241-2247,共7页

针对目前大多数的网络态势预测方法不能挖掘数据中的深度信息且需要手动提取与构造特征的问题,提出了深度特征网络态势预测方法DFS-Seq2Seq。首先将网络流、日志和系统事件等产生的数据进行清洗处理,使用深度特征融合算法自动合成深度... 针对目前大多数的网络态势预测方法不能挖掘数据中的深度信息且需要手动提取与构造特征的问题,提出了深度特征网络态势预测方法DFS-Seq2Seq。首先将网络流、日志和系统事件等产生的数据进行清洗处理,使用深度特征融合算法自动合成深度关系特征,然后采用自动编码器对合成的特征进行提取,最后使用长短期记忆网络(LSTM)构建Seq2Seq模型对数据进行预测。通过设计缜密的实验在公开数据集Kent2016上对所提方法进行验证,结果显示在深度为2时与支持向量机(SVM)、贝叶斯、随机森林(RF)和LSTM这四种分类模型相比,其召回率分别提升了7.4%、11.5%、6.5%、3.0%。实验结果表明DFS-Seq2Seq可以在实际应用中有效地识别网络身份验证中的危险事件,对网络态势作出有效的预测。 展开更多

关键词 网络态势 深度特征合成 自动编码器 seq2seq模型 双向长短期记忆网络

在线阅读 下载PDF 职称材料

基于改进seq2seq模型的英汉翻译研究 被引量：23

4

作者 肖新凤 李石君 +2 位作者 余伟 刘杰 刘倍雄 《计算机工程与科学》 CSCD 北大核心 2019年第7期1257-1265,共9页

目前机器翻译主要对印欧语系进行优化与评测,很少有对中文进行优化的,而且机器翻译领域效果最好的基于注意力机制的神经机器翻译模型—seq2seq模型也没有考虑到不同语言间语法的变换。提出一种优化的英汉翻译模型,使用不同的文本预处理... 目前机器翻译主要对印欧语系进行优化与评测,很少有对中文进行优化的,而且机器翻译领域效果最好的基于注意力机制的神经机器翻译模型—seq2seq模型也没有考虑到不同语言间语法的变换。提出一种优化的英汉翻译模型,使用不同的文本预处理和嵌入层参数初始化方法,并改进seq2seq模型结构,在编码器和解码器之间添加一层用于语法变化的转换层。通过预处理,能缩减翻译模型的参数规模和训练时间20%,且翻译性能提高0.4BLEU。使用转换层的seq2seq模型在翻译性能上提升0.7~1.0BLEU。实验表明,在规模大小不同的语料英汉翻译任务中,该模型与现有的基于注意力机制的seq2seq主流模型相比,训练时长一致,性能提高了1~2BLEU。 展开更多

关键词 深度学习 神经机器翻译 seq2seq模型 注意力机制 命名实体识别

在线阅读 下载PDF 职称材料

基于Seq2Seq模型的自定义古诗生成 被引量：2

5

作者 王乐为 余鹰 张应龙 《计算机科学与探索》 CSCD 北大核心 2020年第6期1028-1035,共8页

当前,古诗句生成任务大多基于单一的循环神经网络(RNN)结构,在生成时需事先给定一个起始字,然后以该起始字为基础进行古诗句生成,生成过程的可控性较差,往往达不到预期效果。针对以上问题,将注意力机制引入Seq2Seq模型,通过自建的数据... 当前,古诗句生成任务大多基于单一的循环神经网络(RNN)结构,在生成时需事先给定一个起始字,然后以该起始字为基础进行古诗句生成,生成过程的可控性较差,往往达不到预期效果。针对以上问题,将注意力机制引入Seq2Seq模型,通过自建的数据集进行训练,实现了基于关键字的自定义古诗句生成。在生成阶段,首先输入一段描述性内容,并从中提取出关键字。当关键字不足时,使用word2vec进行有效的关键字补全操作。此外,针对古诗体裁难以控制问题,在Seq2Seq模型中的Encoder端增加格式控制符,有效解决了以往模型在生成古诗时,体裁选择的随机性问题。实验表明,所提出的模型较好地达到了预期的生成效果。 展开更多

关键词 seq2seq模型 循环神经网络(RNN) 古诗生成 注意力机制

在线阅读 下载PDF 职称材料

基于Seq2Seq模型的工作流动态调度多目标进化算法

6

作者 严佳豪 张明珠 +3 位作者 杨中国 高晶 王桂玲 赵卓峰 《郑州大学学报（理学版）》 CAS 北大核心 2023年第1期35-41,共7页

将数据处理类工作流在云计算环境下的调度问题建模为动态多目标优化问题,同时为了解决静态多目标优化算法在环境参数动态变化下可能出现的种群多样性缺失问题,在NSGA-II算法的基础上结合Seq2Seq深度学习模型,提出了DNSGA-II-Seq2Seq算法... 将数据处理类工作流在云计算环境下的调度问题建模为动态多目标优化问题,同时为了解决静态多目标优化算法在环境参数动态变化下可能出现的种群多样性缺失问题,在NSGA-II算法的基础上结合Seq2Seq深度学习模型,提出了DNSGA-II-Seq2Seq算法,算法通过Seq2Seq模型学习连续历史环境下局部最优解的变化规律,在环境变化时预测新的解并将其加入NSGA-II算法的种群中,以解决多样性缺失问题,同时加速算法收敛。在改进的WorkflowSim上进行的实验表明,与其他经典的算法相比,DNSGA-II-Seq2Seq算法预测的解和最终结果在多项指标上均优于其他算法,验证了算法的有效性。 展开更多

关键词 工作流调度 seq2seq模型 动态多目标优化算法 DNSGA-II-seq2seq算法

在线阅读 下载PDF 职称材料

基于Seq2seq模型的推荐应用研究 被引量：3

7

作者 陈俊航 徐小平 杨恒泓 《计算机科学》 CSCD 北大核心 2019年第B06期493-496,共4页

日常生活的信息纷繁复杂,因此需要推荐系统来帮助人们进行信息筛选。传统的推荐系统将推荐过程看成是静态的,缺少对序列数据短期或长期的依赖关系的研究。循环神经网络由于在处理序列化数据时有突出的表现,因此可应用到具有序列特征的... 日常生活的信息纷繁复杂,因此需要推荐系统来帮助人们进行信息筛选。传统的推荐系统将推荐过程看成是静态的,缺少对序列数据短期或长期的依赖关系的研究。循环神经网络由于在处理序列化数据时有突出的表现,因此可应用到具有序列特征的推荐数据中。文中采用循环神经网络的seq2seq模型来构造这种推荐系统,将推荐过程看作一个序列的翻译过程或答案生成的过程,利用大量用户以往的交互数据,找出其中的频繁模式,将其应用到其他用户对物品的行为预测中。实验在两个常用数据集上进行,使用BLEU衡量推荐结果,实验结果表明:该方法可以做出序列化的推荐。该方法只需要用户和物品的互动数据,摆脱了评分矩阵,避免了数据稀疏性的问题。 展开更多

关键词 推荐系统 循环神经网络 seq2seq模型

在线阅读 下载PDF 职称材料

基于时空注意力-Seq2Seq网络的ISAR包络对齐方法 被引量：1

8

作者 李文哲 李开明 +3 位作者 岳屹峰 王金昊 许慧革 罗迎 《信号处理》 CSCD 北大核心 2024年第9期1659-1673,共15页

包络对齐是逆合成孔径雷达(Inverse Synthetic Aperture Radar,ISAR)成像中平动补偿处理的第一步,包络对齐的精度对于方位聚焦和成像质量具有重要影响。针对稀疏孔径和低信噪比条件下传统的包络对齐算法性能显著降低的问题,本文提出一... 包络对齐是逆合成孔径雷达(Inverse Synthetic Aperture Radar,ISAR)成像中平动补偿处理的第一步,包络对齐的精度对于方位聚焦和成像质量具有重要影响。针对稀疏孔径和低信噪比条件下传统的包络对齐算法性能显著降低的问题,本文提出一种基于时空注意力-Seq2Seq网络的包络对齐方法。该网络模型以门控循环单元为编码解码单元,针对点目标距离像包络的能量分布特征对空间注意力机制进行改进后,添加时间和空间两维注意力机制形成对ISAR距离像回波包络进行对齐的能力。数据生成方面,基于电磁波仿真参数和目标运动仿真参数进行成像模拟仿真构造了ISAR回波数据集,经过8倍插值后输入网络进行训练,使网络学习到从未对齐回波到对齐回波的映射关系。所提方法以离线训练代替在线相关计算,融合了Seq2Seq模型在处理序列到序列问题上的结构优势、时间注意力机制在捕捉长期依赖关系和空间注意力机制在提取区域特征上的突出能力,实现了稀疏孔径和低信噪比条件下对距离-慢时间域ISAR回波的自动对齐。通过向训练好的时空注意力-Seq2Seq网络输入未对齐的回波序列,网络可以在不改变回波相位结构的前提下自动实现包络对齐。仿真和实测数据对齐结果表明,和传统的包络对齐方法相比,所提方法在稀疏孔径和低信噪比条件下优势明显,在欠采样率为50%、信噪比为0 dB条件下对雅克-42飞机实测回波数据的包络对齐实验中,该方法将循环移位误差由39、26减小至6,将成像结果的图像熵由4.58、4.22减小至1.71,验证了其良好性能。 展开更多

关键词 逆合成孔径雷达成像 包络对齐 时空注意力机制 seq2seq模型

在线阅读 下载PDF 职称材料

基于seq2seq和SVM双层融合的非侵入式用户异常行为检测 被引量：1

9

作者 江友华 叶梦豆 +1 位作者 赵乐 杨兴武 《计算机应用与软件》 北大核心 2024年第9期97-105,共9页

以非侵入式负荷分解为基础,对用户异常用电行为进行研究。采用Kmeans聚类算法提取负荷状态特征;采用深度学习算法中的序列到序列翻译(sequence to sequence, seq2seq)模型,将电力用户用电总数据分解成单个电器的功耗数据;结合SVM算法对... 以非侵入式负荷分解为基础,对用户异常用电行为进行研究。采用Kmeans聚类算法提取负荷状态特征;采用深度学习算法中的序列到序列翻译(sequence to sequence, seq2seq)模型,将电力用户用电总数据分解成单个电器的功耗数据;结合SVM算法对分解后多种家用电器用电数据进行异常检测。在UKDALE数据集实验结果表明,该模型不仅能提高分解准确度、降低分解误差,而且多个电器数据结合分析实现了用户异常行为检测。 展开更多

关键词 非侵入式负荷分解 Kmeans聚类 seq2seq模型 SVM算法 异常行为检测

在线阅读 下载PDF 职称材料

基于Seq2Seq深度学习模型的焦炉煤气发生量预测方法研究 被引量：2

10

作者 王文婷 刘姝君 +2 位作者 张耀聪 杜小泽 许潼 《兰州理工大学学报》 CAS 北大核心 2023年第5期50-58,共9页

为实现钢铁生产过程中副产煤气的精准预测,构建了基于序列到序列的深度学习模型.通过编码器计算输入序列的隐状态得到隐状态矩阵,并通过解码器对其进行解码得到预测结果.根据灰色关联度分析关联度较高的输入参数,针对钢铁生产中煤气产... 为实现钢铁生产过程中副产煤气的精准预测,构建了基于序列到序列的深度学习模型.通过编码器计算输入序列的隐状态得到隐状态矩阵,并通过解码器对其进行解码得到预测结果.根据灰色关联度分析关联度较高的输入参数,针对钢铁生产中煤气产量不稳定波动的特点,利用箱线图和hampel滤波对原始数据的极端异常点和突变点进行处理,对输入模型分别进行单步和多步预测.结果表明:单步预测时基于Seq2Seq结构的模型较单一模型预测性能有所提高,其中LSTM2GRU模型对峰谷值拟合表现最优;多步预测时LSTM2GRU模型可有效降低模型性能下降趋势,通过在2个数据集与LSTM2LSTM模型和GRU2GRU模型对比发现,LSTM2GRU模型均方根误差分别下降了5.3%、5.6%和9%、7.7%,平均绝对误差分别下降了7.3%、7%和9.7%、7.8%.因此,LSTM2GRU模型相比其他模型更适合长尺度时间序列的预测,在模型中引入GRU结构提高了预测精度,缩短了预测耗时. 展开更多

关键词 煤气预测 神经网络 深度学习 seq2seq模型 灰色关联度

在线阅读 下载PDF 职称材料

引入小波分解的Seq2Seq水质多步预测模型研究 被引量：1

11

作者 白雯睿 杨毅强 李强 《现代电子技术》 2022年第17期100-105,共6页

针对现有水质预测模型对水质多步预测大多采用向量输出的预测模式,忽略了时序预测的输出之间存在的时序联系,导致水质多步预测性能较差的问题,采用小波分解(WD)分解水质数据来提取隐藏的水质特征,然后基于分解所得的序列,建立以长短时记... 针对现有水质预测模型对水质多步预测大多采用向量输出的预测模式,忽略了时序预测的输出之间存在的时序联系,导致水质多步预测性能较差的问题,采用小波分解(WD)分解水质数据来提取隐藏的水质特征,然后基于分解所得的序列,建立以长短时记忆(LSTM)网络作为编码器和解码器的序列到序列(Seq2Seq)的预测模型,以期望解决时序预测的输出序列之间存在的依赖性问题。采用珠江流域老口站的溶解氧数据验证模型进行7日预测的效果,实验结果表明,LSTM模型处理该问题的能力要强于传统的MLP及SVR模型,而在LSTM模型的基础上构成的WD-Seq2Seq模型的预测效果进一步提升,溶解氧的7日预测平均MAE仅有0.1471,7日预测平均MSE仅有0.0412,7日预测平均RMSE仅有0.1973,水质类别的7日预测平均准确率达到93.26%。 展开更多

关键词 小波分解 LSTM模型 seq2seq模型 多步预测 时间序列 水质预测 水质指标 溶解氧

在线阅读 下载PDF 职称材料

基于指针网络的抽取生成式摘要生成模型 被引量：3

12

作者 陈伟 杨燕 《计算机应用》 CSCD 北大核心 2021年第12期3527-3533,共7页

作为自然语言处理中的热点问题,摘要生成具有重要的研究意义。基于Seq2Seq模型的生成式摘要模型取得了良好的效果,然而抽取式的方法具有挖掘有效特征并抽取文章重要句子的潜力,因此如何利用抽取式方法来改进生成式方法是一个较好的研究... 作为自然语言处理中的热点问题,摘要生成具有重要的研究意义。基于Seq2Seq模型的生成式摘要模型取得了良好的效果,然而抽取式的方法具有挖掘有效特征并抽取文章重要句子的潜力,因此如何利用抽取式方法来改进生成式方法是一个较好的研究方向。鉴于此,提出了融合生成式和抽取式方法的模型。首先,使用TextRank算法并融合主题相似度来抽取文章中有重要意义的句子。然后,设计了融合抽取信息语义的基于Seq2Seq模型的生成式框架来实现摘要生成任务;同时,引入指针网络解决模型训练中的未登录词(OOV)问题。综合以上步骤得到最终摘要,并在CNN/Daily Mail数据集上进行验证。结果表明在ROUGE-1、ROUGE-2和ROUGE-L三个指标上所提模型比传统TextRank算法均有所提升,同时也验证了融合抽取式和生成式方法在摘要生成领域中的有效性。 展开更多

关键词 抽取生成式摘要 TextRank算法 seq2seq模型 指针网络 语义融合

在线阅读 下载PDF 职称材料

基于CEEMDAN与LSTM-Attention的股市预测模型 被引量：7

13

作者 孙晨宇 张树东 《计算机应用与软件》 北大核心 2023年第12期119-125,146,共8页

具有时序特征的金融股票数据有非线性、非平稳和复杂动态的特点,对预测模型提出了挑战。提出一种基于自适应噪声完备集合经验模态分解的LSTM-Attention模型。通过重组后的高频、中频和低频分量,构建更为细化的LSTM-Attention模型,再通... 具有时序特征的金融股票数据有非线性、非平稳和复杂动态的特点,对预测模型提出了挑战。提出一种基于自适应噪声完备集合经验模态分解的LSTM-Attention模型。通过重组后的高频、中频和低频分量,构建更为细化的LSTM-Attention模型,再通过加总合成获得目标预测值。实验结果分析表明,该模型在平均绝对误差(MAE)、均方根误差(RMSE)、均方误差(MSE)和决定系数四个指标上均优于现有模型,有效提升了模型预测的准确率,同时减少了计算开销。 展开更多

关键词 LSTM 经验模态分解 seq2seq模型 Attention机制 股票预测

在线阅读 下载PDF 职称材料

基于预警文本信息的调度命令智能生成模型 被引量：17

14

作者 彭其渊 胡雨欣 鲁工圆 《同济大学学报（自然科学版）》 EI CAS CSCD 北大核心 2020年第9期1328-1335,1363,共9页

提出调度命令智能生成模型,该模型由神经网络和调度命令修正模块两部分组成。基于长短时记忆(LSTM)网络构建序列‒序列(seq2seq)模型,将预警文本信息作为模型的输入进行训练,提出五种调度命令修正策略并分别对五种易错信息进行修正,最终... 提出调度命令智能生成模型,该模型由神经网络和调度命令修正模块两部分组成。基于长短时记忆(LSTM)网络构建序列‒序列(seq2seq)模型,将预警文本信息作为模型的输入进行训练,提出五种调度命令修正策略并分别对五种易错信息进行修正,最终得到调度命令。结果表明:该模型具有利用预警文本信息生成调度命令的能力,引入的调度命令修正模块能够有效提升调度命令生成质量。 展开更多

关键词 铁路运输 调度命令 智能调度 序列‒序列(seq2seq)模型 自然语言处理

在线阅读 下载PDF 职称材料

基于深度学习的函数名一致性检查及推荐方法 被引量：1

15

作者 郑炜 唐辉 +1 位作者 陈翔 张永杰 《软件学报》 EI CSCD 北大核心 2024年第10期4604-4622,共19页

函数是大多数传统编程语言中聚合行为的最小命名单元,函数名的可读性对于程序员理解程序功能及不同模块之间的交互有着至关重要的作用,低质量的函数名会使开发人员感到困惑,增加代码中的坏味道,进而引发由API误用而导致的软件缺陷.为此... 函数是大多数传统编程语言中聚合行为的最小命名单元,函数名的可读性对于程序员理解程序功能及不同模块之间的交互有着至关重要的作用,低质量的函数名会使开发人员感到困惑,增加代码中的坏味道,进而引发由API误用而导致的软件缺陷.为此,提出一种基于深度学习的函数名一致性检查及推荐方法,该方法被命名为DMName.首先,对于给定的目标函数源码,分别构建其内部上下文、交互上下文、兄弟上下文和封闭上下文,合并后得到上下文信息标记序列,然后利用FastText词嵌入技术将标记序列转换为上下文表示向量序列,输入到seq2seq模型编码器中,引入Copy机制和Coverage机制分别解决OOV问题和重复解码问题,输出目标函数名预测结果的向量序列,借助双通道CNN分类器进行函数名的一致性判断,若不一致则根据向量空间相似度匹配直接映射获得推荐的函数名.实验结果表明,DMName方法在函数名一致性检查任务和函数名推荐任务中的F1值分别达到82.65%和73.31%,比目前最优的DeepName方法分别提高2.01%和2.96%.最后,在GitHub大规模开源项目lancia中对DMName方法进行验证,挖掘得到16个函数名不一致问题并进行合理的名称推荐,进一步证实DMName方法的有效性. 展开更多

关键词 函数名 一致性检查 名称推荐 深度学习 seq2seq模型

在线阅读 下载PDF 职称材料

基于生成对抗网络的飞机燃油数据缺失值填充方法 被引量：13

16

作者 郭毅博 牛猛 +6 位作者 王海迪 陈艳华 薛均晓 袁玥 侯立硕 徐明亮 潘俊 《浙江大学学报（理学版）》 CAS CSCD 北大核心 2021年第4期402-409,共8页

飞机传感器采集的燃油数据是后续燃油测量的基础。在飞行过程中,由传感器采集的数据因存在部分缺失值,如直接进行后续处理将影响燃油测量精度。现有的缺失值填充方法存在两方面问题,一方面易忽视飞机燃油时序数据在时间维度上的上下文... 飞机传感器采集的燃油数据是后续燃油测量的基础。在飞行过程中,由传感器采集的数据因存在部分缺失值,如直接进行后续处理将影响燃油测量精度。现有的缺失值填充方法存在两方面问题,一方面易忽视飞机燃油时序数据在时间维度上的上下文依赖关系;另一方面缺少完整的样本数据集进行模型训练。基于此,提出了一种基于生成对抗网络的缺失值填充方法,从而有效解决了传统方法难以处理的时序数据历史隐含规律及样本不完整的问题,且填充效果较其他算法更佳。 展开更多

关键词 缺失值填充方法 生成对抗网络 seq2seq模型 循环神经网络

在线阅读 下载PDF 职称材料

文言文-现代文神经机器翻译的研究 被引量：2

17

作者 何思兰 左家莉 +1 位作者 朱洪坤 王明文 《江西师范大学学报（自然科学版）》 CAS 北大核心 2023年第5期483-489,共7页

中国古典文献汗牛充栋,它们是中国文化的瑰宝,但现代人想要理解这些文献极为困难,人工翻译它们更是不可能完成的任务.因此,该文研究了文言文-现代文的神经机器翻译,通过应用Seq2Seq模型和Transformer模型,考察了训练语料规模对文言文-... 中国古典文献汗牛充栋,它们是中国文化的瑰宝,但现代人想要理解这些文献极为困难,人工翻译它们更是不可能完成的任务.因此,该文研究了文言文-现代文的神经机器翻译,通过应用Seq2Seq模型和Transformer模型,考察了训练语料规模对文言文-现代文翻译性能的影响.研究结果发现:基于现有的训练语料规模,分词与否会极大影响Seq2Seq模型的性能.此外,若训练语料和测试语料的文体不同,则模型的性能也会受到影响. 展开更多

关键词 文言文-现代文神经机器翻译 seq2seq模型 翻译

在线阅读 下载PDF 职称材料

一种用于CBR推理机的案例学习算法研究 被引量：3

18

作者 李潇 闵华松 林云汉 《计算机应用研究》 CSCD 北大核心 2018年第12期3689-3693,共5页

案例学习是CBR(case-based reasoning)推理机的重要环节,但由于案例的多样性以及对领域的依赖性,导致CBR系统中案例自动生成困难的问题。针对这一问题,提出将seq2seq(sequence-to-sequence)模型用于案例学习。通过seq2seq模型自动生成案... 案例学习是CBR(case-based reasoning)推理机的重要环节,但由于案例的多样性以及对领域的依赖性,导致CBR系统中案例自动生成困难的问题。针对这一问题,提出将seq2seq(sequence-to-sequence)模型用于案例学习。通过seq2seq模型自动生成案例,引入attention机制,提高seq2seq模型生成案例的效果,并利用潜在语义分析(latent semantic analysis,LSA)对网络爬取的语料库进行筛选,利用过滤后的语料库对模型进行训练,最后提出一种基于三元组的评估方法,对生成案例进行评估和存储,从而实现CBR推理机的自主学习。最终将改进的案例学习系统应用到实际的智能机器人上进行验证,测试结果表明该方法具有可行性,且能够有效提高机器人的智能性及易用性。 展开更多

关键词 案例学习 CBR推理机 seq2seq模型 智能机器人

在线阅读 下载PDF 职称材料

基于时间卷积网络改进的自动数学应用题解算器 被引量：2

19

作者 杨波 张珑 +1 位作者 罗琨杰 孙华志 《天津师范大学学报（自然科学版）》 CAS 北大核心 2021年第5期69-74,共6页

在传统的seq2seq模型的基础上,加入时间卷积网络TCN设计了一种自动数学应用题解算器模型seq2seq+TCN.在数据预处理部分采用FoolNLTK分词工具和ELMo词嵌入方法,以保证较高质量的数据输入;利用LSTM和GRU的不同组合构成seq2seq模型的编码... 在传统的seq2seq模型的基础上,加入时间卷积网络TCN设计了一种自动数学应用题解算器模型seq2seq+TCN.在数据预处理部分采用FoolNLTK分词工具和ELMo词嵌入方法,以保证较高质量的数据输入;利用LSTM和GRU的不同组合构成seq2seq模型的编码器和解码器;在seq2seq模型中加入TCN,以扩大解码器的感受野,保证应用题文本的时序性.在数据集Math23K和AI2上进行实验,结果表明,由BiLSTM-LSTM构成的seq2seq+TCN模型性能最优,答案准确率分别达到70.3%和87.5%,高于现有的2个集成seq2seq的解算器. 展开更多

关键词 数学应用题解算器 深度学习 seq2seq模型 TCN LSTM GRU

在线阅读 下载PDF 职称材料

基于时序数据库与深度学习的制丝实时数据应用研究 被引量：10

20

作者 顾茜 钱继春 《中国烟草学报》 CAS CSCD 北大核心 2021年第3期104-113,共10页

【目的】研究气流烘丝机叶丝干燥工序出口叶丝含水率实时趋势预测的解决方案,提高产品工艺质量稳定性。【方法】基于时序数据库InfluxDB对实时生产数据进行存储、查询统计、分析告警,使用三次指数平滑算法、长短期记忆网络(LSTM)和序列... 【目的】研究气流烘丝机叶丝干燥工序出口叶丝含水率实时趋势预测的解决方案,提高产品工艺质量稳定性。【方法】基于时序数据库InfluxDB对实时生产数据进行存储、查询统计、分析告警,使用三次指数平滑算法、长短期记忆网络(LSTM)和序列到序列学习(Seq2Seq)对生产过程数据建模预测。【结果】①三次指数平滑算法集成在时序数据库中,可实现精度良好、准实时的叶丝出口含水率趋势预测;②在料头生产关键参数模仿学习方面,LSTM模型在整体性能上具有显著优势。【结论】采用时序数据库和深度学习算法结合的实时数据应用框架,横向集成最优算法模型,预测精度和应用效果良好。 展开更多

关键词 时间序列数据库 深度学习 工业物联网 LSTM模型 seq2seq模型 InfluxDB 边缘计算

在线阅读 下载PDF 职称材料