期刊文献+
共找到6篇文章
< 1 >
每页显示 20 50 100
基于BERT预训练与混合神经网络的中文语义识别算法设计 被引量:2
1
作者 蓝天虹 陈丹霏 +1 位作者 郑源 徐正一 《电子设计工程》 2024年第12期91-95,共5页
针对现阶段电力智能客服沟通效率低且语义理解能力不佳的问题,文中基于BERT预训练模型和混合神经网络提出了一种中文语义识别算法。该算法使用BERT模型进行词嵌入表示,在得到深度编码信息的同时还可以获取上下文联系信息。通过将Bi-GRU... 针对现阶段电力智能客服沟通效率低且语义理解能力不佳的问题,文中基于BERT预训练模型和混合神经网络提出了一种中文语义识别算法。该算法使用BERT模型进行词嵌入表示,在得到深度编码信息的同时还可以获取上下文联系信息。通过将Bi-GRU、注意力机制以及CRF模型进行融合,使其能够处理基于上下文的词向量。同时构建的混合神经网络也可以捕获词向量的多维特征信息,进而全面提升模型的意图识别及中文语义理解能力。在实验测试中,所提算法的意图识别准确率与F1值相较于基线算法分别提升了11.3%和6.6%,表明对语料的预训练可以有效提升模型语义识别的能力。 展开更多
关键词 BERT预训练 循环神经网络 条件随机 注意力机制 语义识别 自然语言处理
在线阅读 下载PDF
可变融合的随机注意力胶囊网络入侵检测模型 被引量:10
2
作者 张兴兰 尹晟霖 《通信学报》 EI CSCD 北大核心 2020年第11期160-168,共9页
为了增强检测模型的准确率与泛化性,提出了一种可变融合的随机注意力胶囊网络的入侵检测模型,通过特征动态融合,模型能够更好地捕捉数据特征;同时使用随机注意力机制,减少了对训练数据的依赖,使模型更具有泛化能力。所提模型在NSL-KDD和... 为了增强检测模型的准确率与泛化性,提出了一种可变融合的随机注意力胶囊网络的入侵检测模型,通过特征动态融合,模型能够更好地捕捉数据特征;同时使用随机注意力机制,减少了对训练数据的依赖,使模型更具有泛化能力。所提模型在NSL-KDD和UNSW-NB15数据集上进行验证,实验表明,模型在2种测试集上的准确率分别达到了99.49%和98.60%。 展开更多
关键词 深度学习 入侵检测 网络空间安全 胶囊网络 随机注意力
在线阅读 下载PDF
一种小样本量下的高压断路器故障诊断方法
3
作者 龚石磊 张汉雄 +2 位作者 蒋易雄 宗浩杰 付欣 《信息技术》 2025年第4期66-72,共7页
当数据样本量不足时,传统高压断路器故障诊断方法难以满足诊断性能的需求,为此,提出一种基于注意力机制和卷积胶囊神经网络的诊断方法。首先,设计了具有宽卷积核的一维卷积神经网络,在池化层中加入注意力机制,改变振动信号片段的权重分... 当数据样本量不足时,传统高压断路器故障诊断方法难以满足诊断性能的需求,为此,提出一种基于注意力机制和卷积胶囊神经网络的诊断方法。首先,设计了具有宽卷积核的一维卷积神经网络,在池化层中加入注意力机制,改变振动信号片段的权重分配;然后,在卷积层和全连接层之间引入胶囊层表示特征向量化,保证了故障特征提取的完整性;最后,通过动态路由进行特征传递,得到故障诊断结果。实验表明,文中所提方法能够提高传统网络的性能,在样本数量较少时诊断准确率可达94.7%。 展开更多
关键词 故障诊断 高压断路器 胶囊 卷积神经网络 注意力机制
在线阅读 下载PDF
融合多层次语义的网络评价方面抽取方法研究
4
作者 庞良健 李晗 +1 位作者 王庆林 徐新胜 《科技通报》 2021年第10期59-65,70,共8页
针对现有的评价方面抽取方法无法充分利用评论文本中字词包含的复杂语义问题,提出了一种融合多层次语义的网络评价方面抽取模型。首先将卷积神经网络(CNN)训练的字符表示与Word2Vec预训练的词向量进行拼接,构建字词融合的特征表示,利用... 针对现有的评价方面抽取方法无法充分利用评论文本中字词包含的复杂语义问题,提出了一种融合多层次语义的网络评价方面抽取模型。首先将卷积神经网络(CNN)训练的字符表示与Word2Vec预训练的词向量进行拼接,构建字词融合的特征表示,利用注意力机制对字词融合的特征表示进行重要程度标识,获得融合注意力的特征表示;构建由CNN和双向长短期记忆网络(BiLSTM)组成的混合神经网络,利用CNN的强学习能力提取字、词的局部语义特征信息,利用BiLSTM全局特征提取能力捕捉字、词之间长距离的上下文语义信息,实现多层次语义融合,最后利用条件随机场学习标签之间的约束条件,输出评论文本最优的序列标注结果,并以酒店评论文本为实验数据集,对所提模型与方法进行可行性和有效性验证。结果表明:本模型具有更好的评价方面抽取效果,可以为基于文本的评价研究与分析提供优质的数据源。 展开更多
关键词 方面抽取 混合神经网络 多层语义融合 注意力机制 条件随机
在线阅读 下载PDF
基于RF的并行CNN-TGLSTM热负荷预测模型 被引量:1
5
作者 谭全伟 薛贵军 谢文举 《华北理工大学学报(自然科学版)》 CAS 2024年第2期112-123,共12页
精准的热负荷预测不仅可以提高用户舒适度,还可以有效降低能源消耗。为了提升热负荷预测的准确性,本研究提出了一种基于随机森林的并行CNN和TGLSTM的短期热负荷预测模型。首先,采用随机森林算法对特征进行筛选;其次,利用并行网络CNN和... 精准的热负荷预测不仅可以提高用户舒适度,还可以有效降低能源消耗。为了提升热负荷预测的准确性,本研究提出了一种基于随机森林的并行CNN和TGLSTM的短期热负荷预测模型。首先,采用随机森林算法对特征进行筛选;其次,利用并行网络CNN和改进的LSTM分别提取时空特征;最后,将提取的特征与多头注意力机制动态结合。实验结果表明,并行CNN-TGLSTM-MA相较于传统的串行CNN-TGLSTM模型,在MAE和MSE方面分别降低了16.9%、26.8%,同时提升了3.5%的R2值,证明了所提出的并行CNN-TGLSTM-MA模型在短期热负荷预测方面的有效性和优越性,为热力系统供热负荷的精准调控提供了参考。 展开更多
关键词 短期热负荷预测 卷积神经网络 转换门控长短期记忆网络 多头注意力机制 随机森林
在线阅读 下载PDF
基于数据驱动的综采工作面采运协同控制方法研究 被引量:1
6
作者 皮国强 沈贵阳 +1 位作者 常海军 张连东 《工矿自动化》 CSCD 北大核心 2023年第12期47-55,共9页
目前针对采煤机与刮板输送机协同控制的研究初步建立了采运系统协同控制机制,但均未考虑非结构化综采工作面环境下,影响采运系统稳定运行因素的不确定性和耦合特性,以及煤流状态和刮板输送机负载电流受井下电气系统影响而无法真实反映... 目前针对采煤机与刮板输送机协同控制的研究初步建立了采运系统协同控制机制,但均未考虑非结构化综采工作面环境下,影响采运系统稳定运行因素的不确定性和耦合特性,以及煤流状态和刮板输送机负载电流受井下电气系统影响而无法真实反映刮板输送机负载变化的情况。针对上述问题,提出了一种基于刮板输送机负载电流强化和随机自注意力胶囊神经网络(RSACNN)的综采工作面采运协同控制方法。针对刮板输送机电动机电流的电气耦合特性,运用电流强化模型对原始刮板输送机电流进行预处理,得到能够反映煤流系统真实负载的电流分量。针对综采工作面采运系统运行状态参数与采煤机牵引速度存在着高度非线性和不确定性关系,难以建立精确数学模型的问题,基于胶囊神经网络(CNN)可保存综采工作面采运系统运行状态突变等细粒度特征的特性,建立了基于RSACNN的综采工作面采运协同控制模型。实验结果表明:RSACNN算法与自注意力胶囊神经网络(SACNN)算法、CNN算法的调速结果相比,预测的采煤机牵引速度精度更高,预测速度与真实速度的拟合度分别提高了0.03205和0.07504;平均绝对误差分别降低了17.7%,22.6%;平均绝对百分误差分别降低了49.9%,71.5%;均方根误差分别降低了13.3%,34.6%。 展开更多
关键词 综采工作面 采煤机 刮板输送机 采运协同控制 随机自注意力胶囊神经网络 采煤机牵引速度
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部