期刊文献+
共找到38篇文章
< 1 2 >
每页显示 20 50 100
基于注意力机制结合改进动态ReLU的输变电工程图纸智能评审方法 被引量:2
1
作者 陈晨 薛文杰 +2 位作者 董平先 翟育新 齐桓若 《沈阳工业大学学报》 CAS 北大核心 2024年第6期772-778,共7页
针对传统识别方法对输变电工程图纸的分类效果较差且精确度偏低的问题,在注意力机制和改进动态ReLU基础上,提出了一种基于深度学习的工程图纸智能评审方法。利用Xception基础网络与动态ReLU函数优化小样本数据的分类效果,进而完善样本... 针对传统识别方法对输变电工程图纸的分类效果较差且精确度偏低的问题,在注意力机制和改进动态ReLU基础上,提出了一种基于深度学习的工程图纸智能评审方法。利用Xception基础网络与动态ReLU函数优化小样本数据的分类效果,进而完善样本数据的ReLU参数分配。通过引入改进注意力机制模块,深化神经网络算法中特征图的权重分配,进一步提升了工程图纸的分类效果。仿真结果表明,与传统工程图纸识别方法相比,基于深度学习的工程图纸智能评审方法具有更优分类效果。 展开更多
关键词 输变电工程图纸 改进SE模块 relu函数 深度学习 Xception网络 图像识别 图像分类 卷积神经网络
在线阅读 下载PDF
基于改进动态ReLU和注意力机制模型的中药材粉末显微图像识别研究 被引量:11
2
作者 王一丁 姚毅 +2 位作者 李耀利 蔡少青 袁媛 《计算机应用研究》 CSCD 北大核心 2021年第9期2861-2865,2870,共6页
中药材粉末显微特征图像数据量少、样本类别分布不均衡、类间差异小,传统的图像识别方法分类效果不佳。针对以上问题提出一种基于动态ReLU和注意力机制模型的深度卷积神经网络改进方法。首先,采用对小样本数据分类效果明显的Xception作... 中药材粉末显微特征图像数据量少、样本类别分布不均衡、类间差异小,传统的图像识别方法分类效果不佳。针对以上问题提出一种基于动态ReLU和注意力机制模型的深度卷积神经网络改进方法。首先,采用对小样本数据分类效果明显的Xception作为基础网络;其次,将网络中的静态ReLU激活函数替换为改进的动态ReLU函数,让每个样本具有自己独特的ReLU参数;最后,在网络中嵌入改进的SE模块,使网络能够更好地自动学习到每个特征通道的重要程度。以上方法可以使网络更加注重于图像中的细节信息,能很好地解决样本类别分布不均衡、类间差异小的问题。实验结果表明,对56种中药材粉末导管图像进行分类识别,其准确率提升了约1.5%,达到93.8%,证明了所提研究方法相比于其他图像分类方法具有一定的优越性。 展开更多
关键词 卷积神经网络 中药材粉末显微特征图像识别 深度学习 动态relu函数 SE模块
在线阅读 下载PDF
一种使用log函数的新型修正激活单元LogReLU 被引量:6
3
作者 王多民 刘淑芬 《吉林大学学报(理学版)》 CAS CSCD 北大核心 2017年第3期617-622,共6页
提出一种新型校正激活函数的改进,该新型校正激活函数带有一个可变参数,使用对数函数对正区域的梯度进行矫正,解决了预测准确率较低的问题.改进的激活函数使用两个不同参数分别控制正区域和负区域的梯度.通过对两个不同数据集进行仿真... 提出一种新型校正激活函数的改进,该新型校正激活函数带有一个可变参数,使用对数函数对正区域的梯度进行矫正,解决了预测准确率较低的问题.改进的激活函数使用两个不同参数分别控制正区域和负区域的梯度.通过对两个不同数据集进行仿真实验的结果表明,新提出的两种方法效果均好于原始的修正线性单元,带有两个参数的改进使验证错误率分别降低了0.14%和5.33%. 展开更多
关键词 人工智能 卷积神经网络 激活函数 relu
在线阅读 下载PDF
具有ReLU函数的动力神经场方程稳定解的存在性 被引量:6
4
作者 秦子雁 陈芃合 金德泉 《广西大学学报(自然科学版)》 CAS 北大核心 2021年第1期231-235,共5页
为进一步探索动力神经场的相关性质,将单调递增但是无界的ReLU函数作为阈值函数运用在一维的Amari动力神经场中,这与将单调有界的阶跃函数或Sigmoid型函数作为阈值函数的传统动力神经场研究不同。在不考虑输入,且相互作用核为高斯函数... 为进一步探索动力神经场的相关性质,将单调递增但是无界的ReLU函数作为阈值函数运用在一维的Amari动力神经场中,这与将单调有界的阶跃函数或Sigmoid型函数作为阈值函数的传统动力神经场研究不同。在不考虑输入,且相互作用核为高斯函数的情况下,对3种不同的稳定解进行研究,得出Amari动力神经场稳定解的存在条件和相关性质。 展开更多
关键词 Amari动力神经场 稳定解 relu函数 高斯函数
在线阅读 下载PDF
基于Softplus函数的神经网络的Reluplex算法验证研究
5
作者 陆明远 侯春燕 王劲松 《信息安全研究》 2022年第9期917-924,共8页
形式化验证是计算机科学中运用数理逻辑的方式验证某个系统是否可行的方法,而把形式化验证方法充分应用于神经网络领域,则能更好地研究神经网络的特性与应用.Reluplex是一种对深度神经网络进行验证的单纯形算法,它使用Relu作为激活函数,... 形式化验证是计算机科学中运用数理逻辑的方式验证某个系统是否可行的方法,而把形式化验证方法充分应用于神经网络领域,则能更好地研究神经网络的特性与应用.Reluplex是一种对深度神经网络进行验证的单纯形算法,它使用Relu作为激活函数,而Relu的神经元在训练过程中较脆弱并可能垂死.Softplus是与Relu近似但比Relu更平滑的激活函数,改进了Reluplex算法使之能检验采用Softplus激活函数的深度神经网络,随后获取了在Softplus激活函数下测试鲁棒对抗性得到的实验数据结果,通过与Relu测试结果进行对比,证明了Softplus的测试效率明显高于Relu,它比Relu更平衡,从而让神经网络的学习更快.该研究扩展了神经网络验证算法的功能并展开了相应的对比分析,有利于以后更好地验证和改进深度神经网络,以确保其安全性. 展开更多
关键词 神经网络 形式化验证 激活函数 relu函数 Softplus函数
在线阅读 下载PDF
一种新型激活函数的机床能耗预测神经网络研究 被引量:1
6
作者 刘晶晶 刘业峰 《控制工程》 北大核心 2025年第3期492-499,共8页
构造一种适用于反向传播(backpropagation,BP)神经网络的新型激活函数Lfun(logarithmic series function),并使用基于该函数的BP神经网络进行机床能耗状态的预测。首先,分析Sigmoid系列和ReLU系列激活函数的特点和缺陷,结合对数函数,构... 构造一种适用于反向传播(backpropagation,BP)神经网络的新型激活函数Lfun(logarithmic series function),并使用基于该函数的BP神经网络进行机床能耗状态的预测。首先,分析Sigmoid系列和ReLU系列激活函数的特点和缺陷,结合对数函数,构造了一种非线性分段含参数激活函数。该函数可导且光滑、导数形式简单、单调递增、输出均值为零,且通过可变参数使函数形式更灵活;其次,通过数值仿真实验在公共数据集上将Lfun函数与Sigmoid、ReLU、tanh、Leaky_ReLU和ELU函数的性能进行对比;最后,使用基于Lfun函数的BP神经网络进行机床能耗状态的预测。实验结果表明,使用Lfun函数的BP神经网络相较于使用其他几种常用激活函数的网络具有更好的性能。 展开更多
关键词 激活函数 BP神经网络 机床能耗预测 SIGMOID函数 relu函数
在线阅读 下载PDF
基于混合分位数回归长短期记忆神经网络的风电功率短期区间预测 被引量:2
7
作者 杨茂 张书天 +1 位作者 王勃 于欣楠 《太阳能学报》 北大核心 2025年第2期582-590,共9页
为进一步提升风电功率区间预测精度,提出一种基于混合分位数回归长短期记忆神经网络的风电功率短期区间预测方法。通过同时考虑复合、平滑和非交叉3个特点对传统分位数回归模型进行改进,首先使用平滑函数代替弹球损失函数,使长短期记忆... 为进一步提升风电功率区间预测精度,提出一种基于混合分位数回归长短期记忆神经网络的风电功率短期区间预测方法。通过同时考虑复合、平滑和非交叉3个特点对传统分位数回归模型进行改进,首先使用平滑函数代替弹球损失函数,使长短期记忆神经网络更易于拟合分位数回归模型。然后构建复合目标函数,使其能在给出多个分位数的条件下不重复训练多个独立模型。接着利用ReLU罚函数进行非交叉约束来避免分位数交叉现象的发生。最后将改进后的分位数回归与长短期记忆神经网络相结合并应用于中国甘肃省某风电场,运行结果表明所提模型在不同置信水平下对应PICP和PIAW分别提高了4.17个百分点和降低了2.31 MW,验证了方法的有效性。 展开更多
关键词 风电功率 深度学习 区间预测 复合非交叉 分位数回归 relu罚函数
在线阅读 下载PDF
基于改进降噪自编码器的声发射信号去噪研究
8
作者 周俊 代劲 +2 位作者 岑远遥 刘书俊 夏斌 《现代电子技术》 北大核心 2025年第19期1-8,共8页
降噪自编码器能采取无监督学习方式,基于神经网络方法从有噪声的信号重构出原始信号达到去噪的目的,能够改进滤波器与小波分析在声发射信号消噪中由于参数设置依赖经验而带来消噪性能不佳、泛化性差等问题。针对降噪自编码器在输入数据... 降噪自编码器能采取无监督学习方式,基于神经网络方法从有噪声的信号重构出原始信号达到去噪的目的,能够改进滤波器与小波分析在声发射信号消噪中由于参数设置依赖经验而带来消噪性能不佳、泛化性差等问题。针对降噪自编码器在输入数据分布不均时可能产生梯度消失和收敛速度变慢问题,提出一种基于改进降噪自编码器的声发射信号去噪模型,通过在降噪自编码器链接批处理层和回归层对降噪自编码器结构进行改进,对常用激活函数进行分析,采集3000个腐蚀声发射信号样本作为训练集和测试集,对声发射信号进行Z-score标准化预处理,采用改进降噪自编码器对腐蚀声发射信号进行去噪实验。实验结果表明,当隐含层神经元数为300,激活函数为Leaky ReLU时,改进DAE去噪性能较优,与小波阈值去噪法相比有更优的去噪性能,对于声发射信号分析处理具有重要意义。 展开更多
关键词 声发射 去噪 自编码器 批处理层 回归层 无监督学习 Z-score标准化 Leaky relu
在线阅读 下载PDF
基于核密度的线性惩罚样条光滑方法
9
作者 刘雨 晏梅 《统计与决策》 北大核心 2025年第14期47-52,共6页
惩罚样条光滑方法是一种用于数据拟合和光滑的非参数统计方法,通过在样条函数的拟合过程中引入惩罚约束来减少噪声和降低不规则性。为了达到最佳的光滑效果,选择最优的惩罚项、惩罚参数和样条节点仍然是需要关注的问题。针对这些问题,... 惩罚样条光滑方法是一种用于数据拟合和光滑的非参数统计方法,通过在样条函数的拟合过程中引入惩罚约束来减少噪声和降低不规则性。为了达到最佳的光滑效果,选择最优的惩罚项、惩罚参数和样条节点仍然是需要关注的问题。针对这些问题,文章基于岭回归和核密度技术提出了一种新的惩罚样条光滑方法。新方法利用样条节点处的核密度构造惩罚矩阵,并使用岭回归的范数作为样条系数的惩罚项;此外,新方法先使用逐步向前方法选择最优的样条节点,再使用基于矩阵分解的广义交叉验证(GCV)准则快速选择最优的惩罚参数,从而极大地提高了新方法的运算速度。通过模拟实验可知,新方法对于各类复杂的回归模型都能有较好的拟合与预测效果;另外,对于不连续回归模型以及解释变量是偏态分布的情形,新方法仍有较好的预测效果,并且优于其他回归方法。 展开更多
关键词 relu 线性惩罚样条 非参数回归 节点选择 核密度 光滑方法
在线阅读 下载PDF
基于Relief算法与ReLU核ELM的煤矿开采最大下沉预测模型研究
10
作者 魏勇 唐延东 +1 位作者 喻强 杨春兰 《煤矿开采》 北大核心 2018年第5期68-72,21,共6页
尝试引入Re LU function核的ELM算法及Relief Algorithm对开采区最大下沉量进行预测。首先基于Relief Algorithm对现场岩移数据进行筛选优化;然后通过隐含层数目循环实验选出预测精度较高的ELM预测模型隐含层数目;再筛选优化后的参数为... 尝试引入Re LU function核的ELM算法及Relief Algorithm对开采区最大下沉量进行预测。首先基于Relief Algorithm对现场岩移数据进行筛选优化;然后通过隐含层数目循环实验选出预测精度较高的ELM预测模型隐含层数目;再筛选优化后的参数为输入,最大下沉为目标分别建立基于Re LU function核、igmoid function核、Radial basis function核及Hardlim function核的ELM预测模型;最后对4种模型的预测结果进行对比分析。结果表明:采厚、平均采深、走向长度和倾向长度与最大下沉关系显著;以Re LU function核、隐含层神经元数目为57的ELM的预测结果精度显著优于对比组。 展开更多
关键词 开采最大下沉 RELIEF ALGORITHM relu FUNCTION ELM
在线阅读 下载PDF
动态多头注意力与跨层优化的船舶轨迹预测算法
11
作者 孟菲 耿晓晖 +2 位作者 刘卓然 甄超 徐素宁 《海洋测绘》 北大核心 2025年第4期43-47,共5页
精准的船舶轨迹预测可以为海上交通管理奠定基础,降低船舶碰撞风险、提升搜救效率。然而现有方法在船舶轨迹预测过程中存在对数据质量与时空特征捕捉不足的问题,为提高船舶轨迹预测的精度与稳定性,提出一种融合动态多头注意力与跨层优化... 精准的船舶轨迹预测可以为海上交通管理奠定基础,降低船舶碰撞风险、提升搜救效率。然而现有方法在船舶轨迹预测过程中存在对数据质量与时空特征捕捉不足的问题,为提高船舶轨迹预测的精度与稳定性,提出一种融合动态多头注意力与跨层优化的TrAISformer-AB算法。首先,设计自适应多头注意力机制,使模型根据输入数据的复杂性和特征关系动态选择注意力头数,提升模型的学习能力和泛化能力。其次,采用ReLU6作为激活函数,增强模型的表达能力和稳定性。最后,设计跨层残差连接,减少梯度消失问题,提高训练的稳定性和收敛速度。实验结果表明,TrAISformer-AB算法相较对比算法预测误差最低,与基准模型相比预测精度提升了70%,有效提升了船舶轨迹预测的精度和稳定性。 展开更多
关键词 船舶轨迹预测 自适应多头注意力机制 relu6激活函数 跨层残差连接 船舶自动识别系统
在线阅读 下载PDF
基于神经网络模型可解释性的降水预报
12
作者 樊仲欣 王妍 王若曈 《热带气象学报》 CSCD 北大核心 2024年第6期1030-1044,共15页
为提高局地精细化预报的准确性和可靠性,提出了一种基于核函数KernelExplainer和可解释性“夏普值”(SHAP值)聚类分析的神经网络降水预报技术。该方法首先通过正态化分布变换解决神经网络的输出抖动问题,然后使用KernelExplainer估计由... 为提高局地精细化预报的准确性和可靠性,提出了一种基于核函数KernelExplainer和可解释性“夏普值”(SHAP值)聚类分析的神经网络降水预报技术。该方法首先通过正态化分布变换解决神经网络的输出抖动问题,然后使用KernelExplainer估计由卷积(CNN)层、长短期记忆(LSTM)网络、全连接层构建的深度学习神经网络模型,并获取气象要素参数m和时间步长参数tl对于预测结果的贡献值SHAP,最后通过聚类分析SHAP值,在每次滚动预报中动态调整模型的m和tl参数,从而提高了无降水和强降水事件的预报效果。使用该方法基于2018年1月—2023年12月的观测和数值预报模式数据建立了南京信息工程大学大气观测基地的降水预报模型。实验证明,该方法相对于固定参数的深度学习神经网络模型、多层卷积长短期记忆网络(多层ConvLSTM)、模拟集合卷积神经网络(AnEn-CNN)和数值预报模式,降水平均绝对误差减少8%、7%、11%和19%。 展开更多
关键词 卷积 长短期记忆 relu激活函数 KernelExplainer SHAP 降水预报
在线阅读 下载PDF
基于多感受野特征增强的改进EfficientDet遥感目标检测算法 被引量:6
13
作者 张润梅 贾振楠 +3 位作者 李佳祥 吴路路 徐信芯 袁彬 《电光与控制》 CSCD 北大核心 2024年第7期53-60,96,共9页
针对遥感图像目标检测中小目标检测精度低、目标密集和尺度形态多样等问题,在轻量化网络EfficientDet-D0目标检测算法的基础上,在加权双向特征金字塔网络(BiFPN)进行特征融合时加入小尺度以及高一级尺度的中间信息,对BiFPN网络进行重构... 针对遥感图像目标检测中小目标检测精度低、目标密集和尺度形态多样等问题,在轻量化网络EfficientDet-D0目标检测算法的基础上,在加权双向特征金字塔网络(BiFPN)进行特征融合时加入小尺度以及高一级尺度的中间信息,对BiFPN网络进行重构,充分利用不同尺度信息,提高多尺度目标检测精度;同时在BiFPN中加入融合空洞卷积和快速归一化融合方法的特征增强模块,补强因特征图缩放所丢失的特征信息,进一步提高检测精度;另外,采用参数动态的Dynamic ReLU激活函数对原始网络中的参数静态的Swish激活函数进行改进。改进EfficientDet算法在不影响轻量化特点的前提下,对公开数据集Pascal VOC的目标检测平均精度均值(mAP)相较于原始算法提升11.9个百分点,亦优于其他目标检测算法。针对遥感图像数据集RSOD,通过Imgaug数据增强库对已有的936幅遥感图像数据集进行数据增广,利用改进模型进行迁移学习,未进行数据增广和增广后的目标检测结果分别为88.38%和96.78%,证明所提算法可以满足实际应用中对遥感图像目标的检测要求。 展开更多
关键词 深度学习 遥感图像 目标检测 EfficientDet 多尺度特征融合 特征增强模块 Dynamic relu
在线阅读 下载PDF
基于Tensorflow对卷积神经网络的优化研究 被引量:17
14
作者 郭敏钢 宫鹤 《计算机工程与应用》 CSCD 北大核心 2020年第1期158-164,共7页
针对卷积神经网络在性耗比上的不足,提出了异构式CPU+GPU的协同计算模型,在模型计算过程中使CPU负责逻辑性强的事物处理和串行计算,使GPU执行高度线程化的并行处理任务。通过实验测试与单GPU训练、单CPU训练进行对比,结果表明异构式CPU+... 针对卷积神经网络在性耗比上的不足,提出了异构式CPU+GPU的协同计算模型,在模型计算过程中使CPU负责逻辑性强的事物处理和串行计算,使GPU执行高度线程化的并行处理任务。通过实验测试与单GPU训练、单CPU训练进行对比,结果表明异构式CPU+GPU计算模型在性耗比上更加优异。针对在卷积神经网络中Swish激活函数在反向传播求导误差梯度时涉及参数较多所导致的计算量较大,收敛速度慢,以及ReLU激活函数在x负区间内导数为零所导致的负梯度被置为零且神经元可能无法被激活的问题,提出了新的激活函数ReLU-Swish。通过测试训练对比并分析结果,将Swish激活函数小于零与ReLU激活函数大于零的部分组成分段函数,并且通过CIFAR-10和MNIST两个数据集进行测试对比实验。实验结果表明,ReLU-Swish激活函数在收敛速度以及模型测试训练的准确率上对比Swish激活函数及ReLU激活函数有较明显的提高。 展开更多
关键词 Tensorflow CPU+GPU 卷积神经网络 Swish激活函数 relu激活函数 relu-Swish激活函数
在线阅读 下载PDF
用于图像分类的卷积神经网络中激活函数的设计 被引量:62
15
作者 王红霞 周家奇 +1 位作者 辜承昊 林泓 《浙江大学学报(工学版)》 EI CAS CSCD 北大核心 2019年第7期1363-1373,共11页
为了提高图像分类效果,针对卷积神经网络中常用激活函数relu在x负半轴的导数恒为零,导致训练过程中容易造成神经元"坏死"以及现有组合激活函数relu-softplus在模型收敛情况下学习率过小导致收敛速度慢的问题,提出新的组合激... 为了提高图像分类效果,针对卷积神经网络中常用激活函数relu在x负半轴的导数恒为零,导致训练过程中容易造成神经元"坏死"以及现有组合激活函数relu-softplus在模型收敛情况下学习率过小导致收敛速度慢的问题,提出新的组合激活函数relu-softsign.分析激活函数在训练过程中的作用,给出激活函数在设计时需要考虑的要点;根据这些要点,将relu和softsign函数于x轴正、负半轴进行分段组合,使其x负半轴导数不再恒为零;分别在MNIST、PI100、CIFAR-100和Caltech256数据集上,与单一的激活函数和relu-softplus组合激活函数进行对比实验.实验结果表明,使用relu-softsign组合激活函数提高了模型分类准确率,简单有效地缓解了神经元不可逆"坏死"现象;加快了模型的收敛速度,在复杂数据集上该组合函数的收敛性能更好. 展开更多
关键词 图像分类 卷积神经网络 激活函数 relu 神经元坏死 组合激活函数
在线阅读 下载PDF
基于卷积神经网络的火焰识别 被引量:6
16
作者 段锁林 刘福 +2 位作者 高仁洲 王一凡 潘礼正 《计算机工程与设计》 北大核心 2019年第11期3288-3292,3298,共6页
针对卷积神经网络在火焰识别应用中受复杂环境背景影响无法充分提取火焰特征的问题,提出一种多通道输入结合策略。在网络输入层,根据LMDB数据源制作过程中提供的火焰区域坐标获取火焰区域,对火焰区域的RGB这3个通道图像分别做灰度和二... 针对卷积神经网络在火焰识别应用中受复杂环境背景影响无法充分提取火焰特征的问题,提出一种多通道输入结合策略。在网络输入层,根据LMDB数据源制作过程中提供的火焰区域坐标获取火焰区域,对火焰区域的RGB这3个通道图像分别做灰度和二值化处理,结合形成9通道的三维数据作为网络的输入;提出一种改进的Relu激活函数,使用两个参数分别控制正负区域斜率,弥补原Relu函数负区域为0强制引入稀疏性的缺点,通过减小Relu正区域斜率,平衡特征数量,降低过拟合风险。实验中重新构建卷积神经网络模型,设置网络参数,通过实验获取最佳Relu改进参数,实验结果表明,该方法对火焰识别精度有显著提高。 展开更多
关键词 卷积神经网络 特征提取 火焰识别 多通道输入 relu函数
在线阅读 下载PDF
基于Gabor核的卷积神经网络改进算法及应用 被引量:5
17
作者 杨景明 周豪腾 +2 位作者 杨波 王亚超 魏立新 《燕山大学学报》 CAS 北大核心 2018年第5期427-433,共7页
针对Le Net-5网络模型识别分类准确度问题,提出一种基于深度Gabor卷积神经网络的识别分类方法。在Le Net-5模型的基础上,引入了Gabor层,使用Gabor核作为提取图像特征的卷积核,Gabor卷积核从图像频域的不同尺度、不同方向上提取更多特征... 针对Le Net-5网络模型识别分类准确度问题,提出一种基于深度Gabor卷积神经网络的识别分类方法。在Le Net-5模型的基础上,引入了Gabor层,使用Gabor核作为提取图像特征的卷积核,Gabor卷积核从图像频域的不同尺度、不同方向上提取更多特征。为了避免网络训练中的梯度消失问题,使用Relu函数作为网络中的激活函数。将改进后的模型在MNIST手写体数据集上进行试验,识别正确率达到99. 34%。与支持向量机和卷积神经网络等分类方法作比较,结果表明,改进后的深度Gabor卷积神经网络的具有更高的识别性能。 展开更多
关键词 卷积神经网络 Gabor卷积核 relu函数 特征提取 识别分类
在线阅读 下载PDF
基于层级残差连接LSTM的命名实体识别 被引量:11
18
作者 王进 李颖 +2 位作者 蒋晓翠 吕晓旭 肖黄清 《江苏大学学报(自然科学版)》 CAS 北大核心 2022年第4期446-452,共7页
针对命名实体识别任务中现有的LSTM提取特征向量存在对短期信息特征表达能力不足的问题,提出一个基于层级残差连接的LSTM网络.通过添加残差块堆叠LSTM网络深度,增强短期信息特征非线性拟合能力;利用全局信息编码动态选择激活函数,在加... 针对命名实体识别任务中现有的LSTM提取特征向量存在对短期信息特征表达能力不足的问题,提出一个基于层级残差连接的LSTM网络.通过添加残差块堆叠LSTM网络深度,增强短期信息特征非线性拟合能力;利用全局信息编码动态选择激活函数,在加强网络计算能力的同时降低了参数量;通过注意力机制,对输入动态调整残差连接的层数加强模型拟合能力.给出了残差网络和Dynamic ReLU激活函数,建立了基于层级残差连接的LSTM命名实体识别整体框架,定义了残差连接模块、Dynamic ReLU模块、注意力机制模块.对比了所提出方法与FLAT、Lattice LSTM等相关算法,在Weibo和Resume数据集上进行试验.结果表明,基于层级残差连接的LSTM在Weibo上达到了最好的效果,在Resume上效果仅次于FLAT,F_(1)分别为0.7001、0.9586. 展开更多
关键词 命名实体识别 短期信息特征 LSTM 残差连接 Dynamic relu 注意力机制
在线阅读 下载PDF
基于图像增强和注意力机制的作物杂草识别 被引量:10
19
作者 曲福恒 李婉婷 +2 位作者 杨勇 刘红玉 郝忠林 《计算机工程与设计》 北大核心 2023年第3期815-821,共7页
为提高复杂环境下无人机获取的作物杂草图像识别的准确率,提出一种基于图像增强与注意力机制的作物杂草识别方法。在多尺度Retinex算法中加入颜色恢复函数调节3个通道颜色的占比以恢复其颜色特征,使图像更清晰;将残差网络模型中的激活... 为提高复杂环境下无人机获取的作物杂草图像识别的准确率,提出一种基于图像增强与注意力机制的作物杂草识别方法。在多尺度Retinex算法中加入颜色恢复函数调节3个通道颜色的占比以恢复其颜色特征,使图像更清晰;将残差网络模型中的激活函数换为Leaky ReLU,加入CBAM注意力机制模块,获取更多有用信息,抑制其它无用信息。实验结果表明,该方法可以提高复杂环境下无人机获取的作物杂草图像的识别准确率,其准确率达到95.3%,高于AlexNet、ResNet18、ResNet50及其它主流算法的识别结果。 展开更多
关键词 无人机 作物杂草识别 多尺度RETINEX算法 颜色恢复函数 残差网络 Leaky relu激活函数 注意力机制
在线阅读 下载PDF
基于ELU卷积神经网络的视频烟雾检测 被引量:8
20
作者 郝建红 范宗皓 王晖 《燕山大学学报》 CAS 北大核心 2020年第4期397-402,共6页
由于烟雾边界具有不确定性、半透明性和易受其他因素影响的特性,导致传统的图像识别方法对于烟雾的检测存在较大的缺陷和局限性。本文从理论上分析比较了卷积神经网络一般采用的四种激活函数Sigmoid、Tanh、RELU和ELU函数,并基于烟雾的... 由于烟雾边界具有不确定性、半透明性和易受其他因素影响的特性,导致传统的图像识别方法对于烟雾的检测存在较大的缺陷和局限性。本文从理论上分析比较了卷积神经网络一般采用的四种激活函数Sigmoid、Tanh、RELU和ELU函数,并基于烟雾的特性采用具有左侧软饱和性的ELU激活函数代替其他三种激活函数来构建检测烟雾的算法模型,与颜色+运动+形态方法、基于Gabor小波、采用RELU激活函数的检测烟雾模型进行了对比,实验结果表明采用ELU激活函数的模型相比上述方法,准确率提高了1~5个百分点。 展开更多
关键词 卷积神经网络 relu ELU 烟雾检测 图像识别
在线阅读 下载PDF
上一页 1 2 下一页 到第
使用帮助 返回顶部