题名 基于深度神经网络的有色金属领域实体识别
被引量：13
1
作者
毛存礼 余正涛 沈韬 高盛祥 郭剑毅 线岩团
机构
昆明理工大学信息工程与自动化学院 昆明理工大学材料科学与工程学院
出处
《计算机研究与发展》
EI
CSCD
北大核心
2015年第11期2451-2459,共9页
基金
国家自然科学基金项目(61262041 61472168 +2 种基金 61163004) "科技部创新人才推进计划"中青年科技创新领军人才配套项目(2014HE001) 云南省自然科学基金重点项目(2013FA030)
文摘
针对有色金属领域实体识别问题,提出一种基于深度神经网络(deep neural network,DNN)架构的有色金属领域实体识别方法.为能有效获取有色金属领域实体中字符间的紧密结合特征,并回避专业领域中文分词问题,使用神经网络的方法自动学习中文字符embeddings向量化表示作为模型输入.基于降噪自动编码器(denoising autoencoder,DAE)对深度神经网络的每个隐层进行逐层预训练获取用于有色金属领域实体识别的最优特征向量组合,并详细介绍了基于神经语言模型的文本窗口降噪自动编码器预训练及有色金属实体识别的深层网络构建过程.为验证方法的有效性,对有色金属领域产品名、矿产名、地名、组织机构4类实体识别进行实验.实验结果表明,提出的方法对于专业领域的实体识别具有较好的效果.
关键词
有色金属领域 深度神经网络 词汇embeddings 降噪自动编码器 实体识别
Keywords
field of nonferrous metal deep neural network （DNN） word embeddings denoising autoencoder（dae ） entity recognition
分类号
TP391
[自动化与计算机技术—计算机应用技术]
题名 基于自动编码器组合的深度学习优化方法
被引量：43
2
作者
邓俊锋 张晓龙
机构
武汉科技大学计算机科学与技术学院 智能信息处理与实时工业系统湖北省重点实验室
出处
《计算机应用》
CSCD
北大核心
2016年第3期697-702,共6页
基金
国家自然科学基金资助项目(61273225) 国家科技支撑计划项目(2012BAC22B01)~~
文摘
为了提高自动编码器算法的学习精度,更进一步降低分类任务的分类错误率,提出一种组合稀疏自动编码器(SAE)和边缘降噪自动编码器(m DAE)从而形成稀疏边缘降噪自动编码器(Sm DAE)的方法,将稀疏自动编码器和边缘降噪自动编码器的限制条件加载到一个自动编码器(AE)之上,使得这个自动编码器同时具有稀疏自动编码器的稀疏性约束条件和边缘降噪自动编码器的边缘降噪约束条件,提高自动编码器算法的学习能力。实验表明,稀疏边缘降噪自动编码器在多个分类任务上的学习精度都高于稀疏自动编码器和边缘降噪自动编码器的分类效果;与卷积神经网络(CNN)的对比实验也表明融入了边缘降噪限制条件,而且更加鲁棒的Sm DAE模型的分类精度比CNN还要好。
关键词
深度学习 自动编码器 稀疏自动编码器 降噪自动编码器 卷积神经网络
Keywords
deep learning auto-encoder （AE） Sparse auto-encoder （SAE） Denoising auto-encoder （dae ） Convolutional neural network （CNN）
分类号
TN392
[电子电信—物理电子学]
题名 基于深度自编码网络语音识别噪声鲁棒性研究
被引量：9
3
作者
黄丽霞 王亚楠 张雪英 王洪翠
机构
太原理工大学信息工程学院 天津大学计算机科学与技术学院
出处
《计算机工程与应用》
CSCD
北大核心
2017年第13期49-54,共6页
基金
国家自然科学基金(No.61371193 No.61303109) +1 种基金 山西省留学回国择优资助项目(晋人社厅函[2013]68号) 山西省自然科学基金(No.2014021022-6)
文摘
为了解决传统径向基(Radial basis function,RBF)神经网络在语音识别任务中基函数中心值和半径随机初始化的问题,从人脑对语音感知的分层处理机理出发,提出利用大量无标签数据初始化网络参数的无监督预训练方式代替传统随机初始化方法,使用深度自编码网络作为语音识别的声学模型,分析梅尔频率倒谱系数(Mel Frequency Cepstrum Coefficient,MFCC)和基于Gammatone听觉滤波器频率倒谱系数(Gammatone Frequency Cepstrum Coefficient,GFCC)下非特定人小词汇量孤立词的抗噪性能。实验结果表明,深度自编码网络在MFCC特征下较径向基神经网络表现出更优越的抗噪性能;而与经典的MFCC特征相比,GFCC特征在深度自编码网络下平均识别率相对提升1.87%。
关键词
语音识别 鲁棒性 深度自编码网络 GFCC特征 MFCC特征
Keywords
speech recognition robustness deep auto-encoder (dae )neural network Gammatone Frequency Cepstrum Coefficient(GFCC) Mel Frequency Cepstrum Coefficient(MFCC)
分类号
TN391.42
[电子电信—物理电子学]
