-
题名基于变分信息瓶颈的半监督神经机器翻译
被引量：7
- 1
-
-
作者
于志强
余正涛
黄于欣
郭军军
高盛祥
-
机构
昆明理工大学信息工程与自动化学院
云南民族大学数学与计算机科学学院
云南省人工智能重点实验室
-
出处
《自动化学报》
EI
CAS
CSCD
北大核心
2022年第7期1678-1689,共12页
-
基金
国家重点研发计划(2019QY1800)
国家自然科学基金(61732005,61672271,61761026,61762056,61866020)
+1 种基金
云南省高新技术产业专项基金(201606)
云南省自然科学基金(2018FB104)资助。
-
文摘
变分方法是机器翻译领域的有效方法,其性能较依赖于数据量规模.然而在低资源环境下,平行语料资源匮乏,不能满足变分方法对数据量的需求,因此导致基于变分的模型翻译效果并不理想.针对该问题,本文提出基于变分信息瓶颈的半监督神经机器翻译方法,所提方法的具体思路为:首先在小规模平行语料的基础上,通过引入跨层注意力机制充分利用神经网络各层特征信息,训练得到基础翻译模型;随后,利用基础翻译模型,使用回译方法从单语语料生成含噪声的大规模伪平行语料,对两种平行语料进行合并形成组合语料,使其在规模上能够满足变分方法对数据量的需求;最后,为了减少组合语料中的噪声,利用变分信息瓶颈方法在源与目标之间添加中间表征,通过训练使该表征具有放行重要信息、阻止非重要信息流过的能力,从而达到去除噪声的效果.多个数据集上的实验结果表明,本文所提方法能够显著地提高译文质量,是一种适用于低资源场景的半监督神经机器翻译方法.
-
关键词
神经机器翻译
跨层注意力机制
回译
变分信息瓶颈
-
Keywords
Neural machine translation
cross-layer attention mechanism
back-translation
variational information bottleneck
-
分类号
TP391.2
[自动化与计算机技术—计算机应用技术]
-
