基于深度学习的机器译文质量估计方法研究

As a new method for automatic evaluation of machine translation, quality estimation of machine translation not only can replace the traditional methods on automatically evaluating the translation quality to some extent, but also can provide a new weight optimization mode for statistical translation system. However, there exist some shortcomings in nowadays research on quality estimation of machine translation, such as it depend heavily on linguistic analysis and algorithm complexity is high in feature extraction, as well as its performance is not satisfactory, and all of which restricts severely its application in self-training of statistical translation system etc. Thus, this project will investigate and delve deeply in the following areas: (1) study a new model to quality estimation of machine translation, establish a layer by layer structured representation of machine translation based on recursive neural network and a translation quality estimated model based on soft-max regression to improve the effect of quality estimation. (2) not only investigate the approach of quality estimation for English translation, but also investigate the approach for Chinese translation by annotating a certain amount of translation quality of Chinese translation and combining the characteristics of Chinese word segmentation in Chinese translation.(3)investigate the self-training issue of statistical translation system without development set, achieve the optimization algorithm of feature weights by integrating the decoding knowledge of machine translation system and reducing the iteration times in feature weights optimization. Finally, we will establish a new framework for quality estimation of machine translation, which will promote the development of research on machine translation.

作为一种新的译文自动评价方法，机器译文质量估计不仅能一定程度上替代传统方法自动评价译文质量，而且能提供一种全新的统计翻译系统特征权重优化方式。针对目前机器译文质量估计中特征提取严重依赖语言学分析、算法复杂度高、译文质量估计效果不够理想且这些严重制约着其在统计翻译系统自训练中的应用等不足，本项目将在以下方面进行深入的研究和探索：（1）研究新的机器译文质量估计模型，通过建立基于递归神经网络的机器译文逐层结构化表示和基于soft-max回归的译文质量估计模型，提高估计的效果。（2）不仅研究英语译文的质量估计方法，而且通过标注一定规模的汉语译文质量语料并结合汉语译文分词特点，对汉语译文的质量估计方法展开研究。（3）探索无需开发集的统计翻译系统自训练方法，结合解码时的知识和减少特征权重优化的迭代次数，将新的译文质量估计方法应用于翻译系统自训练中。最终建立机器译文质量估计的新框架，推动机器翻译的发展。

机器译文质量估计是指不使用人工参考译文的情况下自动估计机器翻译的质量。作为一种新的译文自动评价方法，它在机器翻译后编辑和辅助机器翻译等方面发挥着重要作用。针对目前机器译文质量估计中特征提取严重依赖语言学分析、算法复杂度高、译文质量估计效果不够理想等不足，本项目进行了如下的研究：.(1) 提出了将当前译文质量估计中“预测器”和“估计器”两个子网络联合成单个端到端的神经网络并一起训练的方法。相比于预测器-估计器模型，联合神经网络模型针对译文质量估计进行细粒度的参数训练，训练后的神经网络更适合译文质量估计任务。我们使用提出的方法参加WMT18 句子级别译文质量估计评测，在6个评测子方向上，取得了3个方向上的第1名；2个方向上的并列第1名；1个方向上的第3名。.(2) 提出利用深度学习中上下文单词预测模型和矩阵分解模型训练词向量作为特征，并将其与递归神经网络语言模型特征相结合来提高译文质量自动估计与人工评价的相关性。在WMT15和WMT16 译文质量估计子任务数据集上的实验结果表明，利用上下文单词预测模型训练词向量特征的方法统计一致的优于传统的QuEst方法和连续空间语言模型词向量特征提取方法。.(3) 在机器翻译自动评价方面，提出了抽取与测试领域相关的复述来提高机器译文自动评价的方法。首先将通用单语训练语料进行聚类，并利用改进的M-L方法过滤得到特定领域训练语料，然后在训练语料中利用Markov网络模型抽取特定领域复述表，最后将此复述表应用在机器译文自动评价中以提高同义词和近义词的匹配精度。我们使用提出的方法参加WMT16 机器翻译自动评价评测，该方法在其他欧洲语言到英语的翻译任务系统级别评价中取得了第1名，在混合翻译结果系统级别评价中取得了第1名。.在项目研究过程中，共发表学术论文14篇；成功申请软件著作权2项；培养硕士研究生6名。