科研之友
微信
新浪微博
Facebook
分享链接
摘要
如何有效利用篇章上下文信息一直是篇章级神经机器翻译研究领域的一大挑战。该文提出利用来源于整个篇章的层次化全局上下文来提高篇章级神经机器翻译性能。为了实现该目标，该文提出的模型分别获取当前句内单词与篇章内所有句子及单词之间的依赖关系，结合不同层次的依赖关系以获取含有层次化篇章信息的全局上下文表示。最终源语言当前句子中的每个单词都能获取其独有的综合词和句级别依赖关系的上下文。为了充分利用平行句对语料在训练中的优势，该文使用两步训练法，在句子级语料训练模型的基础上使用含有篇章信息的语料进行二次训练以获得捕获全局上下文的能力。在若干基准语料数据集上的实验表明，该文提出的模型与若干强基准模型相比取得了有意义的翻译质量提升。实验进一步表明，结合层次化篇章信息的上下文比仅使用词级别上下文更具优势。除此之外，该文还尝试通过不同方式将全局上下文与翻译模型结合并观察其对模型性能的影响，并初步探究篇章翻译中全局上下文在篇章中的分布情况。
- 单位
