基于双线性函数注意力Bi-LSTM模型的机器阅读理解

作者：刘飞龙; 郝文宁; 陈刚; 靳大尉; 宋佳星

来源：计算机科学, 2017, S1: 92-122.

• 深度学习
• 机器阅读理解
• 注意力
• Bi-LSTM

近年来,随着深度学习(Deep Learning)在机器阅读理解(Machine Reading Comprehension)领域的广泛应用,机器阅读理解迅速发展。针对机器阅读理解中的语义理解和推理,提出一种双线性函数注意力(Attention)双向长短记忆网络(Bi directional-Long Short-Term Memory)模型,较好地完成了在机器阅读理解中抽取文章、问题、问题候选答案的语义并给出了正确答案的任务。将其应用到四六级(CET-4,CET-6)听力文本上测试,测试结果显示,以单词为单位的按序输入比以句子为单位的按序输入准确率高2%左右;此外,在基本的模型之上加入多层注意力转移的推理结构后准确率提升了8%左右。

• 单位
  中国人民解放军理工大学