基于BiLSTM-Attention唇语识别的研究

作者：刘大运; 房国志^*; 骆天依; 魏华杰; 王倩; 李修政; 李骜

来源：计算技术与自动化, 2020, 39(01): 150-155.

DOI：10.16339/j.cnki.jsjsyzdh.202001030

• 唇语识别
• 双向长短时记忆网络
• 注意力机制
• 深度学习
• 时序编码

为了解决唇语识别中唇部特征提取和时序关系识别存在的问题,提出了一种双向长短时记忆网络(BiLSTM)和注意力机制(Attention Mechanism)相结合的深度学习模型。首先将唇部20个关键点得到的唇部不同位置的高度和宽度作为唇部的特征,使用BiLSTM对唇部特征序列进行时序编码,然后利用注意力机制来发掘不同时刻唇部时序特征对于整体唇语识别的不同权重,最后利用Softmax进行分类。在公开的唇语识别数据集GRID和MIRACL-VC上与传统的唇语识别模型进行实验对比。在GRID数据集上准确率至少提高了13.4%,在MIRACL-VC单词数据集上准确率至少提高了15.3%,短语数据集上准确率至少提高了9.2%。同时还与其他编码模型进行了实验对比,实验结果表明该模型能有效地提高唇语识别的准确率。

• 单位
  哈尔滨理工大学; 自动化学院