序列到序列模型是一种基于神经网络的模型,在机器学习的多个领域取得了良好的效果。针对序列到序列模型的注意力机制模块,提出两种改进方法:维护前面几个时间步骤中的定位和预期上下文历史信息;将前几步的注意力向量与当前解码状态作多尺度卷积。新模型被部署于语音识别和文本到语音系统,实验结果表明,该模型与传统序列到序列模型相比性能显著提高,是处理语音识别和文本分析等问题的有效方法。
科研之友
微信
新浪微博
Facebook
分享链接
