摘要

针对传统文本分类办法无法有效应对长文本快速收敛的问题,提出了一种基于LSTM-CNN-ATTENTION机制FASTTEXT的文本分类模型。该模型使用预训练词向量将文本信息转换为词向量,通过将词向量送入CNN层、Bi-LSTM层,获得所对应的深度词向量特征,并通过Attention机制使CNN层特征与Bi-LSTM层特征交互,得到融合特征表示。同时,通过将词向量送入FASTTEXT层得到文本信息浅层表示,并与Attention机制的深层特征相拼接,将拼接后的特征映射到分类条目中实现文本分类。实验结果显示,与CNN、Bi-LSTM、AT-LSTM-CNN模型相比,该方法在取得了良好的分类效果前提下,有效地加快了模型学习速度。