科研之友
微信
新浪微博
Facebook
分享链接
摘要
针对传统词向量无法表示多义词，以及传统深度学习模型特征提取能力弱等问题，提出结合BERT和BiGRU-AT的电力营销客服工单分类模型。利用BERT进行工单文本特征表示，参考具体上下文语境，知道动态词向量表示；用BiGRU模型进行二次语义特征学习，全面提取句子的高维特征；通过软注意力机制为每个词分配不同权重，提升模型聚焦关键词的能力；在真实电力客服工单数据集上进行实验，结果表明，BERT-BiGRU-AT模型在客服工单分类上具有较高的准确率。
-
单位国网辽宁省电力有限公司
