科研之友
微信
新浪微博
Facebook
分享链接
摘要
随着算力的提升，文本分类算法已进入深度学习时代。文章以深度学习下的自适应微调长文本分类模型为基础，针对其策略网络存在决策能力不足与离散噪声这一问题，结合现有分层模型展开研究，提出融合层编码的层级自适应微调长文本分类模型，力求推进模型在长文本分类任务上的性能。首先，文章重构策略网络，将策略网络迁移至模型内部，消除离散噪声，提高决策精度。其次，考虑预训练模型的层级特征差异，文章提出层编码，为策略网络提供层位置信息，提高策略网络对特征的层位置感知。文章基于Yelp-2013、IMDB、Reuters 3个国际数据集，利用对比实验、烧蚀实验验证模型性能。实验表明，文章提出的长文本分类模型相较于基线模型在3个数据集上的性能更优。
- 单位
