科研之友
微信
新浪微博
Facebook
分享链接
摘要
针对当前主流的中文拼写纠错模型对文本局部上下文特征学习不足的问题，该文提出基于局部语义特征增强的改进思路：在自注意力计算单元中添加高斯分布的偏置矩阵，改变注意力权重分布，使得纠错模型可以强化对当前位置相邻文本特征的学习；而在计算注意力得分时减少当前位置的权重，可以进一步提升学习局部信息的效果。实验表明，该文提出的改进方法对中文拼写纠错任务的精确率、召回率和F1值均有提升，其中F1值与过往最好成果相比可提升1.74%。
-
单位武汉邮电科学研究院
