注意力孪生网络在生物医学文本相似性上的应用

作者：安宏达; 李正光; 吴镝; 郑巍

来源：大连交通大学学报, 2021, 42(02): 109-113.

DOI：10.13291/j.cnki.djdxac.2021.02.021

• 文本相似性
• 孪生网络
• 注意力机制
• 词嵌入

将注意力机制引入到孪生网络中,利用注意力机制提取词的权重并影响孪生网络输出的语义特征,降低输入序列的噪音,而加强了两个序列的相互关系,从而提高改进孪生网络的性能.在两个生物医学文本相似性语料上(SICK和DBMI)的实验结果表明,注意力机制的孪生网络对评估文本相似性的性能有大幅度的提升(在SICK和DBMI数据集上,皮尔森相关系数相对于基线分别提升了0.23和0.7).

• 单位
  大连交通大学; 大连理工大学