结合文本密度的语义聚焦爬虫方法

作者：林椹尠; 袁柱; 李小平

来源：计算机应用与软件, 2019, 36(09): 270-275.

• 聚焦爬虫
• 核心内容
• LCS
• Word2vec
• 链接优先级

针对聚焦爬虫网页核心内容提取算法准确性偏低以及相似度计算模型语义信息考虑不充分造成的爬取准确度和效率偏低的问题,提出结合文本密度的语义聚焦爬虫方法。引入核心内容提取算法,使用标题结合LCS算法定位核心内容文本的起始和终止位置,提取网页核心内容。引入基于Word2vec的主题相关度算法计算核心内容的主题相关度,改进PageRank算法计算链接主题重要度。结合主题相关度和主题重要度计算链接优先级。此外,为提高聚焦爬虫的全局搜索性能,结合主题词使用搜索引擎扩展链接集。与通用爬虫和多种聚焦爬虫相比,该方法爬虫爬取准确度和效率更优。

• 单位
  通信与信息工程学院; 西安邮电大学