针对传统单机网络爬虫抓取效率低、稳定性差、数据量少等问题，文章利用Scrapy框架结合Redis技术，对传统网络爬虫框架进行改进和优化，设计出了分布式非结构化的网络爬虫系统，使采集到的信息能以非结构化形式存储于MongoDB数据库内，实现对数据信息的实时、有效处理分析。经过实际应用测试，证明基于Scrapy框架的分布式非结构化网络爬虫系统相较于传统单机系统具有更高的效率。
科研之友
微信
新浪微博
Facebook
分享链接
