网络爬虫作为近期互联网新兴的自动化数据收集技术,由于其易上手、功能性强的特性已成为当前互联网领域最热门的技术之一。网络爬虫的功能和价值也决定了其对于互联网的重要性,随着使用率的逐步提高,爬虫对互联网安全的影响也逐步扩大,管理人员也相应的开始研究"反爬"策略,并通过法律规制和行为规范来约束爬虫的数据抓取行为。