python爬虫框架有哪些

　　多想写网络爬虫的同学会关心目前有哪些好用的爬虫框架，于是我就搜集了一些一些爬虫框架的简单介绍供大家参考。

　　1、神箭手云爬虫框架

　　是一个0元的网络爬虫框架，为开发者提供成套的开发教程和开发工具，为企业提供专业化的数据抓取、数据实时监控和数据分析服务。

　　较大的特点是一站式服务，通过底层框架简化了网络爬虫开发难度，而且提供了丰富的开源网络爬虫资源。

　　2、Nutch

　　这是一个开源Java

　　实现的搜索引擎，提供了我们运行自己的搜索引擎所需的全部工具，包括全文搜索和Web爬虫。

　　Nutch目前较新的版本为versionv2.

　　3、Crawler4j

　　Crawler4j是一个开源的Java类库提供一个用于抓取Web页面的简单接口。可以利用它来构建一个多线程的Web爬虫。

　　4、WebMagic

　　WebMagic是一个简单灵活的Java爬虫框架。

　　它的特性包括:简单的API，可上手;模块化的结构，可轻松扩展;提供多线程和分布式支持

　　5、Heritrix

　　这是一个由java

　　开发的、开源的网络爬虫，用户可以使用它来从网上抓取想要的资源。其较出色之处在于它良好的可扩展性，方便用户实现自己的抓取逻辑。