https://github.com/iNuanfeng/node-spider/ nodejs爬虫，爬取汽车之家所有车型数据 http://www.autohome.com.cn/car/ 包括品牌，车系，年份，车型四个层级。

小喵的唠叨话：这次的博客，讲的是使用python编写一个爬虫工具。为什么要写这个爬虫呢？原因是小喵在看完《极黑的布伦希尔特》这个动画之后，又想看看漫画，结果发现各大APP都没有资源，最终好不容易找到一

1. shirlyzhang新人分享 ——nodejs运行机制及RSS爬虫实例分享 2. shirlyzhangnodejs是一个平台让Javascript运行在浏览器之外的平台 3. shirlyzhang为什么适合开发服务器端程序呢？

Pholcus（幽灵蛛）是一款纯Go语言编写的高并发、分布式、重量级爬虫软件，支持单机、服务端、客户端三种运行模式，拥有Web、GUI、命令行三种操作界面；规则简单灵活、批量任务并发、输出方式丰富（m

近日，Pholcus 升级 v0.8.0 版本了，最大的亮点就是：终于突破规则需要静态编译的局制，增加支持HTML风格的动态规则。以后交流分享规则变得更加方便，随之而来将会是愈加完善的生态圈。

spidernet是一个以递归树为模型的多线程web爬虫程序, 支持text/html资源的获取. 可以设定爬行深度, 最大下载字节数限制, 支持gzip解码, 支持以gbk(gb2312)和utf8编码的资源

且当时我有提到，其实可以实现一个通用的爬虫框架。最近由于要抓取新的数据，于是我就写了这个 cola 。下面的文字来自 wiki 。 Cola是一个分布式的爬虫框架，用户只需编写几个特定的函数，而无

zerg 基于docker的分布式爬虫服务 特性 多机多 IP，充分利用 IP 资源 服务自动发现和注册（基于 etcd 和 registrator） 负载均衡 + 一致性哈希 服务端客户端通信基于

听闻python的Scrapy爬虫已久，最近正好想对去年一年在简书写作的文章做一下统计。作为软件工程师，肯定不能去按计算器，正好找到一个可以使用scrapy的场景，直接用爬虫来抓取简书页面，然后提取数据作统计。

前言： 在爬虫的开发过程中，有些业务场景需要同时抓取几百个甚至上千个网站，此时就需要一个支持多爬虫的框架。在设计时应该要注意以下几点： 代码复用，功能模块化。如果针对每个网站都写一个完整的爬虫，那其中必

看看运行结果，这是书籍类目的 Paste_Image.png 这是构造出的每一个类目里面所有的页数链接，也是我们爬虫的入口，一共5000多页 Paste_Image.png 接下来是封装的数据库操作，因

P都不一样，所以我们可以通过程序来自动进行重新拨号以获得新的IP地址，以达到突破反爬虫封锁的目的。 8年多爬虫经验的人告诉你，国内ADSL是王道，多申请些线路，分布在多个不同的电信机房，能跨省

Scrapy 是一套基于基于Twisted的异步处理框架，纯python实现的爬虫框架，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片，非常之方便～ Scrapy 1

，而为了提供更好的用户体验搜索引擎和社交媒体网站对这种数据的使用也越来越多。要获取这些数据离不开网络爬虫的支持，为此，Yahoo创建了 Anthelion项目，一个旨在爬取语义数据的Nutch插件，最近，该项目已在GitHub上开源

XSScrapy是一个快速、直接的XSS漏洞检测爬虫，你只需要一个URL，它便可以帮助你发现XSS跨站脚本漏洞，XSScrapy的XSS漏洞攻击测试向量覆盖Referer字段、User-Agent字段

基于gevent和多线程模型，支持WebKit引擎的动态爬虫框架。 特性 支持gevent和多线程两种并行模型 支持Webkit引擎 (dom parse,ajax fetch,etc...) 多个自定义选项设置

生成项目scrapy提供一个工具来生成项目，生成的项目中预置了一些文件，用户需要在这些文件中添加自己的代码。打开命令行，执行：scrapy st...

Pholcus（幽灵蛛）是一款纯Go语言编写的重量级爬虫软件，清新的GUI界面，优雅的爬虫规则、可控的高并发、任意的批量任务、多种输出方式、大量Demo，支持横纵向两种抓取模式，支持模拟登录和任务取消等，并且考虑了支持分布式布局。

com/a/1190000003817510 Scrapy 是Python非常有名的爬虫框架，框架本身已经为爬虫性能做了很多优化：多线程、整合xpath和图片专用管道等等，开发人员只要专注在功能需求上。

基于Scrapy 的 PIXIV爬虫，功能简单（简陋），实现了简单的页面信息抽取，JSON API信息抽取，IMAGE存储等功能。基于Scrapy的配置文件进行灵活配置（包含某些福利选项），并通过Cookie