一个基于gevent的爬虫框架，最初的版本在一定程度上模仿了scrapy。 项目主页： http://www.open-open.com/lib/view/home/1351753949426

phpcrawl是一个爬虫/蜘蛛功能的基于php开发的框架，所以我们称它为网站或爬虫的PHP库。

Portia是 scrapyhub 开源的一款可视化的爬虫规则编写工具。它提供可视化的Web页面，你只需要通过点击标注页面上你需要抽取的数据，不需要任何编程知识即可完成规则的开发。 这些规则可以在#Scrapy#中使用，用于抓取页面。

一。用hadoop作网络爬虫的原因 爬虫程序的海量计算特性要求必须要用分布式方式来实现。一般爬虫爬取的是整个互联网上的所有或部分数据，这个数据量一般是P byte级，至少也是T byte级，因此用

html 由于工作中有个项目需要爬取第三方网站的内容，所以在Linux下使用Perl写了个简单的爬虫。 相关工具 1. HttpWatch/浏览器开发人员工具 一般情况下这个工具是用不到的，

从写nodejs的第一个爬虫开始陆陆续续写了好几个爬虫，从爬拉勾网上的职位信息到爬豆瓣上的租房帖子，再到去爬知乎上的妹子照片什么的，爬虫为我打开了一扇又一扇新世界的大门。除了涨了很多姿势之外，与网管斗

JSpider是: 一个高度可配置和和可定制 Web爬虫 LGPL开源许可下开发 100％纯Java实现 您可以使用它来： 检查您网站的错误(内部服务器错误, ...) 传出或内部链接检查 分析你网站的结构(创建一个sitemap

世界上已经成型的爬虫软件多达上百种，本文对较为知名及常见的开源爬虫软件进行梳理，按开发语言进行汇总，如下表所示。虽然搜索引擎也有爬虫，但本次我汇总的只是爬虫软件，而非大型、复杂的搜索引擎，因为很多兄弟只是想爬取数据，而非运营一个搜索引擎。

最近开发的一个通用网络爬虫平台，主要是想满足自己想从特定网站抓取大量内容的需求，有如下特点： 1. 支持cookie/session，所以支持登录论坛和网站 2. 支持图像识别，可以由人工识别或者机器识别

1. larbin简介 larbin是一种开源的网络爬虫/网络蜘蛛，由法国的年轻人Sébastien Ailleret独立开发，用c++语言实现。larbin目的是能够跟踪页面的url进行扩展的抓取，最后为搜索引擎提供广泛的数据来源。

今天公司有个需求，需要做一些指定网站查询后的数据的抓取，于是花了点时间写了个demo供演示使用。

Proxy Connector 是一个PHP类可用来抓取远程的Web网页，可连接到 HTTP 代理服务器并访问 Tor 网络来访问任何网站。

NCrawler 是一个Web Crawler 工具，它可以让开发人员很轻松的发展出具有Web Crawler 能力的应用程式，并且具有可以延展的能力，让开发人员可以扩充它的功能，以支援其他类型的资源（例如PDF

Arachnid是一个基于Java的web spider框架.它包含一个简单的HTML剖析器能够分析包含HTML内容的输入流.通过实现Arachnid的子类就能够开发一个简单的Web spiders并能够在Web站上的每个页面被解析之后增加几行代码调用。

易于使用的Web页面数据提取PHP类库，只需要几行代码。使用XPath 或 CSS Selector可以从任意网站抓取数据。

是一个业余时间开发的，支持多线程，支持关键字过滤，支持正文内容智能识别的爬虫。 爬虫的核心实现在ScrapingSpider.Core程序集中。爬虫类为Spider类，爬虫的爬取逻辑，与页面处理逻辑通过事件分离，两个关键

Trianglify 是一个基于 d3.js 开发的SVG 背景图片生成器，生成的 SVG 图片非常漂亮。 在线演示 项目主页： http://www.open-open.com/

我们知道在用图片作为背景的时候，css要这样写：background:#FFF url(image) no-repeat fixed x y;这里的background的属性值依次为： #FFF 背景色：（颜

mal"> 这是一个给button使用的背景选择，这种不同状态显示不同背景的xml文件我们称为selector。其实selector的本质是一个drawable对象。

CSS背景图片定位其实对于每一位学习前端的同学来说，都已经非常熟悉了。网上铺天盖地的最常见的一种方案就是在父元素中relative，然后子元素absolute。这种方案当然好，不过带来的一个缺点就是会