JobHunter旨在自动地从一些大型站点来获取招聘信息，如chinahr,51job,zhaopin等等。JobHunter 搜索每个工作项目的邮件地址，自动地向这一邮件地址发送申请文本。

使用 libtorrent 的python绑定库实现一个dht网络爬虫，抓取dht网络中的磁力链接。 dht 网络简介 p2p网络 在P2P网络中，通过种子文件下载资源时，要知道资源在P2P网

surfer是一款强大的高并发爬虫下载组件，支持GET / POST / HEAD 方法下载，支持https协议，支持自动保存cookie，支持模拟登录！ 项目主页： http://www

Python urllib2笔记（爬虫）：0、简单例子 利用Python的urllib2库，可以很方便的完成网页抓取功能，下列代码抓取百度主页并打印。 # ...

Jsoup可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API，可通过DOM，CSS以及类似于jQuery的操作方法来取出和操作数据。

望与各路同学一起交流、一起进步。刚好前段时间学习了Python网络爬虫，在此将网络爬虫做一个总结。 2 何为网络爬虫？ 2.1 爬虫场景 我们先自己想象一下平时到天猫商城购物（PC端）的步骤，可能

#========================================================= # 程序：暴漫爬虫 # 版本：V0.1 # 作者：江前云后 # 语言：Python 2.7 # 操作：输入要下载的暴

使用 HttpClient 和 HtmlParser 实现简易爬虫(二) HtmlParser 提供了强大的类库来处理 Internet 上的网页，可以实现对网页特定内容的提取和修改。下面通过几个例子来介绍

代码。刚学python没几天，学习一种语言的最好方法就是写code.下面的是我用的多线程实现的网络爬虫，并用py2exe生成了一个exe，自身觉得py2exe不太好，又不会更好的，只能...... 这

摘要 摘要 网络爬虫是一种自动搜集互联网信息的程序。通过网络爬虫不仅能够为搜索引擎采集网络信息，而且可以作为定向信息采集器，定向采集某些网站下的特定信息，如招聘信息，租房信息等。 本文通过JAVA实

首先它是个crawler，其次它不bad。我觉得不bad那就是good了，所以起名goodcrawler。goodcrawler借用了crawler4j的一点点代码（只保留了Page等相关结构，删除了sleepycat的所有东西），当然依然使用 httpclient。

Goutte是一个屏幕抓取和web爬虫PHP库。 Goutte提供了一个很好的API来抓取网站和从服务器响应的HTML/ XML提取数据。 要求 Goutte depends on PHP 5

本项目基于golang开发，是一个开放的垂直领域的爬虫引擎，主要希望能将各个功能模块区分开，方便使用者重新实现子模块，进而构建自己垂直方方向的爬虫。 本项目将爬虫的各个功能流程区分成Spider模块（主控

假如爬10000+个词语，使用gevent的话，那几秒钟之内就给网站一股脑的发请求，说不定网站就把爬虫封了。 解决办法 将列表等分为若干个子列表，分批爬取。举例我们有一个数字列表（0-19），

Osmosis 是 Node.js 用来解析 HTML/XML 和 Web 内容爬取的扩展。

Pholcus（幽灵蛛）是一款纯Go语言编写的重量级爬虫软件，清新的GUI界面，优雅的爬虫规则、可控的高并发、任意的批量任务、多种输出方式、大量Demo，支持横纵向两种抓取模式，支持模拟登录和任务取消等，并且考虑了支持分布式布局。

(tar.gz) Pholcus（幽 灵蛛）是一款纯Go语言编写的重量级爬虫软件，清新的GUI界面，优雅的爬虫规则、可控的高并发、任意的批量任务、多种输出方式、大量Demo，更重要的 是它支持

分布式爬虫 分布式爬虫 第2章 分布式爬虫 随着互联网技术的发展以及风起云涌的云计算浪潮。爬虫技术也逐渐向着分布式方向发展。比如，Google的爬虫就是使用成千上万台小型机和微机进行合作，完成分布式

Scrapy 是一套基于基于Twisted的异步处理框架，纯python实现的爬虫框架，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片。下图显示了Scrapy的大体架构，其中

Spidr是一个多功能的Ruby web 爬虫库。它可以抓取一个网站，多个域名或某些链接。Spidr被设计成快速和容易使用。 具体特性： Follows: a tags. iframe tags.