现在有越来越多的人热衷于做网络爬虫（网络蜘蛛），也有越来越多的地方需要网络爬虫，比如搜索引擎、资讯采集、舆情监测等等，诸如此类。网络爬虫涉及到的技术(算法/策略)广而复杂，如网页获取、网页跟踪、网页分析、网页搜索、网页评级和结构/非结构化数据抽取以及后期更细粒度的数据挖掘等方方面面，对于新手来说，不是一朝一夕便能完全掌握且熟练应用的，对于作者来说，更无法在一篇文章内就将其说清楚。因此在本篇文章中，我们仅将视线聚焦在网络爬虫的最基础技术——网页抓取方面。

 

　　说到网页抓取，往往有两个点是不得不说的，首先是网页编码的识别，另外一个是对网页脚本运行的支持，除此之外，是否支持以POST方式提交请求和支持自动的cookie管理也是很多人所关注的重要方面。其实Java世界里，已经有很多开源的组件来支持各种各样方式的网页抓取了，包括上面提到的四个重点，所以说使用Java做网页抓取还是比较容易的。下面，作者将重点介绍其中的六种方式。

 

　　HttpClient

 

　　HttpClient 是 Apache Jakarta Common 下的子项目，可以用来提供高效的、最新的、功能丰富的支持 HTTP 协议的客户端编程工具包，并且它支持 HTTP 协议最新的版本和建议。

 

　　以下列出的是 HttpClient 提供的主要的功能，要知道更多详细的功能可以参见 HttpClient 的主页。

 

　　（1）实现了所有 HTTP 的方法（GET,POST,PUT,HEAD 等）

 

　　（2）支持自动转向

 

　　（3）支持 HTTPS 协议

 

　　（4）支持代理服务器

 

　　（5）支持自动的Cookies管理等

 

　　Java爬虫开发中应用最多的一种网页获取技术，速度和性能一流，在功能支持方面显得较为底层，不支持JS脚本执行和CSS解析、渲染等准浏览器功能，推荐用于需要快速获取网页而无需解析脚本和CSS的场景。

 

　　范例代码如下：

 

　　Jsoup

 

　　jsoup 是一款Java 的HTML解析器，可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API，可通过DOM，CSS以及类似于jQuery的操作方法来取出和操作数据。

 

　　网页获取和解析速度飞快，推荐使用。

 

　　主要功能如下：

 

　　1. 从一个URL，文件或字符串中解析HTML；

 

　　2. 使用DOM或CSS选择器来查找、取出数据；

 

　　3. 可操作HTML元素、属性、文本；

 

　　范例代码如下：

 

　　HtmlUnit

 

　　htmlunit 是一款开源的java 页面分析工具，读取页面后，可以有效的使用htmlunit分析页面上的内容。项目可以模拟浏览器运行，被誉为java浏览器的开源实现。这个没有界面的浏览器，运行速度也是非常迅速的。采用的是Rhinojs引擎。模拟js运行。

 

　　网页获取和解析速度较快，性能较好，推荐用于需要解析网页脚本的应用场景。

 

　　范例代码如下：

 

　　Watij

 

　　Watij（发音wattage）是一个使用Java开发的Web应用程序测试工具，鉴于Watij的简单性和Java语言的强大能力，Watij能够使您在真正的浏览器中完成Web应用程序的自动化测试。因为是调用本地浏览器，因此支持CSS渲染和JS执行。

 

　　网页获取速度一般，IE版本过低（6/7）时可能会引发内存泄露。

 

　　范例代码如下：

 

　　Selenium

 

　　Selenium也是一个用于Web应用程序测试的工具。Selenium测试直接运行在浏览器中，就像真正的用户在操作一样。支持的浏览器包括IE、Mozilla Firefox、Mozilla Suite等。这个工具的主要功能包括：测试与浏览器的兼容性——测试你的应用程序看是否能够很好得工作在不同浏览器和操作系统之上。测试系统功能——创建衰退测试检验软件功能和用户需求。支持自动录制动作和自动生成。Net、Java、Perl等不同语言的测试脚本。Selenium 是ThoughtWorks专门为Web应用程序编写的一个验收测试工具。

 

　　网页获取速度较慢，对于爬虫来说，不是一个好的选择。

 

　　范例代码如下：

 

　　Webspec

 

　　一个开源的带有界面的Java浏览器，支持脚本执行和CSS渲染。速度一般。

 

　　范例代码如下：

 

　　源码下载：网络爬虫(网络蜘蛛)之网页抓取范例源码