雅虎开源解析 HTML 页面数据的 Web 爬取工具 Anthelion

Yahoo 宣布开源解析 HTML 页面结构数据的 Web 爬取工具 anthelion” target=”_blank”>Anthelion。

Web 爬行工具是 Yahoo 很重要的核心，甚至超过了其他应用： Yahoo Mail, Yahoo Finance, Yahoo Messenger, Flickr 和 Tumblr。

上一年在上海的一次会议中，Yahoo 也详细提到了 Anthelion：“Anthelion 最初专注于语义数据，使用标记语言嵌入到 HTML 页面，比如 Microdata，Microformat 或者 RDFa。”这次会议还提到了爬取技术是如何实现的，为什么能提供更高数量的特定搜索查询相关的结果。

Microdata 和 RDFa 是结构数据关于不同主题的语法格式，兼容 schema.org 词汇（一个 Google，Yahoo 和 Bing 搜索引擎都在研究的项目） a project that the Google, Yahoo, and Bing search engines all work on.

Anthelion 的代码现在以 Apache 开源授权协议托管到 GitHub：https://github.com/yahoo/anthelion，包含 Apache Nutch 完整源代码。

Anthelion 可以根据设定目标爬取特定页面，比如，包括标记描述影片和至少两个不同属性（比如电影标题和演员）。