Colly 简单快速的 Web 爬虫框架

我要开发同款
匿名用户2018年05月17日
166阅读

技术信息

授权协议
Apache 2.0

作品详情

Colly是一个采用Go语言编写的Web爬虫框架,旨在提供一个能够写任何爬虫/采集器/蜘蛛的简洁模板。通过Colly,你可以轻松从网站中提取结构化的数据,然后进行数据挖掘、处理或归档。

项目特性

清晰明了的API 

快速(单个内核上的请求数大于1k)

管理每个域的请求延迟和最大并发数

自动cookie和会话处理

同步/异步/并行抓取

高速缓存

自动处理非Uicode编码

支持Robots.txt

支持GoogleAppEgie

通关环境变量进行配置

可扩展

示例fuc mai() {c := colly.NewCollector()// Fid ad visit all liksc.OHTML("a[href]", fuc(e *colly.HTMLElemet) {e.Request.Visit(e.Attr("href"))})c.ORequest(fuc(r *colly.Request) {fmt.Pritl("Visitig", r.URL)})c.Visit("https://go-colly.org/")}

功能介绍

Colly 是一个采用 Go 语言编写的 Web 爬虫框架,旨在提供一个能够写任何爬虫/采集器/蜘蛛的简洁模板。通过 Colly ,你可以轻松从网站中提取结构化的数据,然后进行数据挖掘、处理或归...

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论