crawler-kit:可长期跑的 Python 采集框架开源项目

我要开发同款
zhuxianyin2026年11月02日
6阅读

技术信息

语言技术
Python
系统类型
Linux、Windows
行业分类
开发工具、企业服务
开源地址
https://github.com/zxyin-dev/crawler-kit
授权协议
MIT许可
开源组织
zxyin-dev

功能介绍

crawler-kit 是一个可长期运行的 Python 采集框架,解决「脚本只能跑一次」的问题。

内置能力:令牌桶全局限速、单层退避重试、断点续采(checkpoint 原子落盘)、按业务主键幂等去重、curl_cffi TLS 指纹、插件式签名扩展。

已用于四平台招聘岗位采集:原始 4,579 行,去重 892 条,输出 3,687 条结构化岗位(字段对齐、招聘人信息不导出);也用于政务公告采集,交付 10,867 条、重复 0、日期完整率 100%,跑到第 201 页断了可续跑。

仓库含 71 项单元测试,MIT 协议开源。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论