crawler-kit 是一个可长期运行的 Python 采集框架,解决「脚本只能跑一次」的问题。
内置能力:令牌桶全局限速、单层退避重试、断点续采(checkpoint 原子落盘)、按业务主键幂等去重、curl_cffi TLS 指纹、插件式签名扩展。
已用于四平台招聘岗位采集:原始 4,579 行,去重 892 条,输出 3,687 条结构化岗位(字段对齐、招聘人信息不导出);也用于政务公告采集,交付 10,867 条、重复 0、日期完整率 100%,跑到第 201 页断了可续跑。
仓库含 71 项单元测试,MIT 协议开源。
点击空白处退出提示









评论