scrapemend —— 自愈式网页数据提取库开源项目

我要开发同款
FengYue2026年10月24日
11阅读

技术信息

语言技术
Python
系统类型
Windows、Linux、算法模型
行业分类
企业服务、人工智能
开源地址
https://github.com/FengYue427/scrapemend
授权协议
MIT许可

功能介绍

scrapemend 是一个 Python 网页数据提取库,核心思路是「选择器失效等于缓存未命中,而非程序崩溃」。主要功能:1)用自然语言描述要抓取的字段,无需手写选择器;2)优先使用缓存的选择器提取,零大模型开销;3)当某字段匹配失败或匹配到错误节点时,自动调用 LLM 重新生成选择器并缓存,实现自愈;4)提取前对 HTML 预清洗,将 prompt 体积压缩 90% 以上以降低成本;5)内置值校验与基数检查,拦截「匹配上但取到错误数据」的隐蔽故障;6)支持 OpenAI、DeepSeek 等多模型适配,内置离线模式。项目已开源(MIT)并发布至 PyPI,可通过 pip install scrapemend 安装。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论