抓取二手平台数据产品系统

我要开发同款
哎呀也2026年08月06日
4阅读

技术信息

语言技术
Python
系统类型
Web
行业分类
脚本插件

作品详情

行业场景

跨境 / 二手电商监控与选品。面向日本、韩国、东南亚等二手平台(Mercari、ラクマ、Bunjang、PayPay、Yahoo 拍卖、Carousell),卖家、代购、搬砖客、采销团队需要盯「新上架」抢货、比价、跟竞品。这些平台上架极快、同款价差大,人工刷页或刷新搜索效率低,且各站接口/风控不同,难统一盯盘。团队需要把多源商品流汇到一处,近实时发现新货并筛选。人工盯盘漏单、反应慢,错过低价窗口
多平台入口分散,无法统一关键词、价格带、去重
部分站点(日站)有网络/验证门槛,需稳定拉数与看板展示时效:近秒级轮询 + 看板推送,尽早发现新上架
覆盖:一套系统对接多平台内部 API / 浏览器过验证
效率:关键词、价格过滤、SQLite 去重,只推真正的新货
可视:本地看板按来源/品类筛选、模糊搜索,方便值班盯盘

功能介绍

系统按配置的监控任务(平台 + 关键词 + 价格区间)持续拉取各站内部搜索接口;拿到列表后做本地过滤与全局去重,将新商品写入环形缓冲并通过 SSE 推到看板。看板侧栏固定展示全部数据源(含暂停/暂无),支持按品类展开与全文模糊检索。对日本站单独维护代理池与连通性探测,无代理时自动暂停并在后台重试,避免拖垮可直连的韩/日其它接口。

项目实现

整体架构与调度(异步多任务轮询、暂停/恢复)
各平台 API / 浏览器采集适配与连通性处理
去重、通知与实时看板(含 SSE、筛选、搜索 UI)
日站专用代理路由、代理扫描缓存与热切换
配置、启动脚本与运行稳定性(单实例锁、日志等)语言 / 运行时:Python 3、asyncio
HTTP:httpx(异步客户端、代理)
浏览器过验证:SeleniumBase UC(Carousell Cloudflare)
存储:SQLite(已见商品去重)
配置:YAML + Pydantic
看板:原生 HTML/CSS/JS,SSE(EventSource)实时推送
其它:DNS 覆盖缓解污染、本地/公共代理探测与轮换
适合检索的关键词:二手监控、多平台爬虫、近实时看板、SSE、代理热切换、Cloudflare 绕过、SQLite 去重、Python asyncio。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论