这个系统是基于 Tornado 框架和异步 IO 实现的,集成了 1k+ 物流商,满足每天亿级数据快速、稳定、准确 的采集。职责描述: 1. 前期参与需求分析、技术方案选型,项目的架构设计、开发环境搭建; 2. 设计爬虫策略和防屏蔽规则,解决封账号、封 IP 、验证码等难点攻克; 3. 开发后台监控、报警模块,保证数据的完整性、准确性以及及时性;
评论