某教育网爬虫开源项目

我要开发同款
proginn18543603212024年02月27日
120阅读

技术信息

语言技术
Python
开源地址
https://github.com/pengwow/web-crawler
授权协议
LGPL许可

功能介绍

jyeoo 为第一版爬虫基于scrapy + splash
1.账号使用api.jyeoo.com后台接口自动登陆 由于账号被封,此方法废弃,改用手动登陆获取cookie方式

2.vip账号爬取次数过多发生被封号,爬取次数规则未摸清

3.jyeoo后台检测机制使账号发生课题和解析内容不一致,即课题id为假数据 经客服解决,故无法实现全自动爬取

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论