1.根据需要爬取的数据进行需求分析，分析目标网站的网站结构和一些反爬手段；2.通过requests、scrapy、scrapy-redis、xpath等技术手段编写爬虫程序进行内容抓取，对抓取到的数据进行清洗过滤，分表存储，以供其他部门使用；3.定期维护ip代理池，清除失效代理ip，根据爬取过程中遇到的一些反爬手段，优化自己的程序；4.使用web的Django框架参与其他公司内部软件的开发；5.数据的去重，清洗，对于亚马逊ip反爬，检测验证码，制定具体应对措施。声明：本文仅代表作者观点，不代表本站立场。如果侵犯到您的合法权益，请联系我们删除侵权资源！如果遇到资源链接失效，请您通过评论或工单的方式通知管理员。未经允许，不得转载，本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论