根据任务安排对目标网站进行爬取,补充数据量,分析目标网站的网站结构和一些反爬手段通过requests、scrapy、xpath等技术手段编写爬虫程序进行内容抓取通过分析解决目标的post请求限制通过携带cookie对建设通进行访问,获取相关内容通过django框架编写对数据库进行操作的工具维护服务器爬虫脚本的每天定时更新负责对爬取的业绩进行相关信息的提取负责对数据库企业信息的补充,主要从爱企查更新目标信息使用logging模块根据日期定向输出日志文件
评论