proginn0933258715
11小时前在线
全职 · 800/日  ·  17400/月
工作时间: 周末8:00-16:00工作地点: 远程
服务企业: 0家累计提交: 0工时
联系方式:
********
********
********
聊一聊

使用APP扫码聊一聊

个人介绍

从事爬虫行业多年,抖小快,双微,某条等互联网公开数据采集涉猎


工作经历

  • 2015-03-10 -至今品高软件采集工程师

    1.数据抓取开发 使用Python编写爬虫脚本(如requests、Scrapy、Selenium等框架),从网站、API、数据库等渠道高效获取结构化或非结构化数据。 处理动态网页(如JavaScript渲染页面)的反爬机制(验证码、IP封禁、请求频率限制等)。 2.反爬策略应对 分析目标网站的反爬策略,通过代理IP池、请求头伪装、User-Agent轮换、验证码识别等技术绕过限制。 设计分布式爬虫架构(如结合Redis、Kafka等),提升抓取效率和稳定性。 3.数据清洗与存储 对抓取的原始数据进行清洗、去重、格式化,提取关键字段。 将数据存储到数据库(如MySQL、MongoDB)或文件系统(CSV、JSON、Parquet等)

教育经历

  • 2011-08-29 - 2015-06-09河北科技大学计算机科学与技术本科

技能

0
1
2
3
4
5
更新于: 3天前 浏览: 10