1服通过scrapy框架拿取国内外新闻资讯,视频等 展现在公司app内
2.主要负责新闻以及视频的拿取,通过xpath去除脏数据,playright拿取评论,并存储带mysql中
3.部分网站有http2的反扒以及对header请求头的识别,通过升级http请求和可动态添加header请求头等方法解决
点击空白处退出提示
1服通过scrapy框架拿取国内外新闻资讯,视频等 展现在公司app内
2.主要负责新闻以及视频的拿取,通过xpath去除脏数据,playright拿取评论,并存储带mysql中
3.部分网站有http2的反扒以及对header请求头的识别,通过升级http请求和可动态添加header请求头等方法解决




评论