(新版)Python 分布式爬虫与 JS 逆向进阶实战-同步追更

(新版)python 分布式爬虫与 JS 逆向进阶实战

20+ 案例 & 可接单级项目,整体提升爬虫实战能力

本课程从 0 到 1 构建完整的爬虫知识体系,精选 20 + 案例,可接单级项目,应用热门爬虫框架 Scrapy、Selenium、多种验证码识别技术,JS 逆向破解层层突破反爬,带你从容抓取主流网站数据,掌握爬虫工程师硬核技能。

你将会学到:

1. 完整的爬虫学习路径
2. 5 种图像识别技术搞定验证码
3. 20+ 案例,接单级实战项目
4. 满足应对网站爬取的N种情况
5. 15+逆向破解技术对抗反爬
6. 掌握面试必备的爬虫技能技巧

适合人群
有 Python 基础,爬虫零基础学员
在校大学生 / 创业者 / 对爬虫开发感兴趣人员
急需提升爬虫开发能力的爬虫工程师
技术储备
Python 语法基础
环境参数
Python 3

章节目录:

章节目录:

第1章 走近 Python 爬虫开发

5 节|24分钟

  • 视频:1-1 爬虫能解决什么问题试看11:15
  • 视频:1-2 为什么要学习 python 爬虫开发试看03:07
  • 视频:1-3 课程内容介绍、学习目标试看05:56
  • 图文:1-4 欢迎加入QQ学习交流群
  • 视频:1-5 【必看】行有行规,爬虫有虫规03:20

第2章 爬虫开发,你准备好了吗?

3 节|22分钟

  • 视频:2-1 环境准备:搭建爬虫开发环境09:06
  • 视频:2-2 方法准备:好的学习方法,让编程事半功倍07:03
  • 视频:2-3 心态准备:克除浮躁,港大学霸带你一路坚持下去05:23

第3章 如何及时抓取最新的网页数据?

4 节|28分钟

  • 视频:3-1 爬虫请求的基础:HTTP 基础知识10:20
  • 视频:3-2 Requests 模块请求网页数据06:18
  • 视频:3-3 携带 Headers 请求头,模拟真人请求05:11
  • 视频:3-4 设置 Proxy 代理 IP,突破 IP 封锁05:56

第4章 如何提取网页数据?

10 节|115分钟

  • 视频:4-1 如何提取网页关键数据?03:09
  • 视频:4-2 第一种方法:正则表达式解析数据06:47
  • 视频:4-3 【补充】正则表达式语法基础(一)17:46
  • 视频:4-4 【补充】正则表达式语法基础(二)15:03
  • 视频:4-5 【实战】 电影天堂:爬取电影详情页15:05
  • 视频:4-6 【实战】 电影天堂:全站分页数据爬取10:48
  • 视频:4-7 第二种方法:XPath 解析数据07:23
  • 视频:4-8 【补充】XPath 语法基础19:20
  • 视频:4-9 【实战】纵横中文网:爬取小说详情页10:40
  • 视频:4-10 【实战】纵横中文网:排行榜全部小说爬取08:46

第5章 如何存储抓取到的数据?

8 节|52分钟

  • 视频:5-1 如何持久化存储数据?主流的数据存储方式?06:46
  • 视频:5-2 MongoDB 数据库概述03:53
  • 视频:5-3 MongoDB 安装配置(MacOS)07:46
  • 视频:5-4 MongoDB 安装配置(Windows)04:48
  • 视频:5-5 Python 连接 MongoDB 数据库10:10
  • 视频:5-6 【实战】豆瓣网:爬取电影排行榜数据09:36
  • 视频:5-7 【实战】豆瓣网:获取下滑加载的翻页数据04:43
  • 视频:5-8 【实战】豆瓣网:将数据存入 MongoDB 数据库04:10

第6章 Scrapy 框架快速爬取海量数据

13 节|79分钟

  • 视频:6-1 如何高效爬取海量数据?03:25
  • 视频:6-2 第一个 Scrapy 爬虫项目07:16
  • 视频:6-3 Scrapy 框架架构梳理04:11
  • 视频:6-4 Scrapy + XPath 解析数据06:14
  • 视频:6-5 通过 Pipelines 管道实现数据保存05:43
  • 视频:6-6 Scrapy + MongoDB 数据持久化存储03:07
  • 视频:6-7 Middleware 中间件,处理引擎与下载器之间的请求及响应05:07
  • 视频:6-8 Scrapy 伪装爬虫手段一:设置动态 User-Agent03:25
  • 视频:6-9 Scrapy 伪装爬虫手段二:设置代理 IP02:43
  • 视频:6-10 【实战】豆瓣图书:Scrapy + 伪装爬虫爬取新书速递11:18
  • 视频:6-11 【实战】豆瓣图书:新书速递数据解析、存储10:50
  • 视频:6-12 CrawlSpider 爬虫,为全站爬取而生的 Scrapy 爬虫子类06:44
  • 视频:6-13 【实战】聚美优品:CrawlSpider 爬取并储存商品信息08:52

第7章 Scrapy-Redis 分布式爬虫,让爬取效率更高

10 节|69分钟

  • 视频:7-1 如何让爬取效率更高?02:27
  • 视频:7-2 什么是 Scrapy-Redis 分布式爬虫?06:26
  • 视频:7-3 Redis 数据库概述03:03
  • 视频:7-4 Redis 数据库安装配置(MacOS)04:00
  • 视频:7-5 Redis 数据库安装配置(Windows)04:20
  • 视频:7-6 Python 操作 Redis 数据库10:29
  • 视频:7-7 从零实现一个简单的分布式爬虫14:54
  • 视频:7-8 Redis 数据保存至 MongoDB 数据库05:20
  • 视频:7-9 【实战】京东商城:分布式爬虫(一)13:25
  • 视频:7-10 【实战】京东商城:分布式爬虫(二)04:27

第8章 Scrapy + Selenium 框架模拟登录

9 节|53分钟

  • 视频:8-1 通过 Cookie 和 Session 实现用户登陆的原理05:57
  • 视频:8-2 模拟登录方法一:Requests 模块 + Cookie 实现登录06:07
  • 视频:8-3 Cookie + Session 实现登录并获取数据06:27
  • 视频:8-4 模拟登录方法二:Selenium 实现自动化登录02:47
  • 视频:8-5 【补充】Selenium 基础:安装配置05:51
  • 视频:8-6 【补充】Selenium 基础:元素定位方法07:40
  • 视频:8-7 【补充】Selenium 基础:元素交互05:52
  • 视频:8-8 Scrapy + Selenium 实现登录04:56
  • 视频:8-9 Scrapy + Selenium 登录后抓取数据06:24

第9章 OpenCV 图像识别技术搞定验证码识别之前置基础

8 节|43分钟

  • 视频:9-1 什么是 OpenCV 图像识别技术?02:36
  • 视频:9-2 OpenCV 图像基础操作05:26
  • 视频:9-3 修改图像像素与色彩06:15
  • 视频:9-4 修改图像 region of interest 指定区域02:35
  • 视频:9-5 图像数值运算、二值化处理09:27
  • 视频:9-6 图像平滑处理03:17
  • 视频:9-7 形态学图像处理07:48
  • 视频:9-8 滑块验证码的基础:模版匹配04:39

第10章 OpenCV 图片验证码识别与滑块验证码识别

10 节|60分钟

  • 视频:10-1 百度 OCR 文字识别云服务05:45
  • 视频:10-2 【实战】维普网:获取图片验证码05:03
  • 视频:10-3 【实战】维普网:OpenCV + OCR 识别验证码07:28
  • 视频:10-4 【实战】维普网:Selenium 登录并获取数据04:55
  • 视频:10-5 【实战】维普网:处理识别出错的问题03:21
  • 视频:10-6 滑块验证码识别逻辑梳理02:11
  • 视频:10-7 【实战】猎聘网:获取滑块验证码09:24
  • 视频:10-8 【实战】猎聘网:OpenCV 计算滑动距离08:45
  • 视频:10-9 【实战】猎聘网:Selenium 模拟滑动轨迹08:38
  • 视频:10-10 【实战】猎聘网:处理识别出错的问题03:32

第11章 EasyDL 机器学习识别验证码与云码平台一站式识别

7 节|35分钟

  • 视频:11-1 EasyDL 机器学习基础04:03
  • 视频:11-2 【实战】京东商城:批量获取验证码图片07:56
  • 视频:11-3 【实战】京东商城:信息标注 & 训练模型04:23
  • 视频:11-4 【实战】京东商城:调用 EasyDL API 接口识别验证码05:20
  • 视频:11-5 云码平台使用基础01:29
  • 视频:11-6 【实战】豆瓣网:获取验证码图片07:10
  • 视频:11-7 【实战】豆瓣网:云码平台滑块验证码识别04:23

第12章 爬虫与反爬的对抗之文字加密

9 节|57分钟

  • 视频:12-1 常见的反爬手段介绍07:58
  • 视频:12-2 常见文字加解密方式有哪些?03:36
  • 视频:12-3 【补充】文字加解密基础:二进制与十六进制04:38
  • 视频:12-4 【补充】文字加解密基础:ASCII & UTF-8 & Unicode 编码04:57
  • 视频:12-5 【补充】文字加解密基础:Python 实现 Encode & Decode 编码转换03:16
  • 视频:12-6 破解 Unicode 与 HTML 字符实体加密04:20
  • 视频:12-7 破解 CSS 偏移文字加密07:57
  • 视频:12-8 【实战】ZiRoom:破解 CSS 偏移文字加密09:56
  • 视频:12-9 【实战】ZiRoom:获取租房信息数据


第13章 爬虫与反爬的对抗之 JS 逆向
第14章 爬虫与反爬的对抗之 JS 逆向进阶
第15章 【综合实战】Scrapy-Redis+验证码识别+Selenium爬取海量数据
第16章 【拓展】视频网站数据分析
第17章 【加餐】爬虫高频面试题
第18章 课程总结

课程持续更新中

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

评论

  • 沉默未来 2023年1月2日 上午9:09

    被圈粉了

  • 伶俐雨 2023年1月8日 上午4:15

    真心不错

  • 明理鼠标 2023年1月19日 下午7:30

    厉害了

  • 粗暴白昼 2023年3月10日 下午8:02

    给老板加鸡腿

  • 幽默乌龟 2023年3月11日 下午1:54

    这就是IT侠吧!!

  • 甜美早晨 2023年3月22日 上午12:40

    确实不错

  • 平淡刺猬 2023年4月6日 下午8:02

    点赞

  • 英俊大雁 2023年4月15日 上午2:06

    真便宜

  • 单薄大树 2023年4月15日 下午3:09

    厉害了

  • 热情路人 2023年5月11日 上午7:12

    爱你一万年

  • 壮观毛巾 2023年5月18日 下午5:37

    资料真的好全!牛b

  • 积极蜡烛 2023年5月20日 上午12:55

    优秀

  • 漂亮丝袜 2023年5月22日 下午9:37

    6666

  • 殷勤太阳 2023年6月1日 上午12:24

    爱了

  • 落寞舞蹈 2023年6月5日 上午1:06

    开了vip, 卷死你们!!

  • 留胡子裙子 2023年6月9日 上午12:48

    最主要让我喜欢的是无密!真的方便!

  • 着急绿草 2023年6月12日 上午5:01

    我要把省下的钱捐给希望小学【手动狗头】

  • 漂亮背包 2023年7月4日 下午1:40

    已进大厂,大厂很好吃

本站所有资源版权均属于原作者所有,这里所提供资源均只能用于参考学习用,请勿直接商用。若由于商用引起版权纠纷,一切责任均由使用者承担。更多说明请参考 VIP介绍。

最常见的情况是下载不完整: 可对比下载完压缩包的与网盘上的容量,若小于网盘提示的容量则是这个原因。这是浏览器下载的bug,建议用百度网盘软件或迅雷下载。 若排除这种情况,可在对应资源底部留言,或联络我们。

对于会员专享、整站源码、程序插件、网站模板、网页模版等类型的素材,文章内用于介绍的图片通常并不包含在对应可供下载素材包内。这些相关商业图片需另外购买,且本站不负责(也没有办法)找到出处。 同样地一些字体文件也是这种情况,但部分素材会在素材包内有一份字体下载链接清单。

如果您已经成功付款但是网站没有弹出成功提示,请联系站长提供付款信息为您处理

源码素材属于虚拟商品,具有可复制性,可传播性,一旦授予,不接受任何形式的退款、换货要求。请您在购买获取之前确认好 是您所需要的资源