Python网络爬虫从入门到精通

Python网络爬虫从入门到精通

立即阅读
手机扫码
  • 微信扫一扫

    关注微信公众号

编辑推荐

适读人群 :Python语言初学者;网络爬虫技术爱好者;数据分析从业人士

内容全面,结构清晰:本书详细介绍了网络爬虫技术的方方面面,讨论了数据抓取、数据处理和数据分析的整个流程。全书结构清晰,坚持理论知识与实践操作结合。

循序渐进,生动简洁:从简单的Python程序示例开始,在网络爬虫的核心主题之下一步步深入,兼顾内容的广度与深度。在行文中,使用生动简洁的阐述方式,力争详略得当。

示例丰富,实战性强:网络爬虫是实践性、操作性非常强的技术,本书将提供丰富的代码来作为读者的参考,同时对必要的术语和代码进行解释。从生活实际出发,选取实用性、趣味性兼具的主题进行网络爬虫实践。

内容简介

《Python 网络爬虫从入门到精通》的主旨是介绍如何结合Python进行网络爬虫程序的开发,从Python语言的基本特性入手,详细介绍了Python网络爬虫开发的各个方面,涉及HTTP、HTML、JavaScript、正则表达式、自然语言处理、数据科学等不同领域的内容。全书共15章,包括Python基础知识、网站分析、网页解析、Python文件读写、Python与数据库、AJAX技术、模拟登录、文本与数据分析、网站测试、Scrapy爬虫框架、爬虫性能等多个主题。本书内容覆盖网络抓取与爬虫编程中的主要知识和技术,在重视理论基础的前提下,从实用性和丰富性出发,结合实例演示了爬虫编写的核心流程。

《Python 网络爬虫从入门到精通》适合Python语言初学者、网络爬虫技术爱好者、数据分析从业人士以及高等院校计算机科学、软件工程等相关专业的师生阅读。

章节目录

版权信息

前言

第1章 Python与网络爬虫

1.1 Python语言

1.1.1 什么是Python

1.1.2 Python的应用现状

1.2 Python的安装与开发环境配置

1.2.1 在Windows上安装

1.2.2 在Ubuntu和Mac OS上安装

1.2.3 PyCharm的使用

1.2.4 Jupyter Notebook

1.3 Python基本语法

1.3.1 HelloWorld与数据类型

1.3.2 逻辑语句

1.3.3 Python中的函数与类

1.3.4 Python从0到1

1.4 互联网、HTTP与HTML

1.4.1 互联网与HTTP

1.4.2 HTML

1.5 Hello,Spider!

1.5.1 第一个爬虫程序

1.5.2 对爬虫的思考

1.6 调研网站

1.6.1 网站的robots.txt与Sitemap

1.6.2 查看网站所用技术

1.6.3 查看网站所有者信息

1.6.4 使用开发者工具检查网页

1.7 本章小结

第2章 数据采集

2.1 从抓取开始

2.2 正则表达式

2.2.1 初见正则表达式

2.2.2 正则表达式的简单使用

2.3 BeautifulSoup

2.3.1 安装与上手

2.3.2 BeautifulSoup的基本使用

2.4 XPath与lxml

2.4.1 XPath

2.4.2 lxml与XPath的使用

2.5 遍历页面

2.5.1 抓取下一个页面

2.5.2 完成爬虫

2.6 使用API

2.6.1 API简介

2.6.2 API使用示例

2.7 本章小结

第3章 文件与数据存储

3.1 Python中的文件

3.1.1 基本的文件读写

3.1.2 序列化

3.2 字符串

3.3 Python与图片

3.3.1 PIL与Pillow

3.3.2 Python与OpenCV简介

3.4 CSV文件

3.4.1 CSV简介

3.4.2 CSV的读写

3.5 使用数据库

3.5.1 使用MySQL

3.5.2 使用SQLite3

3.5.3 使用SQLAlchemy

3.5.4 使用Redis

3.6 其他类型的文档

3.7 本章小结

第4章 JavaScript与动态内容

4.1 JavaScript与AJAX技术

4.1.1 JavaScript语言

4.1.2 AJAX

4.2 抓取AJAX数据

4.2.1 分析数据

4.2.2 数据提取

4.3 抓取动态内容

4.3.1 动态渲染页面

4.3.2 使用Selenium

4.3.3 PyV8与Splash

4.4 本章小结

第5章 表单与模拟登录

5.1 表单

5.1.1 表单与POST

5.1.2 POST发送表单数据

5.2 Cookie

5.2.1 什么是Cookie

5.2.2 在Python中使用Cookie

5.3 模拟登录网站

5.3.1 分析网站

5.3.2 通过Cookie模拟登录

5.4 验证码

5.4.1 图片验证码

5.4.2 滑动验证

5.5 本章小结

第6章 数据的进一步处理

6.1 Python与文本分析

6.1.1 什么是文本分析

6.1.2 jieba与SnowNLP

6.1.3 NLTK

6.1.4 文本分类与聚类

6.2 数据处理与科学计算

6.2.1 从MATLAB到Python

6.2.2 NumPy

6.2.3 Pandas

6.2.4 Matplotlib

6.2.5 SciPy与SymPy

6.3 本章小结

第7章 更灵活的爬虫

7.1 更灵活的爬虫——以微信数据抓取为例

7.1.1 用Selenium抓取Web微信信息

7.1.2 基于Python的微信API工具

7.2 更多样的爬虫

7.2.1 在BeautifulSoup和XPath之外

7.2.2 在线爬虫应用平台

7.2.3 使用urllib

7.3 爬虫的部署和管理

7.3.1 配置远程主机

7.3.2 编写本地爬虫

7.3.3 部署爬虫

7.3.4 查看运行结果

7.3.5 使用爬虫管理框架

7.4 本章小结

第8章 浏览器模拟与网站测试

8.1 关于测试

8.1.1 什么是测试

8.1.2 什么是TDD

8.2 Python的单元测试

8.2.1 使用unittest

8.2.2 其他方法

8.3 使用Python爬虫测试网站

8.4 使用Selenium测试

8.4.1 Selenium测试常用的网站交互

8.4.2 结合Selenium进行单元测试

8.5 本章小结

第9章 更强大的爬虫

9.1 爬虫框架

9.1.1 Scrapy是什么

9.1.2 Scrapy安装与入门

9.1.3 编写Scrapy爬虫

9.1.4 其他爬虫框架

9.2 网站反爬虫

9.2.1 反爬虫的策略

9.2.2 伪装headers

9.2.3 使用代理

9.2.4 访问频率

9.3 多进程与分布式

9.3.1 多进程编程与爬虫抓取

9.3.2 分布式爬虫

9.4 本章小结

第10章 爬虫实践:火车票余票实时提醒

10.1 程序设计

10.1.1 分析网页

10.1.2 理解返回的JSON格式数据的意义

10.1.3 微信消息推送

10.1.4 运行并查看微信消息

10.2 本章小结

第11章 爬虫实践:爬取二手房数据并绘制热力图

11.1 数据抓取

11.1.1 分析网页

11.1.2 地址转换成经纬度

11.1.3 编写代码

11.1.4 数据下载结果

11.2 绘制热力图

11.3 本章小结

第12章 爬虫实践:免费IP代理爬虫

12.1 程序设计

12.1.1 代理分类

12.1.2 网站分析

12.1.3 编写爬虫

12.1.4 运行并查看结果

12.2 本章小结

第13章 爬虫实践:百度文库爬虫

13.1 程序设计

13.1.1 分析网页

13.1.2 编写爬虫

13.1.3 运行并查看爬取的百度文库文件

13.2 本章小结

第14章 爬虫实践:拼多多用户评论数据爬虫

14.1 程序设计

14.1.1 分析网页

14.1.2 编写爬虫

14.1.3 运行并查看数据库

14.2 本章小结

第15章 爬虫实践:Selenium+PyQuery+MongoDB爬取网易跟帖

15.1 程序设计

15.1.1 Selenium介绍

15.1.2 分析网页

15.1.3 编写爬虫

15.1.4 运行并查看MongoDB文件

15.2 本章小结

Python网络爬虫从入门到精通是2019年由机械工业出版社出版,作者张扬。

得书感谢您对《Python网络爬虫从入门到精通》关注和支持,如本书内容有不良信息或侵权等情形的,请联系本网站。

你可能喜欢
学电脑从入门到精通 电子书
《学电脑从入门到精通》以案例教学的方式为读者系统地介绍了电脑的相关知识和操作技巧。《学电脑从入门到精通》共16章。第1章主要介绍电脑的入门知识;第2~7章主要介绍Windows10的使用方法,包括基本操作、电脑操作环境的个性化设置、管理电脑文件和文件夹、轻松学会打字、电脑网络的连接以及管理电脑中的软件等;第8~10章主要介绍网上娱乐方法,包括多媒体娱乐、使用电脑上网以及网络聊天交友等;第11~13
Python从入门到精通(精粹版) 电子书
本书以零基础读者为对象,用范例引导读者学习,深入浅出地介绍了Python的相关知识和实战技能。本书从Python基础入手,介绍了Python的开发环境、各种数据类型的操作方法、流程控制、函数等Python内核技术,以及使用Python处理文件、处理错误与异常等各种应用,最后列举了Python在重要领域的项目实战,内容系统且深入。本书提供与内容同步的教学录像。此外,本书还赠送大量相关学习资料,以便读
Excel 2019从入门到精通(移动学习版) 电子书
写作特色  ·从零开始,快速上手 无论读者是否接触过电脑,都能从本书获益,快速掌握软件操作方法。  ·面向实际,精选案例 全部内容均以真实案例为主线,在此基础上适当扩展知识点,真正实现学以致用。  ·全彩展示,一步一图 本书通过全彩排版,有效突出重点、难点。所有实例的每一步操作,均配有对应的插图和注释,以便读者在学习过程中能够直观、清晰地看到操作过程和效果,提高学习效率。  ·单双混排,超大容量 本书采用单、双栏混排的形式,大大扩充了信息容量,在有限的篇幅中为读者奉送更多的知识和实战案例。  ·高手支招,举一反三 本书在每章后的“高手私房菜”栏目中提炼了各种操作技巧,为知识点的扩展应用提供了思路。  ·视频教程,互动教学 在视频教程中,我们采用工作、生活中的真实案例,帮助读者体验实际应用环境,从而全面理解知识点的运用方法。  配套资源  ·全程同步视频教程 本书配套的同步视频教程详细讲解每个实战案例的操作过程及关键步骤,帮助读者更轻松地掌握书中所有的知识内容和操作技巧。  ·学习资源 本书赠送大量相关学习内容的视频教程、扩展学习电子书及本书所有案例的配套素材和结果文件等,以方便读者扩展学习。 赠送资源1 Windows 10操作系统安装视频教程 赠送资源2 9小时Windows 10视频教程 赠送资源3 电脑维护与故障处理技巧查询手册 赠送资源4 移动办公技巧手册 赠送资源5 2000个Word精选文档模板 赠送资源6 1800个Excel典型表格模板 赠送资源7 1500个PPT精美演示模板 赠送资源8 Office快捷键查询手册
Excel 2019办公应用实战从入门到精通 电子书
(1)案例设计精良,直面实战需求。 (2)“图书 电脑 手机”三位一体的教学方式。 (3)实例教学,紧密结合日常工作、学习、生活,选取贴近实际的应用案例。 (4)同步全高清视频教学,如名师在侧,高手相伴。 (5)超值赠送相关图书视频教学文件和电子书,花一本书的钱,买几本书的内容。 (6)大量赠送实用软件工具、办公模板,便于读者随时扩展学习应用。
C语言从入门到精通 电子书
零基础、入门级的讲解 无论读者是否从事计算机相关行业,是否接触过C语言,是否使用C语言开发过项目,都能从本书中获益。 超多、实用、专业的范例和项目 本书结合实际工作中的范例,逐一讲解C语言的各种知识和技术。之后以实际开发项目来总结本书所学内容,帮助读者在实战中掌握知识,轻松拥有项目经验。 随时检测自己的学习成果 每章首页给出了“本章要点”,以便读者明确学习方向,读者可以随时自我检测,巩固所学知识。 细致入微、贴心提示 本书在讲解过程中使用了“提示”“注意”“技巧”等小栏目,帮助读者在学习过程中更清楚地理解基本概念、 掌握相关操作,并轻松获取实战技巧。 全程同步教学视频 涵盖本书所有知识点,详细讲解每个范例及项目的开发过程及关键点,帮助读者更轻松地掌握书中所有的C语言程序设计知识。 超多电子资源大放送 赠送大量电子资源,包括本书范例的素材文件和结果文件、本书教学 PPT、C语言标准库函数查询手册、C语言常用查询手册、10套完整源代码、全国计算机等级考试二级C语言考试大纲及应试技巧、C语言常见面试题、C语言常见错误及解决方案、C语言开发经验及技巧大汇总、C语言程序员职业规划、C语言程序员面试技巧。 多平台学习方式 可实现手机端、电脑端同步学习