App 下载
注册
登录
|
搜索
正在搜索中...
首页
我的书架
我的主页
我的收藏
我的书评
本书采用简洁强大的Python语言，介绍了网络数据采集，并为采集新式网络中的各种数据类型提供了全面的指导。第一部分重点介绍网络数据采集的基本原理：如何用Python从网络
……
[ 展开全部 ]
服务器请求信息，如何对服务器的响应进行基本处理，以及如何以自动化手段与网站进行交互。第二部分介绍如何用网络爬虫测试网站，自动化处理，以及如何通过更多的方式接入网络。
[ 收起 ]
作者：米切尔 (Ryan Mitchell)
出版社：人民邮电出版社
定价：CNY 59.00
ISBN：711541629X
给个评价
做个书摘
书摘 (21 )
评价 (1 )
查看所有书摘
按目录显示书摘
只显示目录
译者序 ix
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
前言 xi
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第一部分 创建爬虫
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第1章 初见网络爬虫 2
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
1.1 网络连接 2
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
1.2 BeautifulSoup简介 4
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
1.2.1 安装BeautifulSoup 5
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
1.2.2 运行BeautifulSoup 7
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
1.2.3 可靠的网络连接 8
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第2章 复杂HTML解析 11
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.1 不是一直都要用锤子 11
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.2 再端一碗BeautifulSoup 12
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.2.1 BeautifulSoup的find()和findAll() 13
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.2.2 其他BeautifulSoup对象 15
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.2.3 导航树 16
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.3 正则表达式 19
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.4 正则表达式和BeautifulSoup 23
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.5 获取属性 24
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.6 Lambda表达式 24
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
2.7 超越BeautifulSoup 25
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第3章 开始采集 26
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
3.1 遍历单个域名 26
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
3.2 采集整个网站 30
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
3.3 通过互联网采集 34
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
3.4 用Scrapy采集 38
上面的爬虫先进入start_urls里面的两个页面，收集信息，然后停止。虽然这个爬虫很单，但是如果你有许多URL需要采集,，Scrap这种用法会非常适合。为了让爬虫更加完善，你需要定义一些规则让 Scrap可以在每个页面查找URL链接:
from scrapy. contrib. spiders import CrawlSpider, Rule
from wikiSpider.items import Article
from scrapy.contrib.linkextractors.sgml import SgmlLinkExtractor
cLass ArticleSpider(CrawlSpider):
name="article
allowed_domains =["en. wikipedia. org"]
start_urls=["http://en.wikipedia.org/wiki/pyth
on_
%28programming_language%29"]
rules= [Rule(SgmlLinkExtractor (allow=('(/wiki/)((?!: ).)*$'),),
callback="parse_item", follow=True)]
def parse_item (self,response):
item= Article()
title= response. xpath('//h1/text()')[0]. extract()
print("Title is:"+title)
item['title']= title
return item
虽然这个爬虫和前面那个爬虫的启动命令一样,但是如果你不用Ctrl+C中止程序,它是不会停止的(很长时间也不会停止)。
无双BaOY_WHA
//
+1
0
分享
收藏
0
条评论
2018-07-13 添加
在此章节添加书摘
此章节有
2
条书摘
点击查看
第4章 使用API 42
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.1 API概述 43
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.2 API通用规则 43
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.2.1 方法 44
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.2.2 验证 44
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.3 服务器响应 45
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.4 Echo Nest 46
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.5 Twitter API 48
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.5.1 开始 48
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.5.2 几个示例 50
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.6 Google API 52
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.6.1 开始 52
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.6.2 几个示例 53
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.7 解析JSON数据 55
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.8 回到主题 56
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
4.9 再说一点API 60
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第5章 存储数据 61
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
5.1 媒体文件 61
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
5.2 把数据存储到CSV 64
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
5.3 MySQL 65
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
5.3.1 安装MySQL 66
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
5.3.2 基本命令 68
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
5.3.3 与Python整合 71
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
5.3.4 数据库技术与最佳实践 74
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
5.3.5 MySQL里的“六度空间游戏” 75
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
5.4 Email 77
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第6章 读取文档 80
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
6.1 文档编码 80
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
6.2 纯文本 81
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
6.3 CSV 85
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
6.4 PDF 87
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
6.5 微软Word和.docx 88
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第二部分 高级数据采集
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第7章 数据清洗 94
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
7.1 编写代码清洗数据 94
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
7.2 数据存储后再清洗 98
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第8章 自然语言处理 103
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
8.1 概括数据 104
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
8.2 马尔可夫模型 106
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
8.3 自然语言工具包 112
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
8.3.1 安装与设置 112
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
8.3.2 用NLTK做统计分析 113
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
8.3.3 用NLTK做词性分析 115
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
8.4 其他资源 119
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第9章 穿越网页表单与登录窗口进行采集 120
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
9.1 Python Requests库 120
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
9.2 提交一个基本表单 121
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
9.3 单选按钮、复选框和其他输入 123
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
9.4 提交文件和图像 124
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
9.5 处理登录和cookie 125
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
9.6 其他表单问题 127
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第10章 采集JavaScript 128
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
10.1 JavaScript简介 128
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
10.2 Ajax和动态HTML 131
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
10.3 处理重定向 137
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第11章 图像识别与文字处理 139
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
11.1 OCR库概述 140
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
11.1.1 Pillow 140
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
11.1.2 Tesseract 140
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
11.1.3 NumPy 141
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
11.2 处理格式规范的文字 142
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
11.3 读取验证码与训练Tesseract 146
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
11.4 获取验证码提交答案 151
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第12章 避开采集陷阱 154
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
12.1 道德规范 154
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
12.2 让网络机器人看起来像人类用户 155
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
12.2.1 修改请求头 155
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
12.2.2 处理cookie 157
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
12.2.3 时间就是一切 159
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
12.3 常见表单安全措施 159
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
12.3.1 隐含输入字段值 159
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
12.3.2 避免蜜罐 160
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
12.4 问题检查表 162
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第13章 用爬虫测试网站 164
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
13.1 测试简介 164
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
13.2 Python单元测试 165
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
13.3 Selenium单元测试 168
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
13.4 Python单元测试与Selenium单元测试的选择 172
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
第14章 远程采集 174
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
14.1 为什么要用远程服务器 174
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
14.1.1 避免IP地址被封杀 174
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
14.1.2 移植性与扩展性 175
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
14.2 Tor代理服务器 176
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
14.3 远程主机 177
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
14.3.1 从网站主机运行 178
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
14.3.2 从云主机运行 178
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
14.4 其他资源 179
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
14.5 勇往直前 180
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
附录A Python简介 181
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
附录B 互联网简介 184
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
附录C 网络数据采集的法律与道德约束 188
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
作者简介 200
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
封面介绍 200
还没有人在此章节添加过书摘，赶紧来抢第一吧！
在此章节添加书摘
导购链接
×
做书摘
文字书摘
读图识字
至少还需要输入
10
字
保存原图片为书摘
上传图片
识别
最多输入
500
个字
上传图片
重新上传
写点笔记吧
至少还需要输入
10
字
章节（选填）
译者序 ix
前言 xi
第一部分 创建爬虫
第1章 初见网络爬虫 2
1.1 网络连接 2
1.2 BeautifulSoup简介 4
1.2.1 安装BeautifulSoup 5
1.2.2 运行BeautifulSoup 7
1.2.3 可靠的网络连接 8
第2章 复杂HTML解析 11
2.1 不是一直都要用锤子 11
2.2 再端一碗BeautifulSoup 12
2.2.1 BeautifulSoup的find()和findAll() 13
2.2.2 其他BeautifulSoup对象 15
2.2.3 导航树 16
2.3 正则表达式 19
2.4 正则表达式和BeautifulSoup 23
2.5 获取属性 24
2.6 Lambda表达式 24
2.7 超越BeautifulSoup 25
第3章 开始采集 26
3.1 遍历单个域名 26
3.2 采集整个网站 30
3.3 通过互联网采集 34
3.4 用Scrapy采集 38
第4章 使用API 42
4.1 API概述 43
4.2 API通用规则 43
4.2.1 方法 44
4.2.2 验证 44
4.3 服务器响应 45
4.4 Echo Nest 46
4.5 Twitter API 48
4.5.1 开始 48
4.5.2 几个示例 50
4.6 Google API 52
4.6.1 开始 52
4.6.2 几个示例 53
4.7 解析JSON数据 55
4.8 回到主题 56
4.9 再说一点API 60
第5章 存储数据 61
5.1 媒体文件 61
5.2 把数据存储到CSV 64
5.3 MySQL 65
5.3.1 安装MySQL 66
5.3.2 基本命令 68
5.3.3 与Python整合 71
5.3.4 数据库技术与最佳实践 74
5.3.5 MySQL里的“六度空间游戏” 75
5.4 Email 77
第6章 读取文档 80
6.1 文档编码 80
6.2 纯文本 81
6.3 CSV 85
6.4 PDF 87
6.5 微软Word和.docx 88
第二部分 高级数据采集
第7章 数据清洗 94
7.1 编写代码清洗数据 94
7.2 数据存储后再清洗 98
第8章 自然语言处理 103
8.1 概括数据 104
8.2 马尔可夫模型 106
8.3 自然语言工具包 112
8.3.1 安装与设置 112
8.3.2 用NLTK做统计分析 113
8.3.3 用NLTK做词性分析 115
8.4 其他资源 119
第9章 穿越网页表单与登录窗口进行采集 120
9.1 Python Requests库 120
9.2 提交一个基本表单 121
9.3 单选按钮、复选框和其他输入 123
9.4 提交文件和图像 124
9.5 处理登录和cookie 125
9.6 其他表单问题 127
第10章 采集JavaScript 128
10.1 JavaScript简介 128
10.2 Ajax和动态HTML 131
10.3 处理重定向 137
第11章 图像识别与文字处理 139
11.1 OCR库概述 140
11.1.1 Pillow 140
11.1.2 Tesseract 140
11.1.3 NumPy 141
11.2 处理格式规范的文字 142
11.3 读取验证码与训练Tesseract 146
11.4 获取验证码提交答案 151
第12章 避开采集陷阱 154
12.1 道德规范 154
12.2 让网络机器人看起来像人类用户 155
12.2.1 修改请求头 155
12.2.2 处理cookie 157
12.2.3 时间就是一切 159
12.3 常见表单安全措施 159
12.3.1 隐含输入字段值 159
12.3.2 避免蜜罐 160
12.4 问题检查表 162
第13章 用爬虫测试网站 164
13.1 测试简介 164
13.2 Python单元测试 165
13.3 Selenium单元测试 168
13.4 Python单元测试与Selenium单元测试的选择 172
第14章 远程采集 174
14.1 为什么要用远程服务器 174
14.1.1 避免IP地址被封杀 174
14.1.2 移植性与扩展性 175
14.2 Tor代理服务器 176
14.3 远程主机 177
14.3.1 从网站主机运行 178
14.3.2 从云主机运行 178
14.4 其他资源 179
14.5 勇往直前 180
附录A Python简介 181
附录B 互联网简介 184
附录C 网络数据采集的法律与道德约束 188
作者简介 200
封面介绍 200
页码（选填）
这本书已经添加了这些章节，请勾选或者新建你的书摘所属的章节
add
up
down
remove
译者序 ix
前言 xi
第一部分 创建爬虫
第1章 初见网络爬虫 2
1.1 网络连接 2
1.2 BeautifulSoup简介 4
1.2.1 安装BeautifulSoup 5
1.2.2 运行BeautifulSoup 7
1.2.3 可靠的网络连接 8
第2章 复杂HTML解析 11
2.1 不是一直都要用锤子 11
2.2 再端一碗BeautifulSoup 12
2.2.1 BeautifulSoup的find()和findAll() 13
2.2.2 其他BeautifulSoup对象 15
2.2.3 导航树 16
2.3 正则表达式 19
2.4 正则表达式和BeautifulSoup 23
2.5 获取属性 24
2.6 Lambda表达式 24
2.7 超越BeautifulSoup 25
第3章 开始采集 26
3.1 遍历单个域名 26
3.2 采集整个网站 30
3.3 通过互联网采集 34
3.4 用Scrapy采集 38
第4章 使用API 42
4.1 API概述 43
4.2 API通用规则 43
4.2.1 方法 44
4.2.2 验证 44
4.3 服务器响应 45
4.4 Echo Nest 46
4.5 Twitter API 48
4.5.1 开始 48
4.5.2 几个示例 50
4.6 Google API 52
4.6.1 开始 52
4.6.2 几个示例 53
4.7 解析JSON数据 55
4.8 回到主题 56
4.9 再说一点API 60
第5章 存储数据 61
5.1 媒体文件 61
5.2 把数据存储到CSV 64
5.3 MySQL 65
5.3.1 安装MySQL 66
5.3.2 基本命令 68
5.3.3 与Python整合 71
5.3.4 数据库技术与最佳实践 74
5.3.5 MySQL里的“六度空间游戏” 75
5.4 Email 77
第6章 读取文档 80
6.1 文档编码 80
6.2 纯文本 81
6.3 CSV 85
6.4 PDF 87
6.5 微软Word和.docx 88
第二部分 高级数据采集
第7章 数据清洗 94
7.1 编写代码清洗数据 94
7.2 数据存储后再清洗 98
第8章 自然语言处理 103
8.1 概括数据 104
8.2 马尔可夫模型 106
8.3 自然语言工具包 112
8.3.1 安装与设置 112
8.3.2 用NLTK做统计分析 113
8.3.3 用NLTK做词性分析 115
8.4 其他资源 119
第9章 穿越网页表单与登录窗口进行采集 120
9.1 Python Requests库 120
9.2 提交一个基本表单 121
9.3 单选按钮、复选框和其他输入 123
9.4 提交文件和图像 124
9.5 处理登录和cookie 125
9.6 其他表单问题 127
第10章 采集JavaScript 128
10.1 JavaScript简介 128
10.2 Ajax和动态HTML 131
10.3 处理重定向 137
第11章 图像识别与文字处理 139
11.1 OCR库概述 140
11.1.1 Pillow 140
11.1.2 Tesseract 140
11.1.3 NumPy 141
11.2 处理格式规范的文字 142
11.3 读取验证码与训练Tesseract 146
11.4 获取验证码提交答案 151
第12章 避开采集陷阱 154
12.1 道德规范 154
12.2 让网络机器人看起来像人类用户 155
12.2.1 修改请求头 155
12.2.2 处理cookie 157
12.2.3 时间就是一切 159
12.3 常见表单安全措施 159
12.3.1 隐含输入字段值 159
12.3.2 避免蜜罐 160
12.4 问题检查表 162
第13章 用爬虫测试网站 164
13.1 测试简介 164
13.2 Python单元测试 165
13.3 Selenium单元测试 168
13.4 Python单元测试与Selenium单元测试的选择 172
第14章 远程采集 174
14.1 为什么要用远程服务器 174
14.1.1 避免IP地址被封杀 174
14.1.2 移植性与扩展性 175
14.2 Tor代理服务器 176
14.3 远程主机 177
14.3.1 从网站主机运行 178
14.3.2 从云主机运行 178
14.4 其他资源 179
14.5 勇往直前 180
附录A Python简介 181
附录B 互联网简介 184
附录C 网络数据采集的法律与道德约束 188
作者简介 200
封面介绍 200
×
添加一个书摘本
搜索创建书摘本
搜索
正在搜索...
不对，换一下
书名
作者
出版社
备注
ISBN
*
*
译者序 ix
前言 xi
第一部分 创建爬虫
第1章 初见网络爬虫 2
1.1 网络连接 2
1.2 BeautifulSoup简介 4
1.2.1 安装BeautifulSoup 5
1.2.2 运行BeautifulSoup 7
1.2.3 可靠的网络连接 8
第2章 复杂HTML解析 11
2.1 不是一直都要用锤子 11
2.2 再端一碗BeautifulSoup 12
2.2.1 BeautifulSoup的find()和findAll() 13
2.2.2 其他BeautifulSoup对象 15
2.2.3 导航树 16
2.3 正则表达式 19
2.4 正则表达式和BeautifulSoup 23
2.5 获取属性 24
2.6 Lambda表达式 24
2.7 超越BeautifulSoup 25
第3章 开始采集 26
3.1 遍历单个域名 26
3.2 采集整个网站 30
3.3 通过互联网采集 34
3.4 用Scrapy采集 38
from scrapy. contrib. spiders import CrawlSpider, Rule
from wikiSpider.items import Article
from scrapy.contrib.linkextractors.sgml import SgmlLinkExtractor
cLass ArticleSpider(CrawlSpider):
name="article
allowed_domains =["en. wikipedia. org"]
start_urls=["http://en.wikipedia.org/wiki/pyth
on_
%28programming_language%29"]
rules= [Rule(SgmlLinkExtractor (allow=('(/wiki/)((?!: ).)*$'),),
callback="parse_item", follow=True)]
def parse_item (self,response):
item= Article()
title= response. xpath('//h1/text()')[0]. extract()
print("Title is:"+title)
item['title']= title
return item
虽然这个爬虫和前面那个爬虫的启动命令一样,但是如果你不用Ctrl+C中止程序,它是不会停止的(很长时间也不会停止)。
第4章 使用API 42
4.1 API概述 43
4.2 API通用规则 43
4.2.1 方法 44
4.2.2 验证 44
4.3 服务器响应 45
4.4 Echo Nest 46
4.5 Twitter API 48
4.5.1 开始 48
4.5.2 几个示例 50
4.6 Google API 52
4.6.1 开始 52
4.6.2 几个示例 53
4.7 解析JSON数据 55
4.8 回到主题 56
4.9 再说一点API 60
第5章 存储数据 61
5.1 媒体文件 61
5.2 把数据存储到CSV 64
5.3 MySQL 65
5.3.1 安装MySQL 66
5.3.2 基本命令 68
5.3.3 与Python整合 71
5.3.4 数据库技术与最佳实践 74
5.3.5 MySQL里的“六度空间游戏” 75
5.4 Email 77
第6章 读取文档 80
6.1 文档编码 80
6.2 纯文本 81
6.3 CSV 85
6.4 PDF 87
6.5 微软Word和.docx 88
第二部分 高级数据采集
第7章 数据清洗 94
7.1 编写代码清洗数据 94
7.2 数据存储后再清洗 98
第8章 自然语言处理 103
8.1 概括数据 104
8.2 马尔可夫模型 106
8.3 自然语言工具包 112
8.3.1 安装与设置 112
8.3.2 用NLTK做统计分析 113
8.3.3 用NLTK做词性分析 115
8.4 其他资源 119
第9章 穿越网页表单与登录窗口进行采集 120
9.1 Python Requests库 120
9.2 提交一个基本表单 121
9.3 单选按钮、复选框和其他输入 123
9.4 提交文件和图像 124
9.5 处理登录和cookie 125
9.6 其他表单问题 127
第10章 采集JavaScript 128
10.1 JavaScript简介 128
10.2 Ajax和动态HTML 131
10.3 处理重定向 137
第11章 图像识别与文字处理 139
11.1 OCR库概述 140
11.1.1 Pillow 140
11.1.2 Tesseract 140
11.1.3 NumPy 141
11.2 处理格式规范的文字 142
11.3 读取验证码与训练Tesseract 146
11.4 获取验证码提交答案 151
第12章 避开采集陷阱 154
12.1 道德规范 154
12.2 让网络机器人看起来像人类用户 155
12.2.1 修改请求头 155
12.2.2 处理cookie 157
12.2.3 时间就是一切 159
12.3 常见表单安全措施 159
12.3.1 隐含输入字段值 159
12.3.2 避免蜜罐 160
12.4 问题检查表 162
第13章 用爬虫测试网站 164
13.1 测试简介 164
13.2 Python单元测试 165
13.3 Selenium单元测试 168
13.4 Python单元测试与Selenium单元测试的选择 172
第14章 远程采集 174
14.1 为什么要用远程服务器 174
14.1.1 避免IP地址被封杀 174
14.1.2 移植性与扩展性 175
14.2 Tor代理服务器 176
14.3 远程主机 177
14.3.1 从网站主机运行 178
14.3.2 从云主机运行 178
14.4 其他资源 179
14.5 勇往直前 180
附录A Python简介 181
附录B 互联网简介 184
附录C 网络数据采集的法律与道德约束 188
作者简介 200
封面介绍 200