学习 北京理工大学 嵩天 课程笔记 

课程体系结构：

　　1、Requests框架：自动爬取HTML页面与自动网络请求提交
　　2、robots.txt:网络爬虫排除标准
　　3、BeautifulSoup框架：解析HTML页面
　　4、Re框架：正则框架，提取页面关键信息
　　5、Scrapy框架：网络爬虫原理介绍，专业爬虫框架介绍

　　理念：The Website is the API ...

Python语言常用的IDE工具

　　文本工具类IDE：
　　　　IDLE、Notepad++、Sublime Text、Vim & Emacs、Atom、Komodo Edit

　　集成工具IDE：
　　　　PyCharm、Wing、PyDev & Eclipse、Visual Studio、Anaconda & Spyder、Canopy

　　·IDLE是Python自带的默认的常用的入门级编写工具，它包含交互式文件式两种方式。适用于较短的程序。
　　·Sublime Text是专为程序员开发的第三方专用编程工具，可以提高编程体验，具有多种编程风格。
　　·Wing是Wingware公司提供的收费IDE，调试功能丰富，具有版本控制，版本同步功能，适合于多人共同开发。适用于编写大型程序。
　　·Visual Studio是微软公司维护的，可以通过配置PTVS编写Python，主要以Windows环境为主，调试功能丰富。
　　·Eclipse是一款开源的IDE开发工具，可以通过配置PyDev来编写Python，但是配置过程复杂，需要有一定的开发经验。
　　·PyCharm分为社区版和专业版，社区版免费，具有简单、集成度高的特点，适用于编写较复杂的工程。

　　适用于科学计算、数据分析的IDE：
　　·Canopy是由Enthought公司维护的收费工具，支持近500个第三方库，适合科学计算领域应用开发。
　　·Anaconda是开源免费的，支持近800个第三方库。

Requests库入门

Requests的安装：

　　Requests库是目前公认的爬取网页最好的Python第三方库，具有简单、简捷的特点。

　　官方网站：http://www.python-requests.org

　　在"C:\Windows\System32"中找到"cmd.exe"，使用管理员身份运行，在命令行中输入：“pip install requests”运行。

　　使用IDLE测试Requests库：

>>> import requests
>>> r = requests.get("http://www.baidu.com")#抓取百度页面
>>> r.status_code
200
>>> r.encoding = 'utf-8'
>>> r.text

 

Requests库的7个主要方法

方法	说明
requests.request()	构造一个请求，支撑以下各方法的基础方法
requests.get()	获取HTML网页的主要方法，对应于HTTP的GET
requests.head()	获取HTML网页头信息的方法，对应于HTTP的HEAD
requests.post()	向HTML网页提交POST请求的方法，对应于HTTP的POST
requests.put()	向HTML网页提交PUT请求的方法，对应于HTTP的PUT
requests.patch()	向HTML网页提交局部修改请求，对应于HTTP的PATCH
requests.delete()	向HTML页面提交删除请求，对应于HTTP的DELET

详细信息参考 Requests库 API文档：http://www.python-requests.org/en/master/api/

　　get()方法
　　　　r = requests.get(url)

　　　　　　get()方法构造一个向服务器请求资源的Request对象，返回一个包含服务器资源的Response对象。

　　　　requests.get(url, params=None, **kwargs)

　　　　　　url：拟获取页面的url链接

　　　　　　params：url中的额外参数，字典或字节流格式，可选

　　　　　　**kwargs：12个控制访问参数

Requests库的2个重要对象
　　　· Request

　　　· Response:Response对象包含爬虫返回的内容

Response对象的属性

　　r.status_code ：HTTP请求的返回状态，200表示连接成功，404表示失败

　　r.text ：HTTP响应内容的字符串形式，即，url对应的页面内容

　　r.encoding ： 从HTTP header中猜测的相应内容编码方式　

　　r.apparent_encoding ： 从内容中分析出的相应内容编码方式（备选编码方式）

　　r.content ： HTTP响应内容的二进制形式

　　r.encoding ：如果header中不存在charset，则认为编码为ISO-8859-1 。

　　r.apparent_encoding ：根据网页内容分析出的编码方式可以 看作是r.encoding的备选。

 

Response的编码：

　　r.encoding : 从HTTP header中猜测的响应内容的编码方式；如果header中不存在charset，则认为编码为ISO-8859-1，r.text根据r.encoding显示网页内容
　　r.apparent_encoding : 根据网页内容分析出的编码方式，可以看作r.encoding的备选

 

爬取网页的通用代码框架

Requests库的异常

异常	说明
requests.ConnectionError	网络连接错误异常，如DNS查询失败拒绝连接等
requests.HTTPError	HTTP错误异常
requests.URLRequired	URL缺失异常
requests.ToolManyRedirects	超过最大重定向次数，产生重定向异常
requests.ConnectTimeout	连接远程服务器超时异常
requests.Timeout	请求URL超时，尝试超时异常

 

Response的异常

　　r.raise_for_status() : 如果不是200，产生异常requests.HTTPError；

　　在方法内部判断r.status_code是否等于200，不需要增加额外的if语句，该语句便于利用try-except进行异常处理

 

import requests

def getHTMLText(url):
　　try:
　　　　r = requests.get(url, timeout=30)
　　　　r.raise_for_status()    # 如果状态不是200，引发HTTPError异常
　　　　r.encodi