HTTP和HTTPS

• HTTP(HyperText Transfer Protocol，超文本传输协议)：是一种发布和接收HTML页面的方法
• HTTPS(HyperText Transfer Protocol over Secure Socket Layer)简单讲是HTTP的安全版，在HTTP下加入SSL层。
• SSL(Secure Socket Layer安全套接层)主要用于web的安全传输协议，在传输层对网络连接进行加密，保障在Internet上数据传输的安全。
• HTTP的端口号为80，HTTPS的端口号为443

HTTP工作原理

网络爬虫抓取过程可以理解为 模拟浏览器操作的过程
浏览器的主要功能是向服务器发出请求，在浏览器窗口中展示您选择的网络资源，HTTP是一套计算机通过网络进行通信的规则。

HTTP的请求和响应

HTTP通信由两部分组成：客户端请求消息和服务器响应消息

image.png

浏览器发送HTTP请求的过程

• 1 当用户在浏览器的地址栏中输入一个URL按回车键后，浏览器会想HTTP服务器发送HTTP请求。HTTP请求主要分为“GET”和“POST”两种方法。
• 2 当我们在浏览器中输入URL http://www.baidu.com的时候，浏览器发送一个Request请求去获取http://www.baidu.com的html文件，服务器把Response文件对象发送回浏览器。
• 3 浏览器分析Response的HTML，发现其中引用了很多其他文件，比如Images文件、CSS文件、JS文件。浏览器会自动再次发送Response去获取图片，CSS文件，或者JS文件。
• 4 当所有的文件都下载成功后，网页会根据HTML语法结构，完整的显示出来了。

URL

URL(Uniform/Universal Resource Locator的缩写)：统一资源定位符，是用于完整地描述Internet上网页和其他资源的地址的一种标识方法。

image.png

image.png

scheme：协议(例如：http、https、ftp)
host：服务器的IP地址或者域名
port#：服务器的端口(如果是走协议默认端口，缺省端口80)
path：访问资源的路径
query-string：参数，发送给http服务器的数据
anchor：锚(跳转到网页的指定锚点位置)

例如:

• ftp://192.168.0.116:8080/index
• http://www.baidu.com
• http://item.jd.com/11936238.html#product-detail

客户端HTTP请求

URL只是标识资源的位置，而HTTP是用来提交和获取资源。客户端发送一个HTTP请求到服务器的请求消息，包括以下格式：
请求行、请求头部、空行、请求数据
四个部分组成，下图给出了请求报文的一般格式：

image.png

GET https://www.baidu.com/ HTTP/1.1
Host: www.baidu.com
Connection: keep-alive
Upgrade-Insecure-Requests: 1
User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8
Referer: http://www.baidu.com/
Accept-Encoding: gzip, deflate, sdch, br
Accept-Language: zh-CN,zh;q=0.8,en;q=0.6
Cookie: BAIDUID=04E4001F34EA74AD4601512DD3C41A7B:FG=1; BIDUPSID=04E4001F34EA74AD4601512DD3C41A7B; PSTM=1470329258; MCITY=-343%3A340%3A; BDUSS=nF0MVFiMTVLcUh-Q2MxQ0M3STZGQUZ4N2hBa1FFRkIzUDI3QlBCZjg5cFdOd1pZQVFBQUFBJCQAAAAAAAAAAAEAAADpLvgG0KGyvLrcyfrG-AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAFaq3ldWqt5XN; H_PS_PSSID=1447_18240_21105_21386_21454_21409_21554; BD_UPN=12314753; sug=3; sugstore=0; ORIGIN=0; bdime=0; H_PS_645EC=7e2ad3QHl181NSPbFbd7PRUCE1LlufzxrcFmwYin0E6b%2BW8bbTMKHZbDP0g; BDSVRTM=0

请求方法

GET https://www.baidu.com/ HTTP/1.1

HTTP请求主要分为GET和POST两种方法

• GET是从服务器上获取数据，POST是向服务器传送数据
• GET请求参数显示在浏览器网址上，HTTP服务器根据该请求所包含URL中的参数来产生响应内容，即"Get"请求的参数是URL的一部分。例如:http://www.baidu.com/s?wd=Chinese,而且GET请求的大小有限制，因为URL不能太长。
• POST请求参数在请求体中，消息长度没有限制而且以隐式的方式进行发送，通常用来向HTTP服务器提交量比较大的数据(比如请求体中包含许多参数或者文件上床操作等)，请求的参数包含在"Content-Type"消息头里，指明该消息体的媒体类型和编码。

常用的请求头（header）

1、Host(主机和端口号)
Host：对应网址URL中的web名称和端口号，用于指定被请求资源的Internet主机和端口号，通常属于URL的一部分。
2、Connection(链接类型)
Connection：表示客户端与服务器连接类型

• Client发起一个包含 Connection: key-alive的请求， HTTP/1.1使用 keep-alive为默认值。
• Server收到请求后：如果Server支持keep-alive，回复一个包含Connection：keep-alive的响应，不关闭连接，如果Server不支持keep-alive，回复一个包含Connection：close的响应，关闭连接。
• 如果client收到包含Connection:keep-alive的响应，向同一个连接发送下一个请求，直到乙方主动关闭连接。
• keep-alive在很多情况下能够重用连接，减少资源消耗，缩短响应时间，比如当浏览器器需要多个文件时(比如一个HTML文件和相关的图形文件)，不需要每次都去请求建立连接。

3、Upgrade-Insecure-Request(升级为HTTPS请求)

• Upgrade-Insecure-Requests：升级不安全的的请求，意思是会在加载http资源时自动替换成成https请求，让浏览器不再显示https页面中的http请求警报。
• HTTPS是以安全为目标的HTTP通道，所以在HTTPS承载的页面上不允许出现HTTP请求，一旦出现就是提示或报警。

4、User-Agent(浏览器名称)

• User-Agent：是客户端浏览器的名称。

5、Accept(传输文件类型)

• Accept：指浏览器或其他客户端可以接收的MIME(Multipurpose Internet Mail Extensions(多用途互联网邮件扩展))文件类型，服务器可以根据它判断并返回适当的文件格式。

• 举例：
  Accept: */*：表示什么都可以接收。
  Accept: image/gif：表明客户端希望接受GIF图像格式的资源。
  Accept: text/html：表明客户端希望接受html文本。
  Accept: text/html, application/xhtml+xml;q=0.9, image/*;q=0.8：表示浏览器支持的MIME类型分别是html文本、xhtml和xml文档、所有的图像格式资源。

• q是权重系数，范围0<= q <= 1，q值越大，请求越倾向于获得其";"之前的类型表示的内容。若没有指定q值，则默认为1，按从左到右排序顺序；若被赋值为0，则用于表示浏览器不接受此内容类型。

• Text：用于标准化地表示的文本信息，文本消息可以是多种字符集或者多种格式；Application：用于传输应用程序数据或者二级制数据。详情请点击

6、Referer(页面跳转处)

• Referer:表明产生请求的网页来自于哪个URL，用户是从该Referer页面访问当当前请求的页面。这个属性可以用来跟踪WEB请求来自哪个页面，是从什么网站来的。

• 有时候遇到下载某网站图片，需要对应的Referer,否则无法下载图片，那是因为人家做了防盗链，原理就是根据referer去判断是否是本网站的地址，如果不是，则拒绝，如果是，就可以下载；

7、Accept-Encoding(文件编码格式)

• Accept-Encoding：指出浏览器可以接收的编码方式。编码方式不同于文件格式，它是为了压缩文件并加速文件传输速度。浏览器在接收到WEB端相应之后编码，然后再检查文件格式，许多情形下还可以减少大量的下载时间。
• 举例： Accept-Encoding:gzip;q=1.0,identity;q=0.5,*;q=0
• 如果有多个Encoding同时匹配，按照q值顺序排列，本例中按顺序支持gzip,identity压缩编码，支持gzip的浏览器会返回经过gzip编码的HTML页面。如果请求消息中没有设置这个域服务器假定客户端对各种内容编码都可以接收。

8、Accept-Language(语言种类)

• Accept-Language：指出浏览器可以接受的语言种类，如en或en-us指英语，zh或者zh-cn指中文，当服务器能够提供一种以上的语言版本时要用到。

9、Accept-Charset(字符编码)

• Accept-Charset：指出浏览器可以接收的字符编码

• 举例：Accept-Charset:sio-8859-1,gb2312,utf-8

• ISO8859-1：通常叫做Latin-1。Latin-1包括了书写所有西方欧洲语言不可缺少的附加字符，英文浏览器的默认值是ISO-8859-1。

• gb2312：标准简体中文字符集；

• UTF-8：UNICODE的一种边长字符编码，可以解决多种语言文本显示问题，从而实现应用国际化和本地化。

• 如果在请求消息中没有设置这个域，缺省是任何字符集都可以接受。

10、Cookie(Cookie)

• Cookie：浏览器用这个属性向服务器发送Cookie。Cookie实在浏览器中寄存的小型数据体，它可以记载和服务器相关的用户信息，也可以用来实现会话功能，以后会详细讲。

11、Content-Type(POST数据类型)

• Content-Type(POST数据类型)
• 举例：Content-Type=Text/XML;charset=gb2312;
• 指明该请求的消息体中包含的是纯文本的XML类型的数据，字符编码采用"gb2312"

服务端HTTP响应

• HTTP响应也由四个部分，分别是：状态行、消息报头、空行、响应正文

  
  
  image.png

HTTP/1.1 200 OK
Server: Tengine
Connection: keep-alive
Date: Wed, 30 Nov 2016 07:58:21 GMT
Cache-Control: no-cache
Content-Type: text/html;charset=UTF-8
Keep-Alive: timeout=20
Vary: Accept-Encoding
Pragma: no-cache
X-NWS-LOG-UUID: bd27210a-24e5-4740-8f6c-25dbafa9c395
Content-Length: 180945

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" ....

常用的响应报头(了解)

1.Cache-Control：must-revalidate, no-cache, private

• 这个值告诉客户端，服务端不希望客户端缓存资源，在下次请求资源时，必须要重新请求服务器，不能从缓存副本中获取资源。

• Cache-Control是响应头中很重要的信息，当客户端请求头中包含Cache-Control：max-age=0请求，明确表示不会缓存服务器资源时，Cache-Control作为回应响应，通常会返回no-cache，意思是说，“那就不缓存呗”。

• 当客户端在请求头中没有包含Cache-Control时，服务端往往会根据不同的资源确定不同的缓存忽略，比如说oschina在缓存图片资源的策略就是Cache-Control:max-age=86400,这个意思是，从当前时间开始，在86400秒的时间内，客户端可以直接从缓存副本中读取资源，而不需要向服务器请求。

2.Connection:keep-alive

• 这个字段作为回应客户端的Connection:keep-alive，告诉客户端服务器的tcp连接也是一个长连接，客户端可以继续使用这个tcp连接发送http请求。

3.Content-Encoding:gzip

• 告诉客户端，服务器发送的资源是采用gzip编码的，客户端看到这个信息后，应该采用gzip对资源进行解码。

4.Content-Type:text/html;charset=UTF-8

• 告诉客户端，资源文件的类型，还有字符编码，客户端通过utf-8对资源进行解码，然后对资源进行html解析。通常我们会看到有些网站是乱码的，往往就是服务器端没有返回正确的编码。

5.Date: Sun, 21 Sep 2016 06:18:21 GMT

• 这个就是服务端发送资源的服务器时间，GMT是格林尼治所在地的标准时间。http协议中发送的时间都是GMT，这主要是解决在互联网上，不同时区在相互请求资源的时候，时间混乱问题。

6.Expires:Sun, 1 Jan 2000 01:00:00 GMT

• 这个响应头也是缓存有关的，告诉客户端在这个时间前，可以直接访问缓存副本，很显然这个值会存在问题，因为客户端和服务器的时间不一定会相应，如果时间不同就会导致问题。所以这个响应头是没有Cache-Control：max-age=*这个响应头准确的，因为max-age=date中的date是相应时间，不仅更好理解，也更准确。

7.Pragma:no-cache

• 这个含义与Cache-Control等同。

8.Server:Tengine/1.4.6

• 这个是服务器和相应版本，只是告诉客户端服务器的信息。

9.Transfer-Encoding: chunked

• 这个响应头告诉客户端，服务器发送的资源的方式是分块发送的。一般分块发送的资源都是服务器动态生成的，在发送时还不知道发送资源的大小，所以采用分块发送，每一块都是独立的，独立的块都能表示自己的长度，最后一块是0长度的，当客户端读到这个0长度的块时，就可以确定资源已经传输完了。

10.Vary:Accept-Encoding

• 告诉缓存服务器，缓存压缩文件和非压缩文件两个版本，现在这个字段用处并不大，因为现在的浏览器都是支持压缩的。

转http://www.cnblogs.com/miqi1992/p/7828886.html

打一遍加深记忆 - -