API数据提取

爬虫或自动化测试中经常使用应用编程接口(application programming interface,API)提供的服务来获取数据。API为不同的应用提供了方便友好的接口。不同的开发者用不同的架构,甚至不同的语言编写软件都没问题——因为API 设计的目的就是要成为一种通用语言,让不同的软件进行信息共享。

API也是通过requests请求和服务器端的response来完成API的一次调用的。API通常返回的是JSON(JavaScript  Object  Notation,JavaScript 对象表示)或XML(eXtensible  Markup Language ,可扩展标记语言)格式的数据,而不是HTML数据。

在网络数据采集中,可以结合API和普通网页爬虫获取更好的信息。

API通用规则

API利用HTTP 从网络服务获取信息有四种方式:

•  GET

•  POST

•  PUT

•  DELETE

GET 就是你在浏览器中输入网址浏览网站所做的事情;POST基本就是当你填写表单或提交信息到网络服务器的后端程序时所做的事情;PUT 在网站交互过程中不常用,但是在API 里面有时会用到;PUT 请求用来更新一个对象或信息。其实,很多API 在更新信息的时候都是用POST请求代替PUT 请求。究竟是创建一个新实体还是更新一个旧实体,通常要看API 请求本身是如何构建的。不过,掌握两者的差异还是有好处的,用 API的时候你经常会遇到PUT 请求;DELETE用于删除一个对象。例如,如果我们向http://myapi.com/user/23发出一个DELETE请求,就会删除ID号是23的用户。DELETE方法在公共API 里面不常用,它们主要用于创建信息,不能随便让一个用户去删掉数据库的信息。

在请求验证方面,有些API 不需要验证操作(就是说任何人都可以使用API,不需要注册)。有些API 要求客户验证是为了计算API 调用的费用,或者是提供了包月的服务。有些验证是为了“限制”用户使用API(限制每秒钟、每小时或每天API 调用的次数),或者是限制一部分用户对某种信息或某类API 的访问。

通常API 验证的方法都是用类似令牌(token)的方式调用,每次API 调用都会把令牌传递到服务器上。这种令牌要么是用户注册的时候分配给用户,要么就是在用户调用的时候

才提供,可能是长期固定的值,也可能是频繁变化的,通过服务器对用户名和密码的组合处理后生成。令牌除了在URL链接中传递,还会通过请求头里的cookie 把用户信息传递给服务器。

在服务器响应方面,API 有一个重要的特征是它们会反馈格式友好的数据。大多数反馈的数据格式都是XML和JSON 。这几年,JSON 比XML更受欢迎,主要有两个原因。首先,JSON 文件比完整的XML格式小。如

如下面的XML数据用了98个字符:

<user><firstname>Ryan</firstname><lastname>Mitchell</lastname><username>Kludgist

</username></user>

同样的JSON 格式数据:

{"user":{"firstname":"Ryan","lastname":"Mitchell","username":"Kludgist"}}

只要用73个字符,比表述同样内容的XML文件要小36% 。

JSON 格式比XML更受欢迎的另一个原因是网络技术的改变。过去,服务器端用PHP

和.NET 这些程序作为API 的接收端。现在,服务器端也会用一些JavaScript 框架作为API

的发送和接收端,像Angular或Backbone 等。虽然服务器端的技术无法预测它们即将收到

的数据格式,但是像Backbone 之类的JavaScript 库处理JSON 比处理XML要更简单。

解析JSON数据

调用API,多数服务器会返回JSON格式的数据。Python中通过json库的loads()函数可以把json格式的字符串转换为python对象。

如获取地理位置信息的百度地图API请求响应

>>> import requests

>>> import json

>>>

>>> par={'address':'北京','key':'cb649a25c1f81c1451adbeca73623251'}

>>>

>>> r=requests.get('http://restapi.amap.com/v3/geocode/geo',par)

>>> r.text

'{"status":"1","info":"OK","infocode":"10000","count":"1","geocodes":[{"formatted_address":"北京市","country":"中国","province":"北京市","citycode":"010","city":"北京市","district":[],"township":[],"neighborhood":{"name":[],"type":[]},"building":{"name":[],"type":[]},"adcode":"110000","street":[],"number":[],"location":"116.407526,39.904030","level":"省"}]}'

>>>

>>> json_data=json.loads(r.text)        #转换为python对象

>>> json_data

{'status': '1', 'info': 'OK', 'infocode': '10000', 'count': '1', 'geocodes': [{'formatted_address': '北京市', 'country': '中国', 'province': '北京市', 'citycode': '010', 'city': '北京市', 'district': [], 'township': [], 'neighborhood': {'name': [], 'type': []}, 'building': {'name': [], 'type': []}, 'adcode': '110000', 'street': [], 'number': [], 'location': '116.407526,39.904030', 'level': '省'}]}

>>>

取北京市的经纬度如下

>>> json_data['geocodes'][0]['location']

'116.407526,39.904030'

>>>

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,530评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 86,403评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,120评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,770评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,758评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,649评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,021评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,675评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,931评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,659评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,751评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,410评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,004评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,969评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,203评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,042评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,493评论 2 343