HTTP 之 curl和elinks工具介绍

1  概述

curl是基于URL语法在命令行方式下工作的文件传输工具,字符命令,可以用于脚本,它支持FTP,FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT, FILE及LDAP等协议。curl支持HTTPS认证,并且支持HTTP的POST、PUT等方法,FTP上传,kerberos认证,HTTP上传,代理服务器,cookies,用户名/密码认证,下载文件断点续传,上载文件断点续传, http代理服务器管道(proxy tunneling),还支持IPv6,socks5代理服务器,通过http代理服务器上传文件到FTP服务器等,功能十分强大

elinks用于获取页面的信息

本文将介绍着两个工具的使用

2  curl 工具

安装服务包yum -y install curl

curl格式

curl  [options]  [URL...]

curl工具常用选项(options)介绍如下:

-A/--user-agent设置用户代理发送给服务器

-A可以指定发起请求用什么用户来发起,例子curl-A "IE11"www.baidu.com,表示是用IE11这个浏览器发起的请求

-e/--referer 来源网址,-e可以用来伪造来源地址,例子curl -e www.ghbsunny.comhttp://172.18.50.75,此时www.ghbsunny.com是不存在,但是在服务器端的log可以看到访问的来源是www.ghbsunny.com

--cacert CA证书(SSL)

-k/--insecure允许忽略证书进行SSL连接

- -compressed要求返回是压缩的格式,用这个命令,需要网站也要支持压缩,才能进行压缩

-H/--header自定义首部信息传递给服务器,例子:curl

-H "host: www.sunny.com" http://172.18.50.75,构造一个首部是www.sunny.com发给服务器

-i显示页面内容,包括报文首部信息

-I/--head只显示响应报文首部信息

-D/--dump-header将url的header信息存放在指定文件中,相当于是重定向,将结果首部信息保存在指定的文件里。例子:curl -D headfilehttp://172.18.50.75得到的结果是屏幕显示了http://172.18.50.75网页的信息,同时,将头部内容保存在当前目录下的headfile这个文件里

--limit-rate 设置传输速度,单位是字节,1024为字节

一般用于获取大文件中,访问量大的时候要适当限速,默认单位是bytes/second,可以添加单位,例子curl --limit-rate 1khttp://172.18.50.75,表示以每秒1k的速度下载http://172.18.50.75网页的信息

--basic使用HTTP基本认证

-u/--user 设置服务器的用户和密码,结合--basic选项,例子:curl --basic -uhttp:Pass123456http://172.18.50.63/basic/表示要获取http://172.18.50.63/basic/这个资源,需要通过basic认证,用户名:密码为http:Pass123456

-L进行强制重定向,如果有3xx响应码,重新发请求到新位置,将跳转后的页面下载下来,例子:curl -L--basic -u http:Pass1234http://172.18.50.63/basic当basic后面没有加横杆,此时没有-L的选项是,会返回301的code,当加上-L选项后,会自动跳转获取正确的资源

-o将网络文件保存为指定的文件中,例子,curl--limit-rate 20 -o fs3.loghttp://172.18.50.75/fshttp://172.18.50.75的文件fs下载到本地,保存到当前目录下文件为f3.log,且限制限制速度是20byte/s

-O使用URL中默认的文件名保存文件到本地,不需要重新命名下载的文件的名字,默认以源文件的名字命名,这里是大写字母O

-0/--http1.0使用HTTP 1.0这里是数字0

-C -选项可对文件使用断点续传功能,下载大文件的时候用的

-c/--cookie-jar将url中cookie存放在指定文件中,例子:curl -c baiducookiewww.baidu.com,表示获取www.baidu.com的cookie,并保存到本地目录,命名为baiducookie

-x/--proxy指定代理服务器地址

-X/--request向服务器发送指定请求方法

-U/--proxy-user代理服务器用户和密码

-T选项可将指定的本地文件上传到FTP服务器上

--data/-d方式指定使用POST方式传递数据

3  elinks工具

安装服务包yum -y install elinks

格式  elinks[OPTION]...[URL]...

常用选项介绍

elinks如果不加选项,则会进入交互式浏览器的页面

-dump:非交互式模式,将URL的内容输出至标准输出

dump只看文字,如果是html页面,字体,颜色这些效果就不会显示,只出现文字

例子:elinks --dumphttp://172.18.50.63/直接获取http://172.18.50.63/的页面信息

-source:打印源码,例子:elinks--sourcewww.baidu.com直接打印www.baidu.com的源码信息

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,711评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,932评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,770评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,799评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,697评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,069评论 1 276
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,535评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,200评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,353评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,290评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,331评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,020评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,610评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,694评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,927评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,330评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,904评论 2 341

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,563评论 18 139
  • 1. 概述 在网络环境中一般用户只需要在浏览器中输入url如www.sunny.com就可以到对应服务器获取相应的...
    ghbsunny阅读 2,848评论 0 7
  • http协议及Apache服务 http协议 什么是http? http全称为超文件传输协议(Hyper text...
    魏镇坪阅读 2,241评论 0 1
  • 转载自:http://www.cnblogs.com/txw1958/archive/2013/01/19/286...
    php_bruce阅读 2,252评论 1 5
  • 美团遭举报无证经营第三方支付、2015年中国人移动支付总额超16万亿、我国发布首部... 1、美团遭举报无证经营第...
    宅力宅力说阅读 203评论 0 0