|
- F. K' L0 i, [2 y B, I3 S7 g curl,全称CommandLine URL 或 CommandLine Uniform Resource Locator,顾名思义,curl命令是在命令行方式下工作,利用URL的语法进行数据的传输或者文件的传输。
1 m# ]5 b% u" ` crul的官方网站是 https://curl.haxx.se/ , 我们可以通过该网站获取此工具的最新版本,还有最全面的使用方法从官网可以知道,curl支持30多种类型的传输方式,例如:FILE, FTP, FTPS, Gopher, HTTP, HTTPS, IMAP, IMAPS, LDAP, LDAPS, POP3, POP3S, RTMP, RTSP, SCP, SFTP, SMB, SMBS, SMTP, SMTPS, Telnet and TFTP等,这当中包含多种协议。
& ^$ ~% c# H8 U' K7 W; ^% J$ \ 最常使用的有FILE、FTP、HTTP、HTTPS等协议对于运维人员来说,在我们探测远程服务的时候,比如http传输,SOCKET连接时,这个工具能非常方便的作为验证工具和测试工具下面看几个curl典型应用实例。 b) V5 l. }& M8 ~& g; M& G }
1、 仅仅显示header信息这个用法运维人员经常使用,可以探测一个网站的header信息,例如:[root@localhost~]#curl-Ihttps://www.ixdba.netHTTP/1.1
' k5 Z) {9 Y8 f: F% D- q* o7 R 200OKServer:nginx/1.13.9Date:Mon,04Mar201908:11:31GMTContent-Type:text/html;charset=UTF-8Connection:keep-alive
( k3 u$ R4 w' f- ]1 D 通过curl的“-I”(大写的i)参数可以获取指定网站的header头信息,可以发现上面这个网站可以正常访问(200状态码),同时此网站的web服务器是nginx/1.13.9,并且还开启了keep-alive。
, u; ~& J; f( `1 l% @ 这些信息都是web运维必须要具备的2、显示http状态代码http状态码对web运维来讲,非常重要,在对web页面进行监控的时候,会经常通过状态码来判断网页的状态,如果返回状态码为非200状态,那么则认为网页异常。
) l) k% b- U. Q 要获取网页状态码,除了上面的“-I”参数外,还有更专业的方法,那就是使用 “-s”和“-o”参数组合,最后使用“-w”参数,可以这样使用:[root@localhost ~]#curl -s -o /dev/ 3 K4 C3 ~+ [, _7 d
null -w %{http_code}"\n" http://www.baidu.com200其中:? “-s”: 表示安静模式,不输出错误,或者进度条之类的? “-o”: 表示指定输出结果到某个文件,不指定的话默认是终端。
% {, T* V N6 L: ^8 M" I4 k2 t 这里是将结果写入空设备中? “-w”表示输出一些定义的元数据,这里输出的是%{http_code},即http状态码除去http_code,还有http_connect、time_total、time_connect、time_appconnect、time_redirect、size_download 、size_upload 、content_type、ssl_verify_result等变量可供选择。
( H3 u3 J3 x! E8 h* [3 j 输出变量需要按照%{variable_name}的格式? “\n”表示换行再来看个例子,通过http协议访问一个网站,命令如下:[root@localhost ~]#curl -s -o /dev/null & p3 e% h3 f5 M% N
-w %{http_code}" "%{time_total}" "%{redirect_url}"\n" http://www.ixdba.net3010.141 https://www.ixdba.net/ ; Y1 h3 I7 R( A4 @& @4 G, l' ]$ v
可以看到输出结果有个301,这表示当通过http访问此网站的时候,自动跳转到了https,执行了301定向操作,所以状态码变成了301,第二个输出“0.141”是变量“%{time_total}”解析出的结果,代表总时间,按秒计。
0 h$ B! y5 q3 n 精确到小数点后三位,最后的“https://www.ixdba.net/” 是"%{redirect_url}"变量的输出结果,代表跳转后的url3、使用curl实现url地址重定向(自动跳转)默认情况下CURL不会发送HTTP Location headers(重定向),但使用了“-L”选项后,当一个被请求页面移动到另一个站点时,就会发送一个HTTP Loaction header作为请求,然后将请求重定向到新的地址上。
- H- H3 @# g P0 n+ [% ~- g! D 例如:访问http://www.ixdba.net 时,会自动将地址重定向到 https://www.ixdba.net 上[root@localhost~]#curl-L-Ihttp://www.ixdba.net
: R' U4 B3 C, r: _ HTTP/1.1301MovedPermanentlyServer:nginx/1.13.9Date:Fri,01Mar201907:25:57GMTContent-Type:text/htmlContent-Length:
0 r+ G0 I* J/ _3 U- H 185Connection:keep-aliveLocation:https://www.ixdba.net/Strict-Transport-Security:max-age=31536000;includeSubDomains;
( O3 H) i# `( p0 h( Y4 ~6 _9 v n preloadHTTP/1.1200OKServer:nginx/1.13.9Date:Fri,01Mar201907:25:58GMTContent-Type:text/html;charset=UTF-8 & S+ F1 j( T) M1 f5 _
Connection:keep-alive输出有两个部分,可以看到有自动的跳转,这是因为使用了-L参数,curl就会跳转到新的网址4、抓取网页内容,并保存到本地curl也能下载文件,达到跟wget相同的功能,例如将一个url文件保存到本地,保存原始文件名,可以通过“-O”参数实现:。
- E. x" H9 ]& y6 n6 F4 ?' E) y [root@localhost ~]# curl -O https://www.ixdba.net/archives/2017/06/653.htm但是有时候url中的文件名不固定或者想下载后重命名,可以通过“-o”实现,例如将url中的文件下载到本地,并命名为test.html,命令如下: , R/ ` w4 b6 z" I7 m3 _
[root@localhost ~]#curl-otest.htmlhttps://www.ixdba.net/archives/2017/06/653.htm这里面涉及两个curl参数,分别是:? -o/--output 将文件保存为命令行中指定的文件名的文件中 " J1 q+ F& \- O. Y. |6 G) s c
? -O/--remote-name 使用URL中默认的文件名保存文件到本地5、通过curl下载文件并开启断点续传curl也可以实现下载大文件,并实现断点续传,先看下面这个例子,如下图所示: : \+ e! m8 M d2 i/ i/ x0 }
可以看到,curl下载文件其实比wget更好用,可以看到下载文件时的各个属性,文件总大小,已下载大小,下载耗时多少,下载速度多少等等在下载一会后,执行ctrl+c,中断下载,接着再次执行curl下载,看看是否能够实现断点续传功能,如下图所示:。
6 e. [$ E8 G: N, X" T% F7 @9 _' T 这里使用了三个参数:-C/--continue-at : 断点续转,注意断点续传的参数是-C, 要自动续传的话要使用 "-C -", 否则需要手工指定断点的字节位置这个特别注意6、对CURL的最大网络使用带宽进行限速。 ' y; U, e& N/ b. H4 J" ?- Q3 L
与wget类似,curl在下载文件时也会占满系统带宽,这样一来,可能会影响线上业务系统的正常运行,因此,限速也是要做的,可以通过“--limit-rate”选项,实现对curl下载网速限制,来看一个例子:
" t) Y7 {0 N! v) W7 O" K* | 这是限制下载速度为2M,看最下面的下载速度刚好是2048k左右,实现了带宽限速7、通过CURL访问需要授权的页面在访问需要授权的页面时,可通过-u选项提供用户名和密码进行授权[root@localhost ~]。
* @% l) `, j, y( r! w # curl -u username:password URL上面的做法很明显,存在密码泄露的风险,通常的做法是在命令行只输入用户名,之后会提示输入密码,这样可以保证在查看历史记录时不会将密码泄露[root@localhost ~]。 , g: T0 R4 c( p7 p2 g
# curl -u username URL8、通过curl从FTP服务器下载、上传文件CURL不但支持http,同样也支持FTP下载,若在url中指定的是某个文件路径而非具体的某个要下载的文件名,CURL则会列出该目录下的所有文件名而并非下载该目录下的所有文件
! S- r$ d3 R0 B' q F 例如:列出public_html下的所有文件夹和文件curl-uftpuser:ftppassftp://ftp_server/public_html/ 看下面这个例子,如下图所示:
) \* Y8 Y9 A7 l; b9 }0 g( c" C( R 要下载一个文件,可以执行如下命令:curl-uftpuser:ftppass-Oftp://ftp_server/public_html/getssl.php例如下图操作:
# C* w" _( x2 v' u 除了下载操作,curl也可以将文件上传到FTP服务器上,通过“-T”选项可将指定的本地文件上传到FTP服务器上例如:将myfile.txt文件上传到服务器:curl-uftpuser:ftppass-T ) H# b0 C) T) g3 N2 h4 e
myfile.txtftp://ftp.testserver.com看下图操作:
n M! j. A8 M% G4 W# c curl也可以同时上传多个文件,方法如下:curl -u ftpuser:ftppass -T "{file1,file2}" ftp://ftp.testserver.comcurl还可以从标准输入获取内容保存到服务器指定的文件中,方法如下:
8 _$ _ p; _5 o3 H2 V3 N9 q6 g curl-uftpuser:ftppass-T-ftp://ftp.testserver.com/myfile_1.txt9、CURL使用SSL证书访问HTTPS有时候在通过curl下载基于https的链接文件时,会提示ssl认证失败,或者ssl不可信,此时可以使用 -k 或者“-insecure”选项,来忽略签名认证的警告。
/ o9 w* S0 X5 p0 D, @( j6 W 这样就可以让curl命令执行不安全的SSL连接,进而去获取数据命令使用示例如下:curl -k https://abc.com7 m9 b9 y4 f, N' c3 }# `; {
curl --insecure https://www.tttao.com 2 m9 B! A: r8 s# l
" b2 A2 O- H2 D1 V
; B8 j1 T4 {. W( n; I/ x% f7 k8 x, U+ G8 ^
9 E0 g" _0 x5 n, R2 `
|