6 H7 R; l! G1 |" u' K" y
curl 是 Linux 系统上一款网络工具,它的首字母 c 代表的是 client,表示它是客户端程序通过 URL 方式,可以实现客户端与服务器之间传递数据它的功能非常强大,支持大部分常见的网络协议:HTTP、HTTPS、FTP。
: f8 S! X: v# E0 {% y+ s) T) u2 h 功能特性也很丰富,支持 http、https、cookie、认证、代理、速率限制、断点续传,提供非常多的选项,熟练运用的话,基本可以取代 postman 这类图形工具与liburl关系其实 curl 项目包括两部分:
6 e! ?! Z& |- K3 D- h% h5 H curl 和 libcurl,关系大概如图所示 0 o! m' x$ U1 {
curl 是命令行工具,底层调用的是 libcurl 库libcurl 是以库形式存在,提供各种功能 C 接口,供其他程序调用,包括 curl 命令安装使用和 wget 不同,并非所有的 Linux 发行版中都安装了 curl,你可以使用包管理器自行安装。 8 n3 ?3 l6 A) f, ^+ y* v- ?
# ubuntu or debian
! \6 |6 n- ? c3 G $ apt install curl
1 a& m( _1 Y% n" J b- \! E% e # centos or redhat4 g2 C. E& O: M& D6 S
$ yum install curl
, [- J% R" `- O6 A& Q4 M L T 如果需要使用最新版本,或自定义安装,可以通过源码编译方式进行安装 8 ^( M7 B0 V) C5 {4 ?0 v
$ wget https://curl.se/download/curl-7.79.1.tar.gz/ g* j; O. U5 h/ \$ a
$ ./configure
$ e: |0 {/ R! N. V $ make7 t; |" E* X: z. x
$ make install
7 q7 o* ]* f" O( y% Y/ p 通过 curl --version / g) o9 N \: w) G
可以验证命令是否安装准确上手操作我们先来看下 curl 最简单的使用方式,没有任何选项,将服务器响应的内容输出到屏幕上$ curl http://linuxblogs.cn! R' E( T5 z" {. S( K
有时我们不想显示错误和进度信息,可以使用 , D* c& w& p' f* Z7 B% n3 o' @9 B5 \5 a
-s 选项开启静默模式$ curl -s http://linuxblogs.cn" q5 |6 Z) C2 [
# 完全不输出任何内容,可以通过"echo $?"来判断命令成功或失败/ W$ c; g1 {/ m" O. \$ O& L
$ curl -s -o /dev/null http://linuxblogs.cn
7 `& ^( R* ~* {, S$ u4 x! R/ b $ ~! F* y( w- P, g
通过 -v 选项可以非常详细地显示 curl 的整个工作过程,相当于打开了调试模式请求http接着介绍我们平时最常用的,和 http 数据传输相关的操作1. 发送 GET 请求curl 命令默认发送的是
. R! K4 V. c( D" U- T GET 请求,响应内容直接打印在了屏幕上$ curl http://www.baidu.com
8 x/ F3 U8 Z- I5 V- Y7 m% m$ A 使用 -i 选项,可以打印服务器响应的 HTTP 头部信息# 先打印请求头,空一行,再打印网页内容0 y, b5 }9 N3 ~# e
$ curl -i http://www.baidu.com
1 g9 X* \8 Z$ z2 T+ N* V' q 3 t& b1 \/ u6 C5 J! j5 w
如果只想测试该链接或资源是否正常,使用 -I 选项,可以只打印响应头信息,注意此时发送的是 HEAD 请求2. 发送 POST 请求默认情况下,curl 发送的是 GET 请求,使用 -X 参数可以指定发送 % q4 [/ X9 C8 W- }
POST 请求,使用 -d 参数可以指定请求数据# 无数据的 POST 请求/ {+ T& B) n: Y& y1 d% D% R
$ curl -x POST http://www.domain.com
1 X L! f0 |# ]9 q% F1 ?0 l # 发送 Form 数据
5 r0 X6 S M' a. @ $ curl -d user=foo&pass=123 -X POST http://google.com/login% A( Z! `. W% [ C0 V
# 等价于上边命令
: s0 q$ a' c3 m2 k2 B $ curl -d user=foo -d pass=123 http://google.com/login0 t, l% p. m0 y+ Q
+ a/ f* T4 Y# F* Z0 ^ 使用 -d 选项后,默认就是 POST 请求,可以省略 -X 选项,另外,使用多个 -d 选项,可以使命令行显得更清晰下边命令可以读取本地文件,作为数据向服务器发送$ curl -d @data.txt http://google.com/login
, x4 N2 L( S- ?+ f6 u& E7 z - H' @+ t/ a5 ~+ N- }9 \
3. 发送 Json 格式数据请求curl 可以发送 json 格式的请求,需要设置 Content-Type 为 application/json$ curl -d {"user":"foo","pass":"123"} \' V/ ]3 m4 U7 g N( ~) h* [% o
-H Content-Type: application/json \2 h* M7 S) s9 u; c) _' {
http://google.com/login4 n7 ^; ?# A: h
. Y0 E6 @! h6 V8 Z4 { -H 选项指定 Content-Type 请求头为 json 格式,这样 web 服务器就清楚数据类型,知道该怎么处理了4. 构造查询字符串参数通过 -G 选项,可以构造查询字符串参数curl -G -d q=chopin -d count=20 http://google.com/search) @% F) Z0 k- V7 H5 T: ~( g
# 等价于下边命令
" @7 q- |4 s3 u' O8 [ curl http://google.com/search?q=chopin&count=206 `( _2 {8 l$ |, H% n8 p; i
4 C' y( |. T# }3 o9 c 上述命令会发送 GET 请求,如果忽略 -G 选项,会发出一个 POST 请求5. 添加请求头通过 -H 选项,可以为请求添加标头$ curl -H Accept-Language: en-US http://google.com' P5 z" o7 U w
# 可以指定多个-H选项
; m5 o5 I+ Y" ]# a# G $ curl -H Accept-Language: en-US -H Secret-Message: xyzzy http://google.com
; U8 ?# M/ u2 N1 r0 ?7 ]
" \6 {0 I7 \; |, l5 W# N 6. 设置重定向默认 curl 不会跟随重定向,指定 -L 选项会让请求跟随服务器重定向$ curl -L http://api.twitter.com/hello
: K. J" `7 w Q& ?' f3 X 7. 设置静默输出指定 -s 选项将不输出错误和进度信息,如果想让 curl 不产生任何输出,使用下面的命令 " k& |& U f% J& }$ ~8 S
$ curl -s -o /dev/null http://google.com. M4 y9 m, m2 N, {% o
8. 详细的调试信息指定 -v 选项,会输出通信的整个过程,一般用于调试$ curl -v http://www.baidu.com9 i6 E+ r' _( _% U" ]
* f/ L+ y1 w! d
--trace 选项也可以用来调试,还可以输出更详细的内容,比如原始的二进制数据$ curl --trace - http://www.baidu.com7 |2 t0 S+ o8 D9 \$ p
9. 模拟浏览器访问-A 选项可以指定客户端的用户代理信息,即设置
L, z6 x& J- l& V' ^& m8 j& b UserAgent 请求头$ curl -A Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36 http://google.com
# J. @* z) C2 |. Y( C5 ^ 。
% ?5 e! [! y7 [! h8 b 上面命令将 UserAgent 设置成了 Chrome 浏览器的标识其实也可以直接通过 -H 选项来指定$ curl -H "User-Agent: go/1.15" http://google.com; c4 c" Y& q7 d
。
) D& P7 i5 D7 w" @ 10. 伪造 refer 解决防盗链有时候,引用或下载某网站图片等资源时,会有防盗链的限制,可以通过设置 refer 请求头为站内域名来解决# -e 参数来设置 HTTP 请求头 Referer# H0 @( P# |& o; y9 G
$ curl -e http://linuxblogs.cn http://linuxblogs.cn/girl.jpg
+ l3 C) m3 b7 X # -H 参数也可以直接设置请求头 Referer
8 N9 j+ [/ F. X- }6 H+ q0 _ $ curl -H "Referer: http://linuxblogs.cn" http://linuxblogs.cn/girl.jpg
4 _9 Z/ Q- p0 i- U- j2 b8 e" P4 S 6 F4 J0 i+ l' J/ X$ V
11. 设置 Cookie-b 选项用来向服务器发送 Cookie,该命令会生成一个请求头 Cookie: foo=bar,向服务器发送一个 Cookie$ curl -b foo=bar http://google.com
5 d y% g+ S2 l/ ~. z # 发送两个cookie5 }. C6 f, C& V l
$ curl -b foo=bar;name=mike http://google.com' f2 b' g q- z
6 z* v4 j8 A' f- {
也可以通过读取本地 cookie 文件,将其发送给服务器-c 选项可以将服务器响应的 Cookie 写入一个文件$ curl -b cookie.txt http://google.com! N2 ?% Z0 |- j% Y
# 将cookie写入文件
8 a" `& I1 w) v $ curl -c cookie.txt http://baidu.com
8 r1 `5 x# e- k3 A# L# N 。
: w1 W4 M. G5 }" O* F) W G 文件操作1. 下载文件资源使用 -o 或 -O 选项,可以将网络资源保存到文件中# 等效于 wget' v0 m7 A& x% M- |3 y e
$ curl -o chopin.html http://linuxblogs.cn
, M8 D- C4 W, z! B. P/ L$ o6 l # -O 选项,可以将 URL 的最后部分当做文件名
& u2 X `% E B" Q& S% U! T( s+ V# ^ $ curl -O http://linuxblogs.cn/bar.html' I! H) d6 ?# x4 C t# G( O7 ~4 `
- s8 k' ~6 L; [7 I* ~0 ~9 u& d! @ 如果想显示下载进度条,可以使用 -# 选项2. 循环下载文件有时候要下载的多个文件,只有名称后缀不同,可以这样来下载$ curl -O http://linuxblogs.cn/dog[1-5].jpg
5 X" x$ a9 B: D, r; W# {* `& x , ?3 L3 O# R5 c2 I3 P' {9 o
3. 压缩下载使用 --compressed 选项,允许你要求 HTTP 和 HTTPS 服务器提供数据的压缩版本,这在带宽有限的情况下,可以帮你节约不少时间curl --compressed http://linuxblogs.cn/foo.txt
- E& U& ?, G1 w 3 `& g9 o8 w6 s6 B, w( d: e. g
4. 限制下载速度如果带宽不是很充足,多人共享带宽,curl 支持限速功能$ curl http://linuxblogs.cn --limit-rate 200K! f) A& ~; [; H) I1 s
另外一个用法,就是模拟测试慢网速的场景,用于做开发测试
l( d8 T8 r1 |/ T; m2 | 5. 分块下载有时文件会很大,我们采用可以分段的方式进行下载,最后合并为完成的文件$ curl -r 0-100 -o part1.mp4 http://linuxblogs.cn/cang.mp4
. S" V E r; I$ M% @8 i $ curl -r 100-200 -o part2.mp4 http://linuxblogs.cn/cang.mp4' z, I4 i: f% T2 h# H( l/ A8 N
$ curl -r 200- -o part3.mp4 http://linuxblogs.cn/cang.mp4, Z8 L0 `; a' @
$ cat part*.mp4 > cang.mp4. n! t; w7 f y/ j" I0 }6 M
: n, |% a8 \. ~/ N8 a6 n+ b
6. 断点续传有时候网络不太好,通过 curl 下载大文件时,可能发生中断的现象使用 -C 选项可以实现断点续传,非常实用$ curl -C -O http://linuxblogs.cn/girl.mp4; h9 E% g1 W0 M8 G* N) P
。 + q5 M' v4 M6 E& o0 O4 J. z- g
在弱网环境下,加上 --retry N 选项,可以在失败的时候多次重试,对下载操作更友好一些7. 通过 FTP 下载文件支持下载 FTP 文件,curl 提供两种下载的语法$ curl -O -u user:pass ftp://linuxblogs.cn/dog.jpg
3 A$ {; b' I8 S+ \ $ curl -O ftp://user:pass@linuxblogs.cn/dog.jpg# r( E& w% Y g) o6 o
。
- Y7 }5 e$ t& }8 N 8. 上传文件平时开发时,可以通过 curl 实现文件的上传功能,非常高效# 命令会给 HTTP 加上请求头 Content-Type: multipart/form-datas
) w* I. B- n9 U" P8 J $ curl -F file=@苍老师.mp4 http://linuxblogs.cn/upload+ b7 c7 N* |# V
。 ' ^0 I- g9 M! n% Q7 Y# c# l
-F 选项还可以指定 MIME 类型和文件名$ curl -F file=@苍老师.mp4;type=image/png http://linuxblogs.cn/upload# @9 F& I, P2 E5 t! ^7 p _, b3 I
# 还可以支持修改文件名,而不是默认的6 V& J; j7 R# u5 t! z( m) \: ^' r
$ curl -F file=@苍老师.mp4;file=天空.mp4 http://linuxblogs.cn/upload
" n1 p; j6 q$ R S7 g$ s5 q
+ ^! l8 U& C4 ?, m https相关目前大多数站点采用的都是 https,这里给出几个常见的用法1. 忽略证书验证有时访问 https 站点时,服务器证书过期或是自签证书,使用 curl 访问时会报错,可以指定 -k 选项来忽略证书有效性验证。
+ r3 _* L3 g7 O& _ k4 @ $ curl -k https://linuxblogs.cn# L6 K5 D4 L* ]8 P$ C7 X- J
2. 指定客户端证书有时需要双向验证,服务器也要验证客户端,用来确定客户端的真实身份可以使用 --cert 和 --key 指定客户端证书。 # l0 u1 \- C7 d$ J; o5 S% g a6 G
$ curl --cert client.pem --key key.pem https://linuxblogs.cn
# i: \& }' J! T, f, o- N 3. 使用证书链验证服务器证书在平时开发时,证书一般是自签的,可以通过指定 CA 证书链进行证书的验证
* A6 ]+ a% Q. V6 @$ ]6 g1 B ? $ curl --cacert caChain.pem https://linuxblogs.cn2 L; z6 j% Q$ Z U/ I& U1 v4 l& l/ ?+ ?
高级功能(一)设置代理1. 命令行通过命令行,可以很简单的实现 curl 代理功能$ curl -x "http://user:pwd@127.0.0.1:1234" "http://linuxblogs.cn"
: j% d# ?: s- f 1 u% L/ J0 P& I- p/ j9 ?7 }
2. 使用环境变量通过设置环境的方式也很简单$ export http_proxy="http://user:pwd@127.0.0.1:1234"; a- G7 c# \1 D9 M
3. 使用配置文件使用配置文件 ~/.curlrc,修改内容如下: 2 l7 Z+ m" t% z" v( G6 ~) q" ]
proxy="http://user:pwd@127.0.0.1:1234"+ C, C4 O$ `* T& D$ s. }+ m
(二)格式化在平时使用 curl 时,可能希望能够获取更多信息,如请求耗时、访问时延、请求大小等信息比如在生产环境要测试某个接口,可以通过如下的方式,获取你想要的数据,非常方便。 ! ~% V8 N/ ]5 | @$ H
# 只获取http状态码) p' }* ~* d" O6 Y6 P1 _
$ curl -s -w %{http_code} https://baidu.com -o /dev/null7 v' _% v6 a: g: b( O0 _+ ^
不过瘾?直接上大招,首先需要准备格式模板
9 ]0 W3 A' c% i6 p3 l* @ 有了上边的格式模板,我们就可以轻松获取非常漂亮的统计数据
) s) r2 D( r; G# z. I; u) v/ h$ O 我们可以很清晰地看到,域名解析、连接建立时间、下载速度、状态码等数据。当然 curl 支持的关键字段还有很多,更多的字段可以参考 man 手册。 6 Y& i# ?3 b' p$ ?, C4 I* A% M, E
# [8 T' H0 _) }, o# G- l/ [+ Q
- ]0 W3 \8 [5 ~: R3 @; R: m; c0 g) O" h4 u$ X- d0 x
- R" t$ H) u8 e/ V7 v) l k! t! Y1 c
|