6 }# z- r2 r: P4 U( q2 u2 s
curl 是 Linux 系统上一款网络工具,它的首字母 c 代表的是 client,表示它是客户端程序通过 URL 方式,可以实现客户端与服务器之间传递数据它的功能非常强大,支持大部分常见的网络协议:HTTP、HTTPS、FTP。
/ o6 K" x, o% i9 r 功能特性也很丰富,支持 http、https、cookie、认证、代理、速率限制、断点续传,提供非常多的选项,熟练运用的话,基本可以取代 postman 这类图形工具与liburl关系其实 curl 项目包括两部分: 6 U% p% E! a _7 c* u& s7 y7 _6 c
curl 和 libcurl,关系大概如图所示
$ a) @: W4 @8 P2 p5 t curl 是命令行工具,底层调用的是 libcurl 库libcurl 是以库形式存在,提供各种功能 C 接口,供其他程序调用,包括 curl 命令安装使用和 wget 不同,并非所有的 Linux 发行版中都安装了 curl,你可以使用包管理器自行安装。
- E: T P; b0 [: h6 M& Q # ubuntu or debian
# Q) P/ h7 K* P2 U8 w9 {( n& h $ apt install curl
) h2 w* P2 h# w+ O( u" u! C* e& y # centos or redhat
8 b( Y( I$ h: c $ yum install curl: k% F+ B3 ~. Y4 A1 a
如果需要使用最新版本,或自定义安装,可以通过源码编译方式进行安装 6 o& C6 [) T' ^, P3 j
$ wget https://curl.se/download/curl-7.79.1.tar.gz
! g$ b! }! L; U- f$ l. p $ ./configure
3 f3 m' X1 y$ B, n $ make0 o' O1 E4 T2 B* ~! t
$ make install% A8 B1 d1 q- U3 X
通过 curl --version
0 X- w1 ^. ]" X7 F% }+ { 可以验证命令是否安装准确上手操作我们先来看下 curl 最简单的使用方式,没有任何选项,将服务器响应的内容输出到屏幕上$ curl http://linuxblogs.cn9 O5 t8 D) S% Q" B( `* S6 @4 n
有时我们不想显示错误和进度信息,可以使用 , _" |0 o- X4 C2 c
-s 选项开启静默模式$ curl -s http://linuxblogs.cn
) i( N' H- {5 g0 U! T3 ] @+ l # 完全不输出任何内容,可以通过"echo $?"来判断命令成功或失败2 t" k5 { b: K' V9 ~, {% I: _
$ curl -s -o /dev/null http://linuxblogs.cn. [# c) d/ B: Z) z
0 s+ W3 L; M# M 通过 -v 选项可以非常详细地显示 curl 的整个工作过程,相当于打开了调试模式请求http接着介绍我们平时最常用的,和 http 数据传输相关的操作1. 发送 GET 请求curl 命令默认发送的是
2 P8 [5 P8 k' q6 ~% X7 L GET 请求,响应内容直接打印在了屏幕上$ curl http://www.baidu.com& s5 J H- Z' I
使用 -i 选项,可以打印服务器响应的 HTTP 头部信息# 先打印请求头,空一行,再打印网页内容
1 X( t6 W9 n, V7 } T7 _$ B* O $ curl -i http://www.baidu.com
$ K; B& [- C- M/ W
" ?2 G# ~3 \& Z1 H! l 如果只想测试该链接或资源是否正常,使用 -I 选项,可以只打印响应头信息,注意此时发送的是 HEAD 请求2. 发送 POST 请求默认情况下,curl 发送的是 GET 请求,使用 -X 参数可以指定发送 8 C9 \. i2 Z! N" Y' x% m e( x1 A
POST 请求,使用 -d 参数可以指定请求数据# 无数据的 POST 请求
3 s, g: G- Y O7 H3 g8 d' G $ curl -x POST http://www.domain.com
- P" f' H. q/ i/ ~; }7 b7 G) s # 发送 Form 数据
8 A; Q' j+ k* i) J3 P" n9 S $ curl -d user=foo&pass=123 -X POST http://google.com/login2 M g: j$ x1 B2 f
# 等价于上边命令
+ O# J# H6 ]) y! ]2 | $ curl -d user=foo -d pass=123 http://google.com/login
1 O* Q. ?* p; I4 `. X6 m 8 e9 j, z$ E% L- J* i
使用 -d 选项后,默认就是 POST 请求,可以省略 -X 选项,另外,使用多个 -d 选项,可以使命令行显得更清晰下边命令可以读取本地文件,作为数据向服务器发送$ curl -d @data.txt http://google.com/login
+ d3 z4 c5 [% \' d& }
& ^, Q6 M$ a) v8 f6 A 3. 发送 Json 格式数据请求curl 可以发送 json 格式的请求,需要设置 Content-Type 为 application/json$ curl -d {"user":"foo","pass":"123"} \1 u" q* y; A# d: E
-H Content-Type: application/json \% c/ E; P) P8 b5 m+ B" L0 i
http://google.com/login
5 t4 P, J4 T6 l& F( L9 X$ W
5 Y7 ?2 ~, r4 a) i3 F2 v -H 选项指定 Content-Type 请求头为 json 格式,这样 web 服务器就清楚数据类型,知道该怎么处理了4. 构造查询字符串参数通过 -G 选项,可以构造查询字符串参数curl -G -d q=chopin -d count=20 http://google.com/search$ b, T6 b! i5 m. X( x* }
# 等价于下边命令( r* J. V0 o# J5 w5 ?
curl http://google.com/search?q=chopin&count=20$ X" c& X0 r- _. Y4 R7 n, g) S. s
! W$ U6 z- B- G
上述命令会发送 GET 请求,如果忽略 -G 选项,会发出一个 POST 请求5. 添加请求头通过 -H 选项,可以为请求添加标头$ curl -H Accept-Language: en-US http://google.com
6 D! `/ ?$ y% P' ^- ? # 可以指定多个-H选项
) [5 P8 ?7 {5 X& h+ a $ curl -H Accept-Language: en-US -H Secret-Message: xyzzy http://google.com" S& I- A& E! R/ o* `
& ^6 c& f d1 X1 F( U 6. 设置重定向默认 curl 不会跟随重定向,指定 -L 选项会让请求跟随服务器重定向$ curl -L http://api.twitter.com/hello
* F$ }) v6 u& ]8 D( [9 m F- k 7. 设置静默输出指定 -s 选项将不输出错误和进度信息,如果想让 curl 不产生任何输出,使用下面的命令 * D' ^+ m( `) t
$ curl -s -o /dev/null http://google.com
+ d3 A& u) }3 ]. r0 } 8. 详细的调试信息指定 -v 选项,会输出通信的整个过程,一般用于调试$ curl -v http://www.baidu.com, [4 n. n* E1 h0 Q* L1 f
- q0 j& g: s0 x4 ^$ a. ]) n --trace 选项也可以用来调试,还可以输出更详细的内容,比如原始的二进制数据$ curl --trace - http://www.baidu.com/ H; O! G0 P& W8 a% ` p4 y
9. 模拟浏览器访问-A 选项可以指定客户端的用户代理信息,即设置 . z& m0 F8 e' W3 y. k) g
UserAgent 请求头$ curl -A Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36 http://google.com6 `8 x: k0 t$ k. \3 |1 A% e
。
6 e9 T' H% m1 [# e- h" ^2 ` Y$ b 上面命令将 UserAgent 设置成了 Chrome 浏览器的标识其实也可以直接通过 -H 选项来指定$ curl -H "User-Agent: go/1.15" http://google.com
8 W& Q U; p/ t& s$ w 。 2 } f( j8 ^6 p3 s5 e5 y8 u
10. 伪造 refer 解决防盗链有时候,引用或下载某网站图片等资源时,会有防盗链的限制,可以通过设置 refer 请求头为站内域名来解决# -e 参数来设置 HTTP 请求头 Referer
; B6 D5 y. }& i# e; d0 h0 H $ curl -e http://linuxblogs.cn http://linuxblogs.cn/girl.jpg( o. \9 E7 q' i( v2 z
# -H 参数也可以直接设置请求头 Referer
0 j1 q! K5 q) v7 W# J; ?: I0 y $ curl -H "Referer: http://linuxblogs.cn" http://linuxblogs.cn/girl.jpg, K0 ?( P% M- e0 I1 z
1 X, ~0 [8 I: [0 i2 ^2 S
11. 设置 Cookie-b 选项用来向服务器发送 Cookie,该命令会生成一个请求头 Cookie: foo=bar,向服务器发送一个 Cookie$ curl -b foo=bar http://google.com& H1 a* U0 [. l, ]
# 发送两个cookie
7 P* d0 |2 ]8 S5 d' B a4 h $ curl -b foo=bar;name=mike http://google.com
, S" X: V- _9 A ' I& E X6 U3 o2 A$ @
也可以通过读取本地 cookie 文件,将其发送给服务器-c 选项可以将服务器响应的 Cookie 写入一个文件$ curl -b cookie.txt http://google.com
% `1 V' t3 @8 t5 \& ?; s1 P # 将cookie写入文件
1 p, X8 c* H5 O: s* |: H: m $ curl -c cookie.txt http://baidu.com/ K* G: @5 D: T1 U. p9 K1 Z
。 2 J V# c; M! T* q
文件操作1. 下载文件资源使用 -o 或 -O 选项,可以将网络资源保存到文件中# 等效于 wget
7 w& Q8 m9 j$ x $ curl -o chopin.html http://linuxblogs.cn& B3 ?: l9 U7 ?. }6 b- @5 }! |1 f
# -O 选项,可以将 URL 的最后部分当做文件名
* [2 _! |- p9 y) j* {& ]& | $ curl -O http://linuxblogs.cn/bar.html
8 E; Z! t+ m1 d7 R' o4 s
I/ b( s0 Z( y4 N& R 如果想显示下载进度条,可以使用 -# 选项2. 循环下载文件有时候要下载的多个文件,只有名称后缀不同,可以这样来下载$ curl -O http://linuxblogs.cn/dog[1-5].jpg; Y4 ]' |: X9 C! f
2 R9 e* |0 }. k% u( _5 b( g 3. 压缩下载使用 --compressed 选项,允许你要求 HTTP 和 HTTPS 服务器提供数据的压缩版本,这在带宽有限的情况下,可以帮你节约不少时间curl --compressed http://linuxblogs.cn/foo.txt
9 ] x2 E9 B" J T8 _; ` " N* b4 A( L ]; s/ i+ j
4. 限制下载速度如果带宽不是很充足,多人共享带宽,curl 支持限速功能$ curl http://linuxblogs.cn --limit-rate 200K
, F# P$ A/ W# I+ T6 Z 另外一个用法,就是模拟测试慢网速的场景,用于做开发测试 $ @* L9 o$ T% u4 K7 O
5. 分块下载有时文件会很大,我们采用可以分段的方式进行下载,最后合并为完成的文件$ curl -r 0-100 -o part1.mp4 http://linuxblogs.cn/cang.mp4
, D9 v" d! L8 l& { $ curl -r 100-200 -o part2.mp4 http://linuxblogs.cn/cang.mp4
8 D5 c& a& A* o1 j& B $ curl -r 200- -o part3.mp4 http://linuxblogs.cn/cang.mp4
( p; m. S3 h8 Q $ cat part*.mp4 > cang.mp4
% _ a( u% m" s8 ?+ Y! i
+ S) \$ u; j% X9 `6 C Q 6. 断点续传有时候网络不太好,通过 curl 下载大文件时,可能发生中断的现象使用 -C 选项可以实现断点续传,非常实用$ curl -C -O http://linuxblogs.cn/girl.mp4& i+ V, Z2 E1 J* `4 V4 T3 e
。
+ \8 u+ n6 L7 n# M6 K+ l2 R 在弱网环境下,加上 --retry N 选项,可以在失败的时候多次重试,对下载操作更友好一些7. 通过 FTP 下载文件支持下载 FTP 文件,curl 提供两种下载的语法$ curl -O -u user:pass ftp://linuxblogs.cn/dog.jpg
, n/ p* k: |, a9 I% | $ curl -O ftp://user:pass@linuxblogs.cn/dog.jpg% N p7 S ]+ B' A$ s
。
- D5 J3 u4 n3 Q& \4 U! I% W 8. 上传文件平时开发时,可以通过 curl 实现文件的上传功能,非常高效# 命令会给 HTTP 加上请求头 Content-Type: multipart/form-datas$ k/ P1 O$ B/ L# J; V
$ curl -F file=@苍老师.mp4 http://linuxblogs.cn/upload5 K+ w5 I& b9 e' \
。
, }0 S+ c4 V) C6 y. f4 `- ] -F 选项还可以指定 MIME 类型和文件名$ curl -F file=@苍老师.mp4;type=image/png http://linuxblogs.cn/upload3 _* L& [( e0 ]: w+ C* h2 p5 \
# 还可以支持修改文件名,而不是默认的
) O! [8 s8 O/ ^+ H8 _ $ curl -F file=@苍老师.mp4;file=天空.mp4 http://linuxblogs.cn/upload
7 ]8 }1 L- w" V- J- r ! {+ p, J9 n: s7 b8 E2 u' d3 h2 e/ `
https相关目前大多数站点采用的都是 https,这里给出几个常见的用法1. 忽略证书验证有时访问 https 站点时,服务器证书过期或是自签证书,使用 curl 访问时会报错,可以指定 -k 选项来忽略证书有效性验证。
4 Z& r! A. b2 F/ a0 z& r $ curl -k https://linuxblogs.cn
+ l9 o4 R9 A# d" F 2. 指定客户端证书有时需要双向验证,服务器也要验证客户端,用来确定客户端的真实身份可以使用 --cert 和 --key 指定客户端证书。
, u8 M# l8 J) W; N $ curl --cert client.pem --key key.pem https://linuxblogs.cn
7 e6 c- J* q+ \! Q+ U5 W 3. 使用证书链验证服务器证书在平时开发时,证书一般是自签的,可以通过指定 CA 证书链进行证书的验证 " m0 ^* j$ k# ^' c5 [, s
$ curl --cacert caChain.pem https://linuxblogs.cn
7 a) b" k2 D4 |- Q& n 高级功能(一)设置代理1. 命令行通过命令行,可以很简单的实现 curl 代理功能$ curl -x "http://user:pwd@127.0.0.1:1234" "http://linuxblogs.cn"
# A& x) y. R" b8 l7 m% d9 `
0 E! i3 m+ }$ ~ 2. 使用环境变量通过设置环境的方式也很简单$ export http_proxy="http://user:pwd@127.0.0.1:1234"( C, ], h1 U+ V* Y7 C
3. 使用配置文件使用配置文件 ~/.curlrc,修改内容如下: " z8 F- g9 M( a- R
proxy="http://user:pwd@127.0.0.1:1234"
. a) W2 O+ \" }3 D/ n8 s (二)格式化在平时使用 curl 时,可能希望能够获取更多信息,如请求耗时、访问时延、请求大小等信息比如在生产环境要测试某个接口,可以通过如下的方式,获取你想要的数据,非常方便。
% [5 I" q/ K; t& _, H # 只获取http状态码4 U: D6 C) C: o/ J2 l2 Z* {- ~! `
$ curl -s -w %{http_code} https://baidu.com -o /dev/null2 B& o% i: o4 }' A% H' {
不过瘾?直接上大招,首先需要准备格式模板 # i; K4 {6 p' ?( T
有了上边的格式模板,我们就可以轻松获取非常漂亮的统计数据 5 d2 A6 t) T' P4 w
我们可以很清晰地看到,域名解析、连接建立时间、下载速度、状态码等数据。当然 curl 支持的关键字段还有很多,更多的字段可以参考 man 手册。
# W5 R2 `; X! w( q
) ^" p- n: z; Z6 Y% D, r9 l m* N }2 R* ^: v0 W. g3 s& o
6 M& V" T; u' X, b% H5 u9 i
. l6 _' b2 Y, G, }/ G7 R: m n, U |