|
& W- i4 L1 \# c; f0 k7 _) O
curl是一个非常实用的、用来与服务器之间传输数据的工具;支持的协议包括 (DICT, FILE, FTP, FTPS, GOPHER, HTTP, HTTPS, IMAP, IMAPS, LDAP, LDAPS, POP3, POP3S, RTMP, RTSP, SCP, SFTP, SMTP, SMTPS, TELNET and TFTP),curl设计为无用户交互下完成工作;curl提供了很多非常有用的功能,包括代理访问、用户认证、ftp上传下载、HTTP POST、SSL连接、cookie支持、断点续传...。
+ J" m" U% E. e q 一、最常用的curl命令1、发送GET请求curl URL
1 a0 {3 d' R0 r+ l6 e. S1 X L2 s curl URL?a=1&b=helloworld2、发送POST请求curl -X POST -d a=1&b=helloworld URL # }- o+ F0 T$ R4 Y ?- n7 _
3、发送json格式请求:curl -H "Content-Type: application/json" -X POST -d {"abc":123,"bcd":"nihao"} URL
v9 K4 o8 U. a curl -H "Content-Type: application/json" -X POST -d @test.json URL
& i5 w F7 s4 M 其中,-H代表header头,-X是指定什么类型请求(POST/GET/HEAD/DELETE/PUT/PATCH),-d代表传输什么数据这几个是最常用的查看所有curl命令: man curl或者curl -h。 5 L8 S6 M7 k2 z& H6 y1 m8 q
请求头:H,A,e响应头:I,i,Dcookie:b,c,j传输:F(POST),G(GET),T(PUT),X输出:o,O,w断点续传:r调试:v,--trace,--trace-ascii,--trace-time 7 D1 m7 K: u+ S( S; l1 ]1 g( H Z( ~5 y
二、curl命令语法与curl命令参数详解1、curl命令语法curl [options] [URL...]2、curl命令参数详解由于linux curl功能十分强大,所以命令参数十分多,下表只是爱E族( 3 F/ Z1 c% T H
http://aiezu.com)帅选出来的部分参数,更多参数请运行“man curl”命令查看参数组参数描述urlurl需要抓取的一到多个URLs;多个下面通配符的方式: 1、http://{www,ftp,mail}.。
; L7 a! R$ c2 E) N! D; f' S http://aiezu.com; 2、http://aiezu.com/images/[001-999].jpg; 3、http://aiezu.com/images/[1-999].html; 4、ftp://aiezu.com/file[a-z].txt ; a9 b! T+ T3 b. `+ c
请求头-H "name: value"--header "name: value"(HTTP)添加一个http header(http请求头);-H "name:"--header "name:"(HTTP)移除一个http header(http请求头);
, d# `( N" g$ i0 O -A "string"--user-agent "string"【参考】(HTTP)设置Http请求头“User-Agent”,服务器通过“User-Agent”可以判断客户端使用的浏览器名称和操作系统类型,伪造此参数能导致服务器做出错误判断。 4 x3 k, l+ y1 {. s1 P
也可以使用“-H”, “--header option”设置此选项;-e --referer 【参考】(HTTP)设置访问时的来源页面,告诉http服务从哪个页面进入到此页面;-e " " ]1 Z/ b5 ^0 V' s
http://aiezu.com"相当于“-H "Referer: http://www.qq.com"”;响应头-I--head(HTTP)只输出HTTP-header,不获取内容(HTTP/FTP/FILE)。 9 K) \; l/ H" j: |% \# E
用于HTTP服务时,获取页面的http头; (如:curl -I http://aiezu.com)用于FTP/FILE时,将会获取文件大小、最后修改时间; (如:curl -I file://test.txt) 4 [! q+ W) S7 e4 l( Z
-i--include(HTTP)输出HTTP头和返回内容;-D --dump-header (HTTP)转储http响应头到指定文件;cookie-b name=data--cookie name=data【参考】
) v: J+ ~& j0 y, e9 r# o5 [ (HTTP)发送cookie数据到HTTP服务器,数据格式为:"NAME1=VALUE1; NAME2=VALUE2";如果行中没有“=”,将把参数值当作cookie文件名;这个cookie数据可以是由服务器的http响应头“Set-Cookie:”行发送过来的;
9 |8 X. R& c% w -c filename--cookie-jar file name【参考】(HTTP)完成操作后将服务器返回的cookies保存到指定的文件;指定参数值为“-”将定向到标准输出“如控制台”;-j--junk-session-cookies
3 N" u& L/ H& G* G/ a' D9 ~3 C" g (HTTP)告诉curl放弃所有的"session cookies";相当于重启浏览器;代理-x host:port-x [protocol://[user:pwd@]host[:port]--proxy [protocol://[user:pwd@]host[:port]【参考】 3 G! H7 t3 Q3 L
使用HTTP代理访问;如果未指定端口,默认使用8080端口;protocol默认为http_proxy,其他可能的值包括:http_proxy、HTTPS_PROXY、socks4、socks4a、socks5;如:--proxy 8.8.8.8:8080;-x "http_proxy://aiezu:123@aiezu.com:80" ( E( @7 r2 ~( c6 H0 A6 k/ R) l8 P- l
-p--proxytunnel将“-x”参数的代理,作为通道的方式去代理非HTTP协议,如ftp;--socks4 --socks4a --socks5 【参考】 ' k) I- s) d5 J) ?# v( |- N1 x
使用SOCKS4代理;使用SOCKS4A代理;使用SOCKS5代理;此参数会覆盖“-x”参数;--proxy-anyauth--proxy-basic--proxy-diges--proxy-negotiate--proxy-ntlm
* i1 f8 T6 P& M" b; b http代理认证方式,参考:--anyauth--basic--diges--negotiate--ntlm-U --proxy-user 设置代理的用户名和密码;
) Q, X* M9 u9 n9 {) w' u 数据传输-G--get【参考】如果使用了此参数,“-d/”、“--data”、“--data-binary”参数设置的数据,讲附加在url上,以GET的方式请求;-d @file-d "string"--data "string"--data-ascii "string"--data-binary "string"--data-urlencode "string"【参考】
+ @' \' O( y- a; a3 F; H& W$ A+ N (HTTP)使用HTTP POST方式发送“key/value对”数据,相当于浏览器表单属性(method="POST",enctype="application/x-www-form-urlencoded") -d,--data:HTTP方式POST数据; --data-ascii:HTTP方式POST ascii数据; --data-binary:HTTP方式POST二进制数据; --data-urlencode:HTTP方式POST数据(进行urlencode);如果数据以“@”开头,后紧跟一个文件,将post文件内的内容;
9 [" G0 g0 k; Z) V& C) O) F) w -F name=@file-F name= + ~3 S% A9 `( \
如果字段内容以“@”开头,剩下的部分应该是文件名,curl将会上传此文件,如:curl -F "pic=@pic.jpg" http://aiezu.com;curl -F "page=@a.html;type=text/html" * u; F* x, x W6 N u Z
http://aiezu.comcurl -F "page=@/tmp/a;filename=a.txt" http://aiezu.com如果字段内容以“<”开头,剩下的部分应该是文件名,curl将从文件中获取作为此字段的值,如:curl -F "text=
, ?+ ]1 q o4 o' G http://aiezu.com;--form-string (HTTP)类似于“--form”,但是“@”、“<”无特殊含义;-T file--upload-file file通过“put”的方式将文件传输到远程网址;选项参数只使用字符"-",将通过stdin读入文件内容;如:cat test.txt|curl " 7 M; w/ X% N6 n$ x! E- i* D% @' A
http://aiezu.com/a.php" -T - curl "http://aiezu.com/a.php" -T -
; j' e0 u4 x8 l! Q+ a5 @ http://aiezu.comcurl -T "img[1-1000].png" http://aiezu.com断点续传-C --continue-at 断点续转,从文件头的指定位置开始继续下载/上传;offset续传开始的位置,如果offset值为“-”,curl会自动从文件中识别起始位置开始传输; ; i2 x* A5 ^0 m
-r --range (HTTP/FTP/SFTP/FILE) 只传输内容的指定部分:0-499:最前面500字节;-500:最后面500字节;9500-:最前面9500字节;0-0,-1:最前面和最后面的1字节;100-199,500-599:两个100字节; 7 y( g- X* O) k" A. {9 r) h* M9 I( C, f
认证--basic(HTTP)告诉curl使用HTTP Basic authentication(HTTP协议时),这是默认认证方式;--ntlm(HTTP)使用NTLM身份验证方式,用于HTTP协议;一般用于IIS使用NTLM的网站; 5 u0 V; [, C H [
--digest(HTTP)使用HTTP Digest authentication加密,用于HTTP协议;配合“-u/--user”选项,防止密码使用明文方式发送;--negotiate(HTTP)使用GSS-Negotiate authentication方式,用于HTTP协议;它主要目的是为它的主要目的是为kerberos5认证提供支持支持; - O) E% w/ o5 v' d; E9 G$ q
--anyauth(HTTP)告诉curl自动选择合适的身份认证方法,并选用最安全的方式;-u user:password--user user:password使用用户名、密码认证,此参数会覆盖“-n”、“--netrc”和“--netrc-optional”选项;如果你只提供用户名,curl将要求你输入密码;如果你使用“SSPI”开启的curl库做“NTLM”认证,可以使用不含用户名密码的“-u:”选项,强制curl使用当前登录的用户名密码进行认证;此参数相当于设置http头“Authorization:”; ' I) S3 l3 k+ D# \
证书-E --cert (SSL)指定“PEM”格式的证书文件和证书密码;--cert-type (SSL)告诉curl所提供证书的类型:PEM、DER、ENG等;默认为“PEM”; 2 q; \. @9 K1 f2 g7 {# I) d
--cacert (SSL)告诉curl所以指定的CA证书文件,必须是“PEM”格式;--capath (SSL)告诉curl所以指定目录下的CA证书用来验证;这些证书必须是“PEM”格式; ! E& b7 s4 Y h
--crlfile (HTTPS/FTPS)提供一个PEM格式的文件,用于指定被吊销的证书列表;-k--insecure(SSL)设置此选项将允许使用无证书的不安全SSL进行连接和传输SSL其他。
7 T( E( } v- F7 Z6 v4 q --ciphers (SSL)指定SSL要使用的加密方式;如:“aes_256_sha_256”;--engine 设置一个OpenSSL加密引擎用于加密操作;使用“curl --engine list”查看支持的加密引擎列表;
. \: J0 o0 D( K$ K$ w) g, O --random-file(SSL)指定包含随机数据的文件路径名;数据是用来为SSL连接产生随机种子为;--egd-file (SSL)为随机种子生成器EGD(Entropy Gathering Daemon socket)指定的路径名; # c( t9 Z1 B/ k. l: x
-1/--tlsv1--tlsv1.0--tlsv1.1--tlsv1.2-2/--sslv2-3/--sslv3(SSL)使用TLS版本2与远程服务器通讯;(SSL)使用TLS 1.0版本与远程服务器通讯;(SSL)使用TLS 1.1版本与远程服务器通讯;(SSL)使用TLS 1.2版本与远程服务器通讯;(SSL)使用SSL版本2与远程服务器通讯;(SSL)使用SSL版本3与远程服务器通讯;
2 ?9 _9 O6 G+ p# z& M" U! Z 私钥公钥--key (SSL/SSH)指定一个私钥文件名;为指定时自动尝试使用下面文件:“~/.ssh/id_rsa”、“~/.ssh/id_dsa”、“./id_rsa”、 “./id_dsa”; 3 ?& i; L6 L* [
--key-type (SSL)指定私钥文件类型,支持:DER、PEM、ENG,默认是PEM;--pass (SSL/SSH)指定私钥文件的密码;--pubkey : d7 H% K4 F5 G, r
(SSH)使用指定文件提供的您公钥;FTP-P--ftp-port (FTP)FTP主动模式时,设置一个地址等待服务器的连接,如:网卡:eth1IP:8.8.8.8主机名:http://aiezu.com
8 _+ q, o4 L2 c: r l4 F 可以加端口号:eth1:20000-21000;--crlf(FTP)上传时将换行符(LF)转换为回车换行(CRLF);--ftp-account [data](FTP)ftp帐号信息;--ftp-method [method] # C* O1 ?% G( Q$ V( I
(FTP)可选值:multicwd/nocwd/singlecwd;--ftp-pasv(FTP)使用使用PASV(被动)/EPSV模式;--ftp-skip-pasv-ip(FTP)使用PASV的时,跳过指定IP;
+ ?9 Y( Z# }1 k --ftp-create-dirs(FTP)上传时自动创建远程目录;-l--list-only(FTP)列出ftp文件列表;-B--use-ascii(FTP/LDAP)使用Ascii传输模式,用于FTP、LDAP;在ftp中相当与使用了“type=A;”模式。
* L2 m5 @; W6 L --disable-epsv(FTP)告诉curl在PASV(被动模式)时不要使用EPSV;--disable-eprt(FTP)告诉curl在主动模式时禁用EPRT和LPRT;限速--limit-rate 1 M# ^; J6 v, n
限制curl使用的最大带宽;如果未指定单位,默认单位为“bytes/秒”,你也可以指定单位为“K”、“M”、“G”等单位,如:“--limit-rate 1m”为限制最大使用带宽为“1m字节/秒”;-y--speed-time
$ _+ k- K& }/ H7 G( H If a download is slower than speed-limit bytes per second during a speed-time period, the download gets aborted. If speed-time is used, the default speed-limit will be 1 unless set with -Y.This option controls transfers and thus will not affect slow connects etc. If this is a concern for you, try the --connect-timeout option. - Q! b* E+ [7 T7 E ~
-Y--speed-limit If a download is slower than this given speed (in bytes per second) for speed-time seconds it gets aborted. speed-time is set with -y and is 30 if not set.
) F1 [7 U: B: U 其他选项-0/--http1.0(HTTP) 强制curl使用HTTP 1.0而不是使用默认的HTTP 1.1;--interface 使用指定的网卡接口访问;curl --interface eth0
* c$ P K3 W. q2 | http://aiezu.comcurl --interface 10.0.0.101 http://aiezu.com-X --request (HTTP)指定与服务器通信使用的请求方法,如:GET、PUT、POST、DELETE等,默认GET;
( \. h* V# o; l9 M --keepalive-time 设置keepalive时间--no-keepalive关闭keepalive功能;--no-buffer禁用对输出流缓冲;--buffer启用输出流缓冲; 4 x8 `! V: l0 X! N- c7 b. G
-L--location(HTTP/HTTPS)追随http响应头“Location:”定向到跳转后的页面;(在http响应码为3XX时使用,如301跳转、302跳转)--location-trusted
, v! n( M5 u7 v( v8 q: h# l (HTTP/HTTPS)同“--location”,但跳转后会发送跳转前的用户名和密码;--compressed(HTTP)请求对返回内容使用压缩算法进行压缩;curl支持对gzip压缩进行解压;--connect-timeout . m( J7 b/ T9 J# V! k
指定最大连接超时,单位“秒”;-m seconds--max-time seconds限制整个curl操作的最长时间,单位为秒;-s--silent安静模式不要显示进度表或错误消息;-#--progress-bar。 # j" S# V w% n! T; B' U4 W
显示进度条;错误选项-f--fail(HTTP)连接失败时(400以上错误)不返回默认错误页面,而是返回一个curl错误码“22”;--retry --retry-delay --retry-max-time
) \3 C$ u7 w0 ~9 E* N- d3 y8 L 失败重试次数;重试间隔时间;最大重试时间;-S--show-error安静模式下显示错误信息;--stderr 错误信息保存文件;输出-o file--output file将返回内容输出到文件。 , j3 U6 c+ B N7 b
如果是用过通配符获取多个url,可以使用“#”后跟“数字序号”,curl会自动将它替换对应的关键词,如: curl "http://aiezu.com/{a,b}.txt" -o "#1.txt"; 将保存为:“a.txt”,“b.txt”; curl "
u+ w" M% @ b' o5 ~. z" l http://aiezu.com/{a,b}_[1-3].txt" -o "#1#2.txt"; 将保存为:a1.txt、a2.txt、a3.txt、b1.txt、b2.txt、b3.txt 如果要根据规则创建保存目录,参考:“--create-dirs”指定“-”将定向到标准输出“如控制台”; ) C6 x1 L' n! _1 b- l- i
-O--remote-name将返回内容输出到当前目录下,和url中文件名相同的文件中(不含目录);--create-dirs与“-o”参数配合使用,创建必要的本地目录层次结构-w--write-out format
8 S! |, M: ?2 e5 F2 P; b 操作完成后在返回信息尾部追加指定的内容;要追加的内容可以是一个字符串“string”、从文件中获取“@filename”、从标准输入中获取“@-”格式参数中可以用%{variable_name} 方式使用响应信息的相关变量,如:%{content_type}、%{http_code}、%{local_ip}...,更多变量参考“man curl”获取;格式参数可以使用“\n”、“\r”、“\t”等转义字符;
( N3 X+ h5 ^8 S- q 调试--trace 转储所有传入和传出的数据到文件,包括描述信息;使用“-”作为文件名将输出发送到标准输出--trace-ascii file转储所有传入和传出的数据到文件,包括描述信息,只转储ASCII部分,更容易阅读;使用“-”作为文件名将输出发送到标准输出。 ) ^* i1 N0 x5 J) J& I
这个选项会覆盖之前使用的-v、 --verbose、 --trace-ascii选项;--trace-time转储文件中添加时间信息;-K--config 从配置文件中读取参数,参考:
: A8 Z! T5 [& W% G2 ?3 |+ r http://curl.haxx.se/docs/-v--verbose显示更详细的信息,调试时使用;帮助-M--manual显示完整的帮助手册;-h--helplinux curl用法帮助;curl -h 的完整参数解释: ) c- w# @5 D. [ O M
-a/--append上传文件时,附加到目标文件--anyauth可以使用“任何”身份验证方法--basic使用HTTP基本验证-B/--use-ascii使用ASCII文本传输-d/--data
1 }# K9 ?6 r1 J7 m% z0 Z2 p% M HTTP POST方式传送数据--data-ascii 以ascii的方式post数据--data-binary 以二进制的方式post数据--negotiate使用HTTP身份验证
/ a" l7 K f \" s6 I9 V1 q0 } --digest使用数字身份验证--disable-eprt禁止使用EPRT或LPRT--disable-epsv禁止使用EPSV--egd-file 为随机数据(SSL)设置EGD socket路径
/ h$ k+ j+ J- }2 M' ] --tcp-nodelay使用TCP_NODELAY选项-E/--cert 客户端证书文件和密码 (SSL)--cert-type 证书文件类型 (DER/PEM/ENG) (SSL) |; S: u! s! N s8 d
--key 私钥文件名 (SSL)--key-type 私钥文件类型 (DER/PEM/ENG) (SSL)--pass 私钥密码 (SSL)--engine / d9 |# w7 |2 S, b( y7 I$ X8 F: d
加密引擎使用 (SSL). "--engine list" for list--cacert CA证书 (SSL)--capath CA目 (made using c_rehash) to verify peer against (SSL)
D1 E0 @1 O" L- I: H --ciphers SSL密码--compressed要求返回是压缩的形势 (using deflate or gzip)--connect-timeout 设置最大请求时间
% E- [! `! l3 f7 _ --create-dirs建立本地目录的目录层次结构--crlf上传是把LF转变成CRLF--ftp-create-dirs如果远程目录不存在,创建远程目录--ftp-method [multicwd/nocwd/singlecwd] : L& |8 B+ d) K( l7 Q7 @8 ]1 |6 {
控制CWD的使用--ftp-pasv使用 PASV/EPSV 代替端口--ftp-skip-pasv-ip使用PASV的时候,忽略该IP地址--ftp-ssl尝试用 SSL/TLS 来进行ftp数据传输 ) g; t# _! _& C( E
--ftp-ssl-reqd要求用 SSL/TLS 来进行ftp数据传输-F/--form 模拟http表单提交数据-form-string 模拟http表单提交数据
# q) A1 v$ \/ [ -g/--globoff禁用网址序列和范围使用{}和[]-G/--get以get的方式来发送数据-h/--help帮助-H/--header 自定义头信息传递给服务器--ignore-content-length 8 \" k! h) c, [
忽略的HTTP头信息的长度-i/--include输出时包括protocol头信息-I/--head只显示文档信息-j/--junk-session-cookies读取文件时忽略session cookie
9 Y+ y, L) n% M. t+ r# M --interface 使用指定网络接口/地址--krb4 使用指定安全级别的krb4-k/--insecure允许不使用证书到SSL站点-K/--config指定的配置文件读取
3 _$ Y& ?$ q: M4 a, ` -l/--list-only列出ftp目录下的文件名称--limit-rate 设置传输速度--local-port强制使用本地端口号-m/--max-time
* _: ?- q* ^9 h( N8 a- `0 Z 设置最大传输时间--max-redirs 设置最大读取的目录数--max-filesize 设置最大下载的文件总量-M/--manual显示全手动-n/--netrc从netrc文件中读取用户名和密码 # R* ?$ D! P& S: ?
--netrc-optional使用 .netrc 或者 URL来覆盖-n--ntlm使用 HTTP NTLM 身份验证-N/--no-buffer禁用缓冲输出-p/--proxytunnel使用HTTP代理 - E$ b2 J3 e O, _! Y* E( ^% \
--proxy-anyauth选择任一代理身份验证方法--proxy-basic在代理上使用基本身份验证--proxy-digest在代理上使用数字身份验证--proxy-ntlm在代理上使用ntlm身份验证 4 L5 a6 d4 P: o/ v
-P/--ftp-port 使用端口地址,而不是使用PASV-Q/--quote 文件传输前,发送命令到服务器--range-file读取(SSL)的随机文件-R/--remote-time ' W9 e5 n; r1 M* W) ?, i; q
在本地生成文件时,保留远程文件时间--retry 传输出现问题时,重试的次数--retry-delay 传输出现问题时,设置重试间隔时间--retry-max-time
# I& T: _1 q* [- w0 R8 I 传输出现问题时,设置最大重试时间-S/--show-error显示错误--socks4 用socks4代理给定主机和端口--socks5 用socks5代理给定主机和端口 2 T3 F$ X* b& X* j! ?& |
-t/--telnet-option Telnet选项设置--trace 对指定文件进行debug--trace-ascii Like --跟踪但没有hex输出
6 r5 L V3 s7 c/ ~2 n --trace-time跟踪/详细输出时,添加时间戳--url Spet URL to work with-U/--proxy-user 设置代理用户名和密码 2 b i' P7 A) K7 z
-V/--version显示版本信息-X/--request 指定什么命令-y/--speed-time放弃限速所要的时间默认为30-Y/--speed-limit停止传输速度的限制,速度时间秒。 ' W9 M5 ?6 J; j L0 `8 M' Z
-z/--time-cond传送时间设置-0/--http1.0使用HTTP 1.0-1/--tlsv1使用TLSv1(SSL)-2/--sslv2使用SSLv2的(SSL)-3/--sslv3使用的SSLv3(SSL) 0 g5 M" z% l! n8 h9 x: c
--3p-quotelike -Q for the source URL for 3rd party transfer--3p-url使用url,进行第三方传送--3p-user使用用户名和密码,进行第三方传送
4 E" v B9 A3 e% M4 Q: {1 B0 t -4/--ipv4使用IP4-6/--ipv6使用IP6三、常见用法1、下载(option:-o或者option:-O)1.1、下载页面:curl -o dodo1.jpg http:http://www. 5 S; A% ?$ X: s
linux.com/dodo1.JPG#要注意-O这里后面的url要具体到某个文件,不然抓不下来curl -O http://www.linux.com/dodo1.JPG1.2:循环下载有时候下载图片可以能是前面的部分名称是一样的,就最后的尾椎名不一样。
/ V6 I' U* a% h+ C% j% u 这样就会把dodo1,dodo2,dodo3,dodo4,dodo5全部保存下来curl -O http://www.linux.com/dodo[1-5].JPG1.3:下载重命名在hello/dodo1.JPG的文件下载下来就会变成hello_dodo1.JPG,其他文件依此类推,从而有效的避免了文件被覆盖 - j \) s$ O6 L8 z2 d% V
curl -o #1_#2.JPG http://www.linux.com/{hello,bb}/dodo[1-5].JPG由于下载的hello与bb中的文件名都是dodo1,dodo2,dodo3,dodo4,dodo5。
3 ]4 {# W' n. _+ I6 x 因此第二次下载的会把第一次下载的覆盖,这样就需要对文件进行重命名curl -O http://www.linux.com/{hello,bb}/dodo[1-5].JPG1.4:分块下载(option:-r) ( C8 T. e8 |5 E9 o2 }
curl -r 0-100 -o dodo1_part1.JPG http://www.linux.com/dodo1.JPGcurl -r 100-200 -o dodo1_part2.JPG http://www. 2 | D8 R @- P2 A
linux.com/dodo1.JPGcurl -r 200- -o dodo1_part3.JPG http://www.linux.com/dodo1.JPGcat dodo1_part* > dodo1.JPG #这样就可以查看dodo1.JPG的内容了 " n# y- U0 B& {+ ], G& E
1.5:通过ftp下载文件(option:-u)curl可以通过ftp下载文件,curl提供两种从ftp中下载的语法curl -O -u 用户名:密码 ftp://www.linux.com/dodo1.JPG ' `7 o4 D& W. x. r/ F
curl -O ftp://用户名:密码@http://www.linux.com/dodo1.JPG1.6:下载,显示进度条(option:-#)或不显示进度条(option:-s)curl -# -O
9 y0 k, _- f/ P0 r$ ?# @$ \& Z http://www.linux.com/dodo1.JPGcurl -s -O http://www.linux.com/dodo1.JPG1.7、下载,断点续传(-C )断点续转,从文件头的指定位置开始继续下载/上传;offset续传开始的位置,如果offset值为“-”,curl会自动从文件中识别起始位置开始传输;
, z) s* E: j" h' c/ |# U" \ curl -# -o centos6.8.iso -C - http://mirrors.aliyun.com/centos/6.8/isos/x86_64/CentOS-6.8-x86_64-minimal.iso i+ `% F5 ~# g( S7 T
curl -C -O http://www.linux.com/dodo1.JPG2、上传文件(option:-T)curl -T dodo1.JPG -u 用户名:密码 ftp://www.linux.com/img/
6 a* U* b: @( O3 `! u 3、伪造来源页面|伪造referer|盗链 (option:-e)很多服务器会检查http访问的referer从而来控制访问比如:你是先访问首页,然后再访问首页中的邮箱页面,这里访问邮箱的referer地址就是访问首页成功后的页面地址,如果服务器发现对邮箱页面访问的referer地址不是首页的地址,就断定那是个盗连了。
' E/ z! l. U4 b9 A #这样就会让服务器其以为你是从http://www.linux.com点击某个链接过来的curl -e "http://www.linux.com" http://mail.linux.com#告诉爱E族,我是从百度来的 $ t8 b J% M* e4 ]
curl -e http://baidu.comhttp://aiezu.com4、伪造代理设备(模仿浏览器)有些网站需要使用特定的浏览器去访问他们,有些还需要使用某些特定的版本curl内置option:-A可以让我们指定浏览器去访问网站。 & ^2 k9 m5 w0 E
curl -A "Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.0)" http://www.linux.com#告诉爱E族,我是GOOGLE爬虫蜘蛛(其实我是curl命令) ! e8 X4 ?* `3 K! j* R
curl -A " Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)" http://aiezu.com#告诉爱E族,我用的是微信内置浏览器 # d0 @7 G8 a$ u
curl -A "Mozilla/5.0 AppleWebKit/600 Mobile MicroMessenger/6.0" http://aiezu.com5、设置http请求5.1、设置http请求头(或option:-H或option:--head) . F/ V0 V# r4 }4 X8 f
curl -H "Cache-Control:no-cache" http://aiezu.com5.2、指定proxy服务器以及其端口(option::-x)#很多时候上网需要用到代理服务器(比如是使用代理服务器上网或者因为使用curl别人网站而被别人屏蔽IP地址的时候),幸运的是curl通过使用内置option:-x来支持设置代理
$ R, C* {2 P# m9 }5 U6 e' F5 ? curl -x 192.168.100.100:1080 http://www.linux.com6、http响应头6.1、查看http响应头(option:-I)# 看看本站的http头是怎么样的curl -I
7 j- N8 I8 H$ w: W- T http://aiezu.com输出:HTTP/1.1 200 OKDate: Fri, 25 Nov 2016 16:45:49 GMTServer: ApacheSet-Cookie: rox__Session=abdrt8vesprhnpc3f63p1df7j4; path=/ 3 j7 j2 ~, Z5 C* ~" [1 g6 A$ L
Expires: Thu, 19 Nov 1981 08:52:00 GMTCache-Control: no-store, no-cache, must-revalidate, post-check=0, pre-check=0
: ]9 u L% j) y, x6 M' v% R Pragma: no-cacheVary: Accept-EncodingContent-Type: text/html; charset=utf-86.2、保存http的response里面的header信息(option:-D)
+ P+ N3 ~) w) r$ O curl -D cookied.txt http://www.linux.com执行后cookie信息就被存到了cookied.txt里面了注意:-c(小写)产生的cookie和-D里面的cookie是不一样的。 * n* S' ?" P. {
7、发送表单数据curl -F "pic=@logo.png" -F "site=aiezu" http://aiezu.com/8、cookie8.1、发送cookie(option:-b)#有些网站是使用cookie来记录session信息。
/ l) v3 L4 c: F$ A5 C5 Q6 d; s0 D 对于chrome这样的浏览器,可以轻易处理cookie信息,但在curl中只要增加相关参数也是可以很容易的处理cookiecurl -b "domain=http://aiezu.com" http:// 5 e; ~2 O+ o3 B: C# F7 H- P9 C
aiezu.com#很多网站都是通过监视你的cookie信息来判断你是否按规矩访问他们的网站的,因此我们需要使用保存的cookie信息内置option: -bcurl -b cookiec.txt http://www.
5 x9 C+ Y5 U) ~2 B, s# d O linux.com8.2、保存http的response里面的cookie信息(option:-c)执行后http的response里面的cookie信息就被存到了cookiec.txt里面了curl -c cookiec.txt * ^+ B1 e# K: d
http://www.linux.com9、测试一个网址9.1、测试一个网址是否可达curl -v http://www.linux.com9.2、测试网页返回值(option:-w [format]) # c& y9 O( j$ x7 s: J
curl -o /dev/null -s -w %{http_code} http://www.linux.com10、保存访问的网页(>>)2.1:使用linux的重定向功能保存curl http://www.
3 S/ G0 U( P/ M6 p5 T# A5 s$ A linux.com >> linux.html11、请求方式curl -i -v -H -X POST -d http:http://www.test.com/a/b其中,-X POST -d, -X GET -d, -X PUT -d 分别等价于-F, -G -d, -P
" P8 i9 ^7 b2 V$ L( l2 X7 v 以post请求为例:11.1、 -X POST -d(11.1.1)、POST application/x-www-form-urlencodedapplication/x-www-form-urlencoded是默认的 ! C, Q( X6 C. n
curl -X POST -d "param1=value1¶m2=value2" http://localhost:3000/data等价于curl -H "Content-Type:application/x-www-form-urlencoded" -X POST -d "param1=value1¶m2=value2" http://localhost:3000/data
8 B7 W" H0 X. C6 A, |4 D 使用数据文件curl -X POST -d "@data.txt" http://localhost:3000/data其中data.txt内容如下:param1=value1¶m2=value2(11.1.2)、POST application/json 7 a; `, t$ x8 T" ~. g
curl -H "Content-Type:application/json" -X POST -d {"key1":"value1","key2":"value2"} http://localhost:3000/data $ |) V$ H) r6 u2 d4 z% Q# }; \
使用数据文件的话:curl -X POST -d "@data.json" http://localhost:3000/data其中data.json内容如下:{"key1":"value1","key2":"value2"}
; W1 ~0 L z, C; f, ^ 再举个例子:curl -H "Content-type:application/json" -X POST -d "{\"app_key\":\"$appKey\",\"time_stamp\":\"$time\"}"
. E& R5 p# s5 \" P6 P* z4 O d http://www.test.com.cn/a/b11.2、-Fcurl -v -H "token: 222" -F "file=@/Users/fungleo/Downloads/401.png" localhost:8000/api/v1/upimg
0 Z+ a4 G. M& D3 K! J curl -f http://www.linux.com/error11.3、其它举例(11.3.1)、curl -X POST "http://www.test.com/e/f" -H "Content-Type:application/x-www-form-urlencoded;charset=UTF-8" \ , {4 A( n8 C6 m' v
-d "a=b" \-d "c=d" \-d "e=f" \-d "g=h"(11.3.2)、错误:curl -i -G -d "a=b#1&c=d" http://www.test.com/e/f正确:要把参数值是特殊符号的用urlencode转换过来 % |2 r( I. P' i1 E+ w& y2 t
curl -i -G -d "a=b%231&c=d" http://www.test.com/e/f12、调试curl -v可以显示一次http通信的整个过程,包括端口连接和http request头信息。 , M$ p# p0 R. W
如果觉得还不够,那么下面的命令可以查看更详细的通信过程:curl --trace output.txt http://www.baidu.com 或者 curl --trace-ascii output.txt $ S8 I( b9 A" G
http://www.baidu.com运行后,请打开output.txt文件查看curl --trace output.txt http://www.baidu.comcurl --trace-ascii output2.txt 。 ' L4 O# x) v D6 q, l5 q
http://www.baidu.comcurl --trace output3.txt --trace-time http://www.baidu.comcurl --trace-ascii output4.txt --trace-time
q, K* j' h1 Q$ }: I6 ^ http://www.baidu.com举例:有需求每5分钟请求一次http://www.test.com/a/b生成一个日志文件希望一月的日志(正确的和错误的)能写入一个日志文件day=`date +%F`。
3 |. f* a, Q* w2 u1 ~* Y logfile=/var/logs/www.test.com_`date +%Y%m`.log/usr/bin/echo -e "\n\n[${day}] Start request \n " >> ${logfile}
& z" g h4 q* ~9 p9 E /bin/curl -v "http://www.test.com/a/b" -d "ccccc" 1>> ${logfile} 2>> ${logfile} --trace-time/usr/bin/echo -e "\n\n[${day}] End request\n" >> ${logfile} , c& c0 M/ A7 P4 N( b- U& b
13、显示抓取错误curl -f http://www.linux.com/error参考链接 curl命令_ths512的博客-CSDN博客_curl命令 4 [. \+ @ m1 L' Z
) ?7 o! e: u' K+ r# ?1 @
+ U" w; v A% a
4 Z$ o) J' P( I1 k9 a u& G" V
) ] E- P) w0 A: j+ f |