先说明哈,不是我写的,是网上收集再整理的,有撒不正确的下面的跟。2 K: T8 A* m8 z* }1 i: e$ n3 t
如果用虚拟主机的朋友,可以FTP的你的空间上找到logfiles文件夹,下面的.log文件就是IIS日志了
" \" R; I+ ]' R' I o% [9 {. x研究se爬行规律对于网站优化意义重大,特别是对百度蜘蛛Baiduspider的研究。本文解释一下百度蜘蛛爬行后返回代码代表的具体含义:
3 |* m* h; }" S; m9 [2xx 成功
; r/ B1 B1 l: J/ d3 ]2 V8 N' H200 正常;请求已完成。) Z a+ |- T# g" ^! f y+ K2 X
201 正常;紧接 POST 命令。
9 M: C& ?9 F. o- o: |202 正常;已接受用于处理,但处理尚未完成。
$ x) u1 h6 L" M: d2 l2 J; O! E8 C203 正常;部分信息 — 返回的信息只是一部分。. ?$ c' l6 g9 v, l/ y c
204 正常;无响应 — 已接收请求,但不存在要回送的信息。- y% b1 q$ o5 K
3xx 重定向
6 ]" o$ c5 O$ M1 \301 已移动 — 请求的数据具有新的位置且更改是永久的。
! S- W8 y( J" ^; j& H302 已找到 — 请求的数据临时具有不同 URI。- z+ W( x, R' K" J
303 请参阅其它 — 可在另一 URI 下找到对请求的响应,且应使用 GET 方法检索此响应。1 V" Z' P4 V9 U
304 未修改 — 未按预期修改文档。
- T# ?% e: j+ o7 p& e0 M305 使用代理 — 必须通过位置字段中提供的代理来访问请求的资源。2 O: ^2 X- D# X) w* t% I
306 未使用 — 不再使用;保留此代码以便将来使用。
/ e( E8 g/ s- \! ?0 b3 l" f% ]4xx 客户机中出现的错误
( P: ]% K# W! S/ D2 U, g) f; h400 错误请求 — 请求中有语法问题,或不能满足请求。# ~6 |: f4 K. u2 R% @! Q. _
401 未授权 — 未授权客户机访问数据。
* J* K3 E8 I. F402 需要付款 — 表示计费系统已有效。
: p: j: N8 D) Y403 禁止 — 即使有授权也不需要访问。
* T; N4 S. r0 c+ p q0 [/ N404 找不到 — 服务器找不到给定的资源;文档不存在。
$ i- s" l' \0 v. S* ?4 u407 代理认证请求 — 客户机首先必须使用代理认证自身。
0 f$ d6 N4 v$ i3 \410 请求的网页不存在(永久);
5 C* ~5 s' n! f8 R415 介质类型不受支持 — 服务器拒绝服务请求,因为不支持请求实体的格式。
* s# X5 h: L; f1 Y( H5xx 服务器中出现的错误4 ^. ~' {6 g# V* j4 Q7 |+ r% \
500 内部错误 — 因为意外情况,服务器不能完成请求。, L7 t3 ]3 |+ t4 W
501 未执行 — 服务器不支持请求的工具。
& W8 Y" N/ D6 B! l/ G) N502 错误网关 — 服务器接收到来自上游服务器的无效响应。
9 r% X! b( K: L+ p1 p503 无法获得服务 — 由于临时过载或维护,服务器无法处理请求。/ u3 ~! X9 [. f, t) X1 l4 s) l
比如说:* g7 ~* b3 Z# x. u! L y4 u
2008-03-27 04:25:32 61.135.145.208 - *.*.*.* 80 GET 。。/index。html - 304 Baiduspider+(+http://www。baidu。com/search/spider。htm)
3 k- `: ~6 w3 `) Y这就意味着百度蜘蛛在2008-03-27 04:25:32 爬过/index。html这一页,304代表了它发现这页是没有更新过的。根据这个我们可以多查看iis日志,研究蜘蛛爬行的路径,找出自己网站存在的问题,进而改正。/ O* d8 v4 U8 f& i
返回的http状态诸如200 0 64分析说明1 V2 o% c* z2 E/ _! h) ~3 r: O0 p
在百度研究院的论坛里看到一位版主有这样的一段解释:' _5 [9 O$ y8 t! B0 ?8 Y3 e
蜘蛛在IIS里的行为200 0 64 的解释:
' b( B2 V/ w/ L' y根据我前段时间到现在的观察,虽然没有足够的证据,但是基本上可以肯定在IIS中,如果蜘蛛后面的号码出现200 0 64,那么网站中的这个单页面就会在搜索引擎中消失了.我被K的页面后面都写着200 0 64 ,不知道大家是否认同,还有其他看法,当然,我说这个不够绝对,因为我也有一个页面后面显示着200 0 64 但是在搜索引擎中依旧可以找到.这也说明着问题,但大多200 0 64行为的网页就已经没有了.
0 D& o; N/ Q) }# }5 ~" H; N% }) _所以我觉得蜘蛛的200 0 64行为可以被解释为清除数据。这个解释,目前看 上去还是有可信度的。我认为,抓取状态成200 0 64是不正常的抓取,正常的抓取是成功标志200 0 0,当变成了200 0 64的状态时说明搜索引擎在抓取这个页面的时候出现了错误,没有正常的进行常规抓取;对于百度来说,百度很可能是已经不再把这些页面抓进主索引库,而是放 进了“百度沙盒”里进行考察,考察多久,就看你如何改进,也许,你看不到百度把这些被K的网站释放出来的时候,人是没有规律的。
- m! j# p2 ]$ E/ P4 M+ z0 C现货黄金 http://www.900gold.com/xhhj/ |