找回密码
 加入怎通
查看: 572|回复: 2

[站长八卦] 教你正确识别百度蜘蛛中的伪蜘蛛

[复制链接]
WCL_D5 发表于 2013-05-14 14:09:20 | 显示全部楼层 |阅读模式
查看网站log日志来分析蜘蛛的抓取情况是我们SEO工作者必须要掌握的,但是特别要注意一些百度蜘蛛,这些蜘蛛在我们看来是没有哪些不寻常的,但是它们的有些却是一些伪蜘蛛,那么该要如何去识别这些伪蜘蛛呢?/ n/ r6 y+ F' O; ?1 d  P
. E+ u4 J# O, \
何为“伪蜘蛛”,顾名思义就是假蜘蛛,所以我们称非正常抓取网页的百度蜘蛛都是一些伪蜘蛛。  R5 m8 }1 A$ J" q  k

" ^4 f3 u/ g- `+ o0 F9 a大家都知道的是站长工具在查看网站信息后,就会出现“伪蜘蛛”的IP。现在的站长工具IP地址为“117.28.255.42”,通常我们看到以"117"开头的IP地址的百度蜘蛛都是伪蜘蛛,所以大家可以直接忽视了。想要识别时,直接使用命令行工具输入指令“tracert IP地址”,出现的结果如下图示:
% l- K- ^/ p2 U4 m- C- ]
  t' B! D- N0 J
( @* g  M* \" ?% r" nc2v.gkdh.org
. S5 ?1 @3 k& H0 N9 R" Emdb.gkdh.org: x8 i. L$ N3 F9 x+ y3 p# E
mlw.gkdh.org
4 J; K" B1 M/ T1 e; B8 Rb4p.gkdh.org
6 Z, `% C! z. A+ vepe.gkdh.org0 I! ?" _7 k' ~' H+ ?
js1.gkdh.org8 b" W7 C! o. X9 Z& D% d
l6b.gkdh.org- N: f+ Q- @1 M9 o
jo1.gkdh.org
6 D' l# A; Q& o$ M" a$ q5 J* K& d3 e, A! O+ f

5 O, t4 e: {- m/ L而今天还要介绍一种“伪蜘蛛”,这种蜘蛛同样也是百度官方的,但是却是以不建立网页索引为目的的蜘蛛。这类蜘蛛只是为了匹配网页内容才来抓取我们的网页的,是不建立任何的索引的。所以这些百度蜘蛛我们也说它们是伪蜘蛛。
; o- W3 Y9 h, q0 W- i7 x2 A  d# m1 B
1 j+ ?0 p5 }0 r( y1 Z这些蜘蛛在cmd命令行工具tracert IP地址时,是看不出任何奇怪的现象的,和普通的百度蜘蛛没有什么两样。如下图:
" @: m$ f0 K7 y' ?3 s
" I+ c, P% I& q# K( y
( G5 A7 r6 Q, E$ V+ ^
7 h# n$ G" F! Q6 N  e' h, {其实我们再回头看一下这个百度蜘蛛的IP地址,会发现这些IP和正常的IP是一样的,同样都是以“123”开头的,笔者的网站就曾出现过很多类似蜘蛛,所以就是说通过tracert命令也是不能完全的说明这个IP就是真的百度蜘蛛的。0 K$ L2 e+ X' K) T/ m" c3 G
5 R2 v) U: `6 C' {" M& Y* w
这样一来,除了联盟蜘蛛大家要注意以外,也要注意百度广告蜘蛛等伪蜘蛛的IP。4 S0 Q) z2 K$ I  }: p

9 @0 a' l4 A) D% t' a% W综上所述,通过tracert命令查询出来的蜘蛛只能查看非百度官方的蜘蛛,而对于百度内部的一些蜘蛛(譬如百度联盟)还得我们手工去认识它并识别它到底是不是真正的能够建立索引的百度蜘蛛。( k3 B' d2 ?) Q* W; F

* H, p6 ?* `  L

暂时无法加载帖子列表

回复

使用道具 举报

会跳舞的鸟 发表于 2026-09-11 05:27:18 | 显示全部楼层
完全赞同,我也是这么认为的,英雄所见略同~
回复

使用道具 举报

辥騰 发表于 2026-09-19 21:05:29 | 显示全部楼层
刚好遇到类似问题,看完这个帖子心里有底了
回复

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-9-19 23:14 , Processed in 0.039426 second(s), 25 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表