找回密码
 加入怎通
查看: 426|回复: 6

[站长八卦] 为什么蜘蛛只爬行首页而不爬行内页

[复制链接]
添美-阿吉 发表于 2013-05-13 12:10:18 | 显示全部楼层 |阅读模式

- V$ ^; d$ Y. V; j9 R   百度蜘蛛只爬网站的首页不爬内页,这是怎么回事?这个问题很多人都纠结的,特别是新站上线,久久不见收录量增加,更是心急火燎。; p* D$ b& `2 W
      首先解决一个问题,怎么知道“百度蜘蛛只爬网站首页不爬内页”?
1 w% m; z0 B  q! \      蜘蛛爬行情况可以通过网站IIS日志查看,日志里面清楚的记载着蜘蛛的爬行时间、爬行的页面、抓取的页面等信息。
9 G8 j& f! O: X# j. @      神马?看不懂IIS日志?
( n* T2 G: y9 D5 B: o      网上有很多IIS日志分析工具,百度一下。这里推荐使用光年IIS日志分析工具,快速易用。2 o- K9 H$ \  R/ ~
      接下来,南唐给你分析下“百度蜘蛛只爬首页不爬内页”这个问题。
) ]6 D) L7 Y* @5 A. c; W: q      “百度蜘蛛只爬网站的首页不爬内页”原因有如下:& A* e: R  q% @1 b. ~0 k: ~
      1、robots.txt,错误操作,屏蔽了内页。9 f  k. n* W( E
      2、群发等作弊行为。, B$ B. }( y7 t% f1 X$ p) f
      3、服务器的原因。
" n, i6 s8 B# F" O! p5 A      4、网站首页到内页的链接太少,导航结构混乱,导航不清楚。2 |3 S0 X$ q: @! f- t
      5、网站质量太烂,权重极低。
/ m9 C. E4 d# M4 ~1 k      6、网站维护的时候三天打鱼两天晒网。. n/ b9 Y) N( H! J
      7、网站超级新,新的一塌糊涂。
* C% P, h8 i# h4 N' {+ F      8、网站还在百度的沙盒中,百度蜘蛛爬了,也抓取了,没有放页面快照。
" `, n; [# M0 f+ |- R      首页能够被百度蜘蛛爬行,说明网站并不是让蜘蛛不屑一顾。6 I  A) T" T' s2 {' O
      那肯定就是上面7条原因中的某一条或者N条,导致了“百度蜘蛛只爬网站的首页不爬内页”。
$ Y$ v% ]2 t5 D+ s4 T! u) X( F      探讨到此完毕,最后的最后呢,针对上面“百度蜘蛛只爬网站的首页不爬内页”的8条原因,我们一一击破。
; w% O# }2 k" u# I# _- |7 g      1-8 依次检查网站,逐一排除,逐一解决。
4 w- e  X8 R5 k- {      8大爆破方案如下:6 h2 [/ E- e8 j
      1、robots.txt的问题,浏览器输入,查看下,一目了然。
9 Q8 B; d) X$ @% I      2、这个情况,作为网站的维护者最清楚。如果有群发的seo作弊手法,造成百度蜘蛛只爬网站的首页不爬内页”很常见。
4 J0 i& m; k1 [: C3 X7 l      处理方法:1 l9 f! i2 w4 f4 ^
      停止群发的一切seo作弊手法。
$ ]8 N1 u1 G2 f( t4 ~3 o7 Q- k      有规律并且持续的更新网站内容,网站内容最好原创,次点也要是高质量的伪原创。
. u) n2 i7 ?3 Y" @% r      适当的做点外链和友情链接,引引蜘蛛。
" t8 P9 [( ?* o: z) ]      这种情况只能淡定的坚持,等。
7 ^+ [/ S- r# p0 j# c# `  V5 i3 V      3、可以通过查询“网页http状态码 ”,分析网站返回的代码,判断问题原因。
& B/ L; i2 p7 P. {  a      还有一种情况,与你同IP服务器的网站被百度惩罚,从而牵连到你的网站。
  p4 g7 X. h3 i' s      要么你还淡定的坚持,等。要么换服务器。( [5 ?1 d1 X, }' K& g5 }4 Z5 p- u
      4、整理网站导航,理顺结构,让网站导航更清晰明了。
$ g7 h2 a# ~( x9 m  R5 q      调用文章标题到首页,增加一个“最新文章”、“文章推荐”等版块,增加内页入口。
, a; @' H& i& D+ Y      5、站内文章垃圾得百度蜘蛛都懒得去爬,你还祈求蜘蛛爬完首页爬内页?
) S4 K( `6 I# E9 a) k/ z* W* ~      整理修改已经被百度收录的垃圾内容,清理未被收录的。
: \& C3 [# J# X8 o+ M      然后坚持有质量、有数量的更新网站内容,同时做好站外链接工作。( L( D8 K4 G8 h/ s
      6、月初更新一篇,月末更新一篇,天天抱怨为什么“百度蜘蛛只爬网站的首页不爬内页”。0 N$ A" d" X  F
      省省力气更新几篇文章吧。8 ]& V* k+ Z7 N' S7 T) A; ~
      百度蜘蛛像人一样,它本来是1天来一次,你网站没有更新。然后就2天来一次,你的网站依旧没有更新。然后的然后就是5、10、15。& I. ]& h2 O, X
      百度蜘蛛也有自己的行为习惯的,虽然它的智能很低级,也不能置之不理。
, f$ ]- j0 q( k4 B& |$ G, D8 U      7、作为一个新站就低调点,别天天都纠结“百度蜘蛛只爬网站的首页不爬内页”的问题。. L& c; ]& i/ i
      制定自己的网站优化方案,维护更新管理的网站,切忌使用任何作弊手法。
9 v6 H6 Q1 T2 z! d& Q: @8 J) N      8、这个原因很难确定,如果以上原因你的网站都不存在,而你的网站也是“百度蜘蛛只爬网站的首页不爬内页”。" Z7 k- s( n5 ^, R8 O/ e
8 P* S* F$ o* Y- C) x3 a

暂时无法加载帖子列表

回复

使用道具 举报

杨强 发表于 2026-10-06 21:31:08 | 显示全部楼层
完全赞同,我也是这么认为的,英雄所见略同~
回复

使用道具 举报

让我再飞一会儿 发表于 2026-10-11 21:16:39 | 显示全部楼层
楼主太厉害了,整理得这么详细,必须支持
回复

使用道具 举报

≮_龍/kuk域_≯ 发表于 2026-10-14 01:36:53 | 显示全部楼层
分析得很透彻,很多细节都说到点子上了~
回复

使用道具 举报

小小 发表于 2026-10-19 23:14:08 | 显示全部楼层
蹲了这么久,终于看到有价值的讨论,支持一下!
回复

使用道具 举报

西万路小混混 发表于 2026-10-23 13:10:56 | 显示全部楼层
这个思路很新颖,打开了新世界的大门,谢谢分享
回复

使用道具 举报

龙槐花 发表于 2026-10-24 20:13:38 | 显示全部楼层
这个分享太实用了,刚好能用到,感谢楼主!
回复

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-10-28 05:33 , Processed in 0.050977 second(s), 26 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表