404页面根据抓取如何调整

友情出演 · 发表于 2012-08-15 10:06:46

网站日志是记录服务器的日常动态，特别是搜索引擎爬行和抓取的动态，通过日志能很清晰的分析出来。看看有多少301，多少404，看看哪些页面被过渡抓取，哪些始终没有被爬行，每个页面的平均抓取时间，蜘蛛每次访问网站的抓取深度，蜘蛛每天到访网站的次数等等，这些都能直接反应网站目前的问题。
　　访问次数侧面反应权重
　　蜘蛛访问网站的次数能侧面反应出网站自身的权重，一般小网站单个蜘蛛每天来访的次数大概在几十次。如果高于几十次，那么说明通过链接爬行到网站上的次数较多，那么抓取收录的机会就会大一些，最终对排名也是有积极的影响。如果每天来访一两次甚至零次，那么网站非常危险。
　　404页面降低整体权重
　　每个网站或多或少的都有404错误页面，这是不可避免的现象。有时候是空间上本身问题，有时候是自身网站的设置问题，有时候是外部网站存在外部链接的问题，从日志中一旦发现，就应该立刻调整。如果是抓取某个URL404特别多的话，需要在网站上建立这样一个URL页面，有效的利用，也可以修改robots文件给予屏蔽，禁止抓取。大量的404错误会被蜘蛛记录下来，对网站是减分印象，所以会从整体上降低网站的权重。
　　根据抓取排行做调整
　　在很多网站日志中，都能清晰的看到页面的抓取排行，URL的抓取排行，这些排行最能直接的反应网站的那些部分是最受蜘蛛欢迎的。如果出现了很多css或js的文件都被大量的访问，那么页面中这样的链接就大大浪费了权重，所以需要修改robots文件给予禁止。查看有些网站的日志，能明显的看到哪些被过渡抓取，哪些重点内容抓取的较少，这样观察之后就能做到心中有数，可以有的放矢。比如之前我的网站会莫名奇妙的多出一些抓取文件夹，而这些文件夹在网站中是并不存在的，所以要及时发现，并给予屏蔽。
　　另外，也偶尔也会出现一些500、206等状态码，这些都是日常的一些小问题引起的，不必过于担心。而如果大量集中的出现就说明服务器本身有问题，另外在根目录中尽量不要放置压缩文件，这样会被一些别有用心的人尝试下载网站的源码或者备份的数据。还有助于304状态码，这个说明也正常，是网站没有更新造成的。
　　定期查看网站的日志其实并不会占用我们太多的时间，但如果一直不查看，网站就会有很多的小问题我们无从知晓，或许友情连接我们做了，原创内容也更新了，外部链接也不停在发，但是排名却一直非常缓慢，那么这个时候就不妨看看你的日志，说不定问题就出在这里边。
推荐阅读：www.bet999.com
文章来源：www.xchan.cn

砰砰砰 · 发表于 2012-08-15 10:14:28

也偶尔也会出现一些500、206等状态码

TW电棍专卖 · 发表于 2012-08-15 10:50:53

在根目录中尽量不要放置压缩文件

﹃錯愛 · 发表于 2012-08-15 11:19:11

非常不错，感谢楼主的分享

寂寞的真谛 · 发表于 2012-08-15 17:42:52

404页面降低整体权重

我是脑残粉 · 发表于 2026-03-16 10:00:09

蹲了这么久，终于看到有价值的讨论，支持一下！

紫色天空 · 发表于 2026-09-03 09:38:14

完全赞同，我也是这么认为的，英雄所见略同～

codyness · 发表于 2026-09-05 01:45:36

分析得很透彻，很多细节都说到点子上了～

		自动登录	找回密码
密码			加入怎通

[站长八卦] 404页面根据抓取如何调整