百度蜘蛛状态码的分析

驿动的鑫 · 发表于 2012-08-24 11:32:46

1、网站结构问题
如果网站结构不能有效的让蜘蛛顺利爬行，也就是说虽然蜘蛛有抓取，但由于网站结构问题导致蜘蛛前后两次抓取内容相同，或者说蜘蛛每次抓取首页都只抓了那块固定的内容，那么就势必导致蜘蛛对首页的抓取返回304状态码。
2、网站速度问题
谷歌就针对网站的加载时间更新过算法，把网站加载时间纳入了排名因素，就算搜索引擎排名不重视这点，对于用户体验也是有很大影响，谁也不会愿意多花时间在一个需要加载几十秒甚至几分钟的网站上面。而对于搜索蜘蛛也是如此，网站的加载速度也会影响蜘蛛的正常抓取，一般情况下网站都是从上往下的加载，而有的时候由于速度因素导致网站只加载了头部，后面部分而没有及时显示出来，也可能导致蜘蛛只抓取了头部部分内容，而由于一般网站的头部都是相同的，也就容易出现了抓取返回没更新的状态码。
3、服务器缓存缘故
设置缓存的作用一般都是为了加速网站的提前加载，就像我们在浏览器上访问网站的时候也比较容易出现缓存问题，当你打开一个网站之后，如果该网站有更新或者有变化，直接点击首页会发现还是之前访问的页面，而ctrl+F5重新加载后才会显示新的页面，这其实就是缓存的缘故。另外，有的时候和一些较大的网站换友情链接也会遇到，对方加了友链之后首页不会马上显示，会因为缓存而需要过一段时间才能显示。

4、网站内容问题
网上查找了下关于304状态码的一些内容，不少人都认为是网站内容长期采集或是伪原创也能导致蜘蛛返回该状态码，因为网站内容采集或伪原创的确会降低网站质量，导致百度不收录等情况，搜索蜘蛛也会认为网站内容不具备收录的意义，那么也就不会抓取新的内容而返回没有更新的状态。
本文内容是由无味喷绘http://www.hzchqz.com/编辑整理，如需转载请标明出处

kuroD258 · 发表于 2026-01-18 10:38:07

刚好遇到类似问题，看完这个帖子心里有底了

		自动登录	找回密码
密码			加入怎通

[站长八卦] 百度蜘蛛状态码的分析