找回密码
 加入怎通
查看: 1120|回复: 1

[站长八卦] 简单介绍一下如何操控蜘蛛

[复制链接]
站长小二 发表于 2012-08-25 15:28:11 | 显示全部楼层 |阅读模式
  做SEO没有人不知道蜘蛛吧,robot.txt文件就是和蜘蛛交流的文件,很多人都会说介绍要怎么让蜘蛛来爬行,却很少人知道用robot.txt去操控蜘蛛,robot.txt用得好的话蜘蛛可以为你所用。下面我来介绍一下如何操控蜘蛛。
0 U% X3 O" E( e" b. |2 H9 y8 I! P6 R4 @3 R
  一。 屏蔽相同页面
5 C3 a& A$ A6 I, c
% N6 k$ v- n. P7 \) y7 h  搜索引擎是个喜新厌旧的东西,不会去收录重复的也或者已有的页面,即使收录了后期也会被删掉,所以一开始我们可以打开robots文件,写入禁止蜘蛛来读取这个页面的代码,给蜘蛛来下个好印象,反之印象分会大大减分,影响将来蜘蛛来爬行网站。2 W( w! }7 `) d4 |0 f" V! ?
2 F9 H& I; N* X% a" c
  二。维护网站安全
) X$ @, m+ S" @" V% Y5 `4 L
; i' l" |% T0 _* I  ~/ T& k  利用robots文件可以保护网站安全,有些人可能会问如何保护网站,如果不用robots文件屏蔽掉蜘蛛抓取admin后台页面或后台以下的文件,蜘蛛就会默认收录这些页面,让heike有机可趁。
- F! ^2 o* w( J7 l
2 O; R6 k' o' `
回复

使用道具 举报

头像被屏蔽
张帆 发表于 2012-08-25 15:36:21 | 显示全部楼层
提示: 该帖被管理员或版主屏蔽
回复 支持 反对

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-3-13 13:35 , Processed in 1.626158 second(s), 54 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表