找回密码
 加入怎通
查看: 1122|回复: 2

[站长八卦] 简单介绍一下如何操控蜘蛛

[复制链接]
站长小二 发表于 2012-08-25 15:28:11 | 显示全部楼层 |阅读模式
  做SEO没有人不知道蜘蛛吧,robot.txt文件就是和蜘蛛交流的文件,很多人都会说介绍要怎么让蜘蛛来爬行,却很少人知道用robot.txt去操控蜘蛛,robot.txt用得好的话蜘蛛可以为你所用。下面我来介绍一下如何操控蜘蛛。
2 B  N. _% {: y# q/ F9 u) Y! |2 ?7 D1 W; w6 z  e  {
  一。 屏蔽相同页面
0 u! p5 @7 f; f0 S
( N8 I9 v7 F1 w9 i) u6 _( y5 r  搜索引擎是个喜新厌旧的东西,不会去收录重复的也或者已有的页面,即使收录了后期也会被删掉,所以一开始我们可以打开robots文件,写入禁止蜘蛛来读取这个页面的代码,给蜘蛛来下个好印象,反之印象分会大大减分,影响将来蜘蛛来爬行网站。2 ?+ e6 n3 M% }9 g% K
" @! D& `& T, B0 D0 n. B# `
  二。维护网站安全" h- c0 J0 u$ x! g3 j

) |$ V9 G8 b( |  利用robots文件可以保护网站安全,有些人可能会问如何保护网站,如果不用robots文件屏蔽掉蜘蛛抓取admin后台页面或后台以下的文件,蜘蛛就会默认收录这些页面,让heike有机可趁。
9 ]1 ]# b' B, u6 ~& e* G$ \9 y" D2 O8 [8 W6 V4 E
回复

使用道具 举报

头像被屏蔽
张帆 发表于 2012-08-25 15:36:21 | 显示全部楼层
提示: 该帖被管理员或版主屏蔽
回复 支持 反对

使用道具 举报

547763414 发表于 2026-03-13 13:35:20 | 显示全部楼层
学习到了,之前一直没注意过这个点,受教了
回复 支持 反对

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-3-13 15:26 , Processed in 0.294346 second(s), 27 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表