找回密码
 加入怎通
查看: 831|回复: 2

[其他] 网站建立Robots.txt和sitmap.htm的必要性及意义

[复制链接]
xiaoben 发表于 2012-05-09 17:50:07 | 显示全部楼层 |阅读模式
  网站建立Robots.txt和sitmap.htm的必要性及意义深远,像Robots.txt它是专门用来同网络蜘蛛交互用的专用文件。这也就是SEOer老是去屏蔽网站页面不想被搜索引擎抓取的原因,它是一个网站和搜索引擎蜘蛛对话的重要工具,但是蜘蛛是否都遵循站长对其实施的规则呢?$ U4 e' U+ Q4 ^. u) l8 |

8 \* H  a, X5 c2 D+ k  其实蜘蛛遵循还是得看蜘蛛出身,素质高的会遵循规则,相反则不遵循。
; b. O4 A- V" i  F
& j: M+ G6 i7 G& j1 l  另外在网站中放入一个叫做sitmap.htm的网页,并将它作为网站的入口文件,这也是蜘蛛与网站的交互方法。
) T8 `5 _4 |( u* F9 ~5 Q( b9 m/ r) w  S
  对于交互性的SEO手段,我们了解了就可以针对性的做出符合搜索引擎的蜘蛛喜好的网站地图。5 \' V7 B& b3 _$ J4 k& g

: ~8 S/ n# @4 ^$ Z" S  页面Meta字段也是站长经常使用的搜索引擎优化技术,这个字段通常会放在文档的头部,很多站点都只是简单的写个允许百度抓取的字段,正不正确笔者不清楚,SEO其实很多现象都是基于数据分析对比才能得知。Meta字段蜘蛛可以在没有读取到全部文档的情况下就了解文档的相关信息,可以避免将无效的网页取下来后又将其废弃而造成无谓的浪费。* f1 F  k9 n/ n( T

- C* V. z8 N0 w  为蜘蛛程序建立站点地图
( d& D/ y" h! `3 `$ j7 Y) N) w- I2 c* z7 f" i
  1、适用于不同搜索引擎的网站地图) S# @3 _7 e+ {3 O' e2 I( v
8 \* e% O/ h2 H/ K! A; C: g8 N+ j
  百度:建议使用Html格式的网站地图
7 p. h5 K1 G$ ?: X! A0 ~/ S3 J7 h) i
  Google:建议使用Xml格式的网站地图
4 e6 Q, ?, ~" d$ l& s% q# l& ^% S- M+ y! @6 O" f, z" s
  Yahoo:建议使用Txt格式的网站地图9 ], r1 H4 `0 g7 a# p% \
2 k! L" O$ O* T% k8 b
  2、Robots文件6 y8 a& I5 a, k! A+ V' p/ C
+ {4 \- \/ h0 r; H; J0 w0 T4 I! M
  必须把站点地图文件放在一个搜索程序容易接近的地方,在你的robots文件中为站点地图注明:URL. E6 E$ Y, p- L, z; r$ v2 G# V

) ]! Y9 B2 F6 d0 B8 M# @) i  3、保持更新) ]* P' R% M3 n

9 Q: [& n( E5 i7 G, q) `) a  确保你的网站地图文件经常更新和上传,至少在你增加网页和删除网页的时候要这么做。大型网站每月、每周甚至是每天都会自动执行更新。
; w1 S) `" C. G4 h+ w1 i7 e" D% V. w6 Y% O3 w
  任何一个网站只要内容更新+外链都能看到搜索引擎对该网站做出相对应的分析,进而增加页面权重,了解搜索引擎技术,从而为我们根据实质性的原理来进行搜索引擎优化,这才是SEO明智之举,而不是每天在那发外链更新网站内容,业余时间还是得学学相关技术。 (文:兰州最好的男科医院SEM 适用于:中国网络营销)

暂时无法加载帖子列表

回复

使用道具 举报

冷泡果茶 发表于 2026-07-15 01:45:19 | 显示全部楼层
这个思路很新颖,打开了新世界的大门,谢谢分享
回复

使用道具 举报

万众源码 发表于 2026-10-15 11:26:13 | 显示全部楼层
这个分享太实用了,刚好能用到,感谢楼主!
回复

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-11-1 12:07 , Processed in 0.037873 second(s), 26 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表