|
|
去年年底开始接触SEO，说来还是个新手，最近天天扒在各大站长论坛及百度知道等地方学习各大站长及SEO牛人的经验，今天刚好在百度知道上碰到个SEO新人朋友发表的问题：我的网站 为什么这么久了还不收录啊 外链已经有5百多了 但网站页面根本没有结果 为什么不收录。! r X1 `! ~; f' ^) m8 m
7 A8 K6 o. L$ x4 o 看了这位朋友的描述我查看了下这位朋友的网站及通过站长工具查看了下网站的基本情况，发现网站页面上也做了一定的页面优化，外链收入很正常；但是发现这个网站的google收录也为1；而后我查看了下这个网站的robot.txt，在这我发现了问题的根源User-agent: * Disallow: /
G/ O8 U' q8 ?，这两行代码的意思是禁止所有的搜索引擎搜索该站点下的所有文件。
/ q _7 T2 z! H! b7 v0 `7 B# b% jrobots.txt文件的写法
; K6 x" w! j( x) }- n, j# s1 Y User-agent: * 这里的*代表的所有的搜索引擎种类，*是一个通配符
" `$ ~9 Y. S7 i2 l- f Disallow: /admin/ 这里定义是禁止爬寻admin目录下面的目录
& z# j6 x. c1 o! F% T Disallow: /require/ 这里定义是禁止爬寻require目录下面的目录
7 G3 n. g8 B+ ~' J3 h/ P' Z1 P8 ` Disallow: /ABC/ 这里定义是禁止爬寻ABC目录下面的目录
0 ]* N+ d2 G9 G- r( {7 q% l+ i/ u Disallow: /cgi-bin/*.htm 禁止访问/cgi-bin/目录下的所有以".htm"为后缀的URL(包含子目录)。
. Q- |8 d* b8 w/ I/ r5 h6 f1 h& x Disallow: /*?* 禁止访问网站中所有的动态页面 T1 N/ K4 ?7 P, N: S7 L
Disallow: /jpg$ 禁止抓取网页所有的.jpg格式的图片
- W/ a$ R& M, s( s | Disallow:/ab/adc.html 禁止爬去ab文件夹下面的adc.html文件。
; E( x1 c2 l( F, R. j Allow: /cgi-bin/ 这里定义是允许爬寻cgi-bin目录下面的目录 + S+ |9 T3 j T
Allow: /tmp 这里定义是允许爬寻tmp的整个目录 " Z/ X4 j/ n3 D E6 `, u
Allow: .htm$ 仅允许访问以".htm"为后缀的URL。 & c+ y9 [. d7 u% z, t: v
Allow: .gif$ 允许抓取网页和gif格式图片
8 B6 F) @. M% Y, k/ N4 c 希望此次的分享能给大家带来帮助。# m; i" C9 |4 _
1 g( N$ P7 o4 N+ }# z4 R- I6 k 本文由易瑞沙资讯网(www.yiruisha1.com)原创，转载请以链接形式注明出处。" A# ?* j0 ^% @3 N8 [7 u
|
|
