找回密码
 加入怎通
查看: 725|回复: 7

[站长八卦] SEO中的搜索引擎蜘蛛技术探析

[复制链接]
仲夏♀之恋 发表于 2012-05-08 15:20:03 | 显示全部楼层 |阅读模式
搜索引擎技术抓取网络中海量信息,随着信息增长该技术作用变得越来越凸出,作为SEO技术人员,虽没必要像ZAC对搜索引擎优化技术了解的很透彻,但是分析了解搜索引擎的蜘蛛其对文件的处理方法,研究其搜索与更新策略,是作为SEOer该有的业务发展需要。任何一个网站只要内容更新+外链都能看到搜索引擎对该网站做出相对应的分析,进而增加页面权重,了解搜索引擎技术,从而为我们根据实质性的原理来进行搜索引擎优化,这才是SEO明智之举,而不是每天在那发外链更新网站内容,业余时间还是得学学相关技术。下面介绍下搜索引擎核心检索技术。/ a- h5 u& C; H5 B

3 O, q! {. X  a- k- [1 _- I" L2 U2 s  一蜘蛛工作原理
5 k: _3 c0 U, i; y, H& n
. W+ R; M; r9 d# t  网络蜘蛛也就是搜索引擎蜘蛛,是通过链接地址来寻找网页的。搜索引擎蜘蛛名称根据搜索引擎都不同。那它的原理是由一个启始链接开始抓取网页内容,同时也采集网页上的链接,并将这些链接作为它下一步抓取的链接地址,如此循环,直到达到某个停止条件后才会停止。停止条件的设定通常是以时间或是数量为依据,可以通过链接的层数来限制网络蜘蛛的爬取。同时页面信息的重要性为客观因素决定了蜘蛛对该网站页面的检索。站长工具中的搜索引擎蜘蛛模拟器其实它就是这个原理,准不准确笔者也不清楚。基于这蜘蛛工作原理,站长都会不自然的增加页面关键词出现次数,虽然对密度产生量的变化,但对蜘蛛而言并没达到一定质的变化。这在搜索引擎优化过程中应该要避免的。: {5 n4 }# Y. e' X

% ~  _- S/ c3 m$ e  二搜索引擎蜘蛛与网站的交互问题
' o5 R2 P* b# }8 {# j9 t- b; `8 h6 O) |
  搜索引擎技术基础中,蜘蛛爬取到网站中,通常会去检索一个文本文件Robots.txt,通常存放在网站的根目录下。它是专门用来同网络蜘蛛交互用的专用文件。这也就是SEOer老是去屏蔽网站页面不想被搜索引擎抓取的原因,它是一个网站和搜索引擎蜘蛛对话的重要工具,但是蜘蛛是否都遵循站长对其实施的规则呢?其实蜘蛛遵循还是得看蜘蛛出身,素质高的会遵循规则,相反则不遵循。另外在网站中放入一个叫做sitmap.htm的网页,并将它作为网站的入口文件,这也是蜘蛛与网站的交互方法。对于交互性的SEO手段,我们了解了就可以针对性的做出符合搜索引擎的蜘蛛喜好的网站地图。
6 L7 c4 r' |! Y3 x1 s5 q
* P% N6 s, E7 q7 V* X, b  页面Meta字段也是站长经常使用的搜索引擎优化技术,这个字段通常会放在文档的头部,很多站点都只是简单的写个允许百度抓取的字段,正不正确笔者不清楚,SEO其实很多现象都是基于数据分析对比才能得知。Meta字段蜘蛛可以在没有读取到全部文档的情况下就了解文档的相关信息,可以避免将无效的网页取下来后又将其废弃而造成无谓的浪费。
+ F* b. O& K& i8 q4 v8 ^, E9 y0 Y3 z  v/ l1 O; N/ ]9 u: x
  三搜索引擎蜘蛛对于文件的处理) D6 }5 [- W/ g4 J( |+ x1 q
" u+ s5 Y: G, c% H8 o: A
  (一)二进制文件处理3 a# j/ K: i; T- V
" F2 m8 \% q; b: \0 w* }
  网络中除了HTML文件和XML文件外,也有大量的二进制文件,搜索引擎对二进制文件采用单独处理的方式,其对内容的理解完全需要依靠二进制文件的锚点描述来完成。锚点描述通常代表了文件的标题或是基本内容,也就是通常所说的锚文字这就是为什么我们要对网站锚文字的分析选择的原因所在。
+ H4 Y) L, d( m* O' C3 W
# u8 |6 E6 p: k/ ]# p! M1 Q* p  (二)脚本文件的处理
- c) o' g4 w/ b$ W' P$ t( O! C* h' i) f! a; h% V* e
  网页中的客户端脚本,当网页加载至读取到该脚本,搜索引擎往往会直接省略对它的处理。但是由于现在网站设计者对于无刷新页面要求的提高和对ajax技术的大量使用,对它的分析处理往往会采用另外一种网页检索程序,由于脚本程序复杂和多样性,通常站长会根据自身网站将这些脚本存放到一个文档中,采用调用技术,从而加快页面加载速度,同时蜘蛛也不能对调用文件分析处理。这也属于搜索引擎优化技术,如果忽略了对它的处理将会是一项巨大的损失。4 K6 j; @1 J( n; W$ g

# [4 A* Q# y, y: l0 U; s  (三)不同文件类型处理
1 B8 |: ]  o8 ~* @2 G2 i
/ q8 Z- S# l1 O" [* e  对于网页内容的提取分析一直是网络蜘蛛的重要技术环节,这也是SEO需要去了解的搜索引擎技术,这取决于网站信息更新的多样性。这也就是为什么专业网站上会在网站内附有下载的execl,pdf等各种文件类型,这也是属于搜索引擎优化过程中需要注意的。网上不同文件类型文件的处理,网络蜘蛛通常是采用插件的方式来处理。如果有能力,网站信息内容的更新尽可能采取多样性,来帮助网站达到一个搜索信息多样化的SEO体系。
, T! V; O% Q/ `& A2 l' D' T- d
本文出自航星工业洗衣机: www.hxhxs.com  转载请标明出处,谢谢!

暂时无法加载帖子列表

回复

使用道具 举报

可爱小米 发表于 2026-01-10 19:06:39 | 显示全部楼层
说得很实在,没有夸大其词,这种真实分享太难得了
回复

使用道具 举报

范儿 发表于 2026-08-10 16:05:52 | 显示全部楼层
楼主辛苦了,整理这么多内容,必须点赞收藏
回复

使用道具 举报

~园_-“最初的梦 发表于 2026-08-11 08:21:51 | 显示全部楼层
蹲了这么久,终于看到有价值的讨论,支持一下!
回复

使用道具 举报

花开半夏的沉默 发表于 2026-08-14 01:03:39 | 显示全部楼层
楼主太厉害了,整理得这么详细,必须支持
回复

使用道具 举报

csyp2017 发表于 2026-08-14 14:04:20 | 显示全部楼层
完全赞同,我也是这么认为的,英雄所见略同~
回复

使用道具 举报

sxhr520 发表于 2026-08-16 11:49:36 | 显示全部楼层
这个分享太实用了,刚好能用到,感谢楼主!
回复

使用道具 举报

阿木木 发表于 2026-08-18 02:37:56 | 显示全部楼层
分析得很透彻,很多细节都说到点子上了~
回复

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-9-15 01:30 , Processed in 0.036434 second(s), 26 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表