百度蜘蛛，英文名是“Baiduspider”是搜索引擎的一个自动程序。它的作用是访问互联网上的网页、图片、视频等内容，建立索引数据库，使用户能在百搜索引擎中搜索到您网站的网页、图片、视频等内容。2 ?0 r- g, v# @+ R" A$ ~) Q
7 R7 C9 C5 r @0 e* t% G1 O, G k1 w" B百度搜索引擎每周更新，网页视重要性有不同的更新率，频率在几天至一月之间，Baiduspider会重新访问和更新一个网页。乐你思认为对于网站上新产生的或者持续更新的页面，Baiduspider会持续抓取。2 \1 J9 T' _4 }- X3 t. h5 U4 X
4 H& R- j8 M. b) j* T1 P搜索引擎构建一个调度程序，来调度百度蜘蛛的工作，让百度蜘蛛去和服务器建立连接下载网页，计算的过程都是通过调度来计算的，百度蜘蛛只是负责下载网页，目前的搜索引擎普遍使用广布式多服务器多线程的百度蜘蛛来达到多线程的目的。% Q& Y s* j, V2 K, G: o
8 u9 O, n( u* S2 o7 o+ A$ G
通过百度蜘蛛下载回来的网页放到补充数据区，通过各种程序计算过后才放到检索区，才会形成稳定的排名，补充数据是不稳定的，有可能在各种计算的过程中给k掉，检索区的数据排名是相对比较稳定的，百度目前是缓存机制和补充数据相结合的，正在向补充数据转变，这也是目前百度收录困难的原因，也是很多站点今天给k了明天又放出来的原因。
7 c; M: ]5 ]6 s; ?( C$ i9 d0 B" |( a/ g E$ \
百度蜘蛛抓取页面有两种方式，深度优先和广度优先，广度优先抓取是为了抓取更多的网址，深度优先抓去的目的是为了抓去高质量的网页，这个策略是由调度来计算和分配的，百度蜘蛛只负责抓取，权重优先是指反向连接较多的页面的优先抓取，这也是调度的一种策略，乐你思认为可以通过建立更好更多的反向链接以此更好的吸引百度蜘蛛。& [9 \: s' x8 H7 w. S9 h7 K
, h) B T. K* }: h/ C
百度蜘蛛在从首页登陆后抓取首页后调度会计算其中所有的连接，返回给百度蜘蛛进行下一步的抓取连接列表，百度蜘蛛再进行下一步的抓取，网址地图的作用是为了给百度蜘蛛提供一个抓取的方向，来左右百度蜘蛛去抓取重要页面，如何让百度蜘蛛知道那个页面是重要页面？？可以通过连接的构建来达到这个目的，越多的页面指向该页，网址首页的指向，父页面的指向等等都能提高该页的权重，地图的另外一个作用是给百度蜘蛛提供更多的连接来达到抓去更多页面的目的，地图其实就是一个连接的列表提供给百度蜘蛛，来计算你的目录结构，找到通过站内连接来构建的重要页面。
# K6 I5 ^# D2 {( R9 d+ W0 ~* T& X' K; Q. k! ~6 S$ e
本文来自 http://www.sun95888.com. q# V9 Q9 E0 X3 v* g$ t; `* m
3 z; r% ]* \( B8 v, {1 z
|
