Baiduspider - 百度蜘蛛:- d1 f# R, a. ~- P7 n u! f
百度是如何收录到那么多网页的呢?这个百度用以抓取互联网上数以亿计的网页的程序,就叫做Baiduspider - 百度蜘蛛。
( ~5 S: n) b7 o1 l# @ ?& M" ^+ S它是一个程序,夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,返回到百度的网页暂存数据库。. y, f/ o1 W/ q, `" o- r
百度用来抓取网页内容的程序,叫做Baiduspider,抓取其他内容的蜘蛛,则是新的名字:
! q2 n m0 S. \7 G A0 G- {8 R产品名称 对应user-agent3 b4 K' ^% ]1 ] B( ], T
网页搜索 Baiduspider
+ W7 q; f o& j" Z0 n无线搜索 Baiduspider-mobile " F+ W3 F& W' t- c
图片搜索 Baiduspider-image J) m2 ]$ v" ~/ u7 V' N# P3 f6 j4 O
视频搜索 Baiduspider-video
L8 P3 J3 f- C, Y新闻搜索 Baiduspider-news
: O8 U- U8 d; I6 Y7 i百度搜藏 Baiduspider-favo - Q+ E/ ~* n6 N: R" N
百度联盟 Baiduspider-cpro
`0 ~" [6 j1 x# c( I不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro,现在我们明白它是百度联盟蜘蛛,用以百度联盟程序匹配相应的广告。
7 M3 g$ {3 b* i% T8 S. T0 h, r) \& X, o) v" ^; x) {$ m' g+ H9 Y
沈阳网络推广-www.esnsc.com整理发布。' m+ H2 X% T" h6 z8 h
|