百度蜘蛛原来是这样的

Baiduspider - 百度蜘蛛：
百度是如何收录到那么多网页的呢？这个百度用以抓取互联网上数以亿计的网页的程序，就叫做Baiduspider - 百度蜘蛛。
9 r* T; n7 H! v5 F% S$ G# {" a1 ^它是一个程序，夜以继日得在互联网上找寻新的URL，接着抓取URL上的内容，返回到百度的网页暂存数据库。
9 f2 k& L+ y9 ]) ?& m; g+ Q: t百度用来抓取网页内容的程序，叫做Baiduspider，抓取其他内容的蜘蛛，则是新的名字：
$ k$ w, j. t4 n产品名称                 对应user-agent
" a. A: q6 D" b网页搜索                Baiduspider
无线搜索                Baiduspider-mobile
; K0 H+ [: w. _* r6 E: t, C; n( }+ `图片搜索                Baiduspider-image
视频搜索                Baiduspider-video
# ?  j# v9 C4 ~( N新闻搜索                Baiduspider-news
2 N$ }; _3 @+ `7 C* l5 \( u百度搜藏                Baiduspider-favo
百度联盟                Baiduspider-cpro
不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro，现在我们明白它是百度联盟蜘蛛，用以百度联盟程序匹配相应的广告。
  `- C: l! j2 C- y百度蜘蛛是很奇怪的，他有自己的喜好个性，所以我们要好好了解它才是。
本文由http://www.hera-wedding.com/整理发布
( v# U$ j6 p$ x0 ]! m! y0 V. P. m

楼主太厉害了，整理得这么详细，必须支持

蹲了这么久，终于看到有价值的讨论，支持一下！