百度蜘蛛原来是这样的

Baiduspider - 百度蜘蛛：
百度是如何收录到那么多网页的呢？这个百度用以抓取互联网上数以亿计的网页的程序，就叫做Baiduspider - 百度蜘蛛。
它是一个程序，夜以继日得在互联网上找寻新的URL，接着抓取URL上的内容，返回到百度的网页暂存数据库。
# \, ^4 P! W2 r$ v' H; H! z百度用来抓取网页内容的程序，叫做Baiduspider，抓取其他内容的蜘蛛，则是新的名字：
; ]  b0 B6 ]3 l9 `产品名称                 对应user-agent
网页搜索                Baiduspider
无线搜索                Baiduspider-mobile
图片搜索                Baiduspider-image
视频搜索                Baiduspider-video
# t) r% ?" X; _* F) t新闻搜索                Baiduspider-news
百度搜藏                Baiduspider-favo
" U3 ^, ?: n) |1 e2 T5 _0 g百度联盟                Baiduspider-cpro
8 X+ y# T  b: `2 f. I4 p不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro，现在我们明白它是百度联盟蜘蛛，用以百度联盟程序匹配相应的广告。
' j3 ~: Q3 U: Y- r5 ^& ?百度蜘蛛是很奇怪的，他有自己的喜好个性，所以我们要好好了解它才是。
6 D& T) U7 D* Z/ n* r本文由http://www.hera-wedding.com/整理发布
% B  E- A6 i. a3 d1 @

楼主太厉害了，整理得这么详细，必须支持

蹲了这么久，终于看到有价值的讨论，支持一下！

内容很干货，没有多余的废话，值得反复看

说得很实在，没有夸大其词，这种真实分享太难得了

刚好遇到类似问题，看完这个帖子心里有底了

这个思路很新颖，打开了新世界的大门，谢谢分享

分析得很透彻，很多细节都说到点子上了～

学习到了，之前一直没注意过这个点，受教了

楼主辛苦了，整理这么多内容，必须点赞收藏