介绍百度蜘蛛

艾森网络 · 发表于 2012-04-18 11:28:53

Baiduspider - 百度蜘蛛：
百度是如何收录到那么多网页的呢？这个百度用以抓取互联网上数以亿计的网页的程序，就叫做Baiduspider - 百度蜘蛛。
它是一个程序，夜以继日得在互联网上找寻新的URL，接着抓取URL上的内容，返回到百度的网页暂存数据库。
百度用来抓取网页内容的程序，叫做Baiduspider，抓取其他内容的蜘蛛，则是新的名字：
产品名称                对应user-agent
网页搜索             Baiduspider
无线搜索             Baiduspider-mobile
图片搜索             Baiduspider-image
视频搜索             Baiduspider-video
新闻搜索             Baiduspider-news
百度搜藏             Baiduspider-favo
百度联盟             Baiduspider-cpro
不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro，现在我们明白它是百度联盟蜘蛛，用以百度联盟程序匹配相应的广告。

沈阳网络推广-www.esnsc.com整理发布。

云水禅心 · 发表于 2012-04-18 12:03:42

说的不错，我是新人，以后请多多指教

养鸭技术http://www.ebb9.com/
吉他教程http://www.aau6.com/
鸽子养殖技术http://www.okmal.com/
鸽子养殖技术http://www.liao18.com/

西万路小混混 · 发表于 2025-11-10 19:12:52

蹲了这么久，终于看到有价值的讨论，支持一下！

小美眉 · 发表于 2026-01-05 01:25:37

楼主辛苦了，整理这么多内容，必须点赞收藏

dpjanebass · 发表于 2026-03-13 16:22:19

内容很干货，没有多余的废话，值得反复看

cq1779784001 · 发表于 2026-07-07 19:31:15

说得很实在，没有夸大其词，这种真实分享太难得了

wangzz · 发表于 2026-07-31 21:29:30

这个思路很新颖，打开了新世界的大门，谢谢分享

		自动登录	找回密码
密码			加入怎通

[站长八卦] 介绍百度蜘蛛