蜘蛛访问seo时抓取方式

添美-阿吉 · 发表于 2013-03-08 17:44:23

一、对于蜘蛛的定义
　　广度优先是指蜘蛛会先抓取起始网页中链接的所有网页，然后再选择其中的一个链接网页，继续抓取在此网页中链接的所有网页。深度优先是指网络蜘蛛会从起始页开始，一个链接一个链接跟踪下去，处理完这条线路之后再转入下一个起始页，继续跟踪链接。这个方法有个优点是网络蜘蛛在设计的时候比较容易。
　　二、蜘蛛访问网站时抓取方式
　　如果蜘蛛设置的访问层数为2的话，第三页是不会被访问到的。这也让有些网站上一部分网页能够在搜索引擎上搜索到，另外一部分不能被搜索到。对于网站设计者来说，扁平化的网站结构设计有助于搜索引擎抓取其更多的网页。
　　蜘蛛在访问网站网页的时候，经常会遇到加密数据和网页权限的问题，有些网页是需要会员权限才能访问。当然，网站的所有者可以通过协议让网络蜘蛛不去抓取，但对于一些出售报告的网站，他们希望搜索引擎能搜索到他们的报告，但又不能完全的让搜索者查看，这样就需要给网络蜘蛛提供相应的用户名和密码。网络蜘蛛可以通过所给的权限对这些网页进行网页抓取，从而提供搜索。而当搜索者点击查看该网页的时候，同样需要搜索者提供相应的权限验证。
　　蜘蛛需要抓取网页，不同于一般的访问，如果控制不好，则会引起网站服务器负担过重。
　　网站是否就无法和网络蜘蛛交流呢？其实不然，有多种方法可以让网站和网络蜘蛛进行交流。一方面让网站管理员了解网络蜘蛛都来自哪儿，做了些什么，另一方面也告诉网络蜘蛛哪些网页不应该抓取，哪些网页应该更新。
　　三、蜘蛛其实也是有家庭的
　　每个蜘蛛都有自己的名字，在抓取网页的时候，都会向网站标明自己的身份。蜘蛛在抓取网页的时候会发送一个请求，这个请求中就有一个字段为User- agent，用于标识此蜘蛛的身份。例如谷歌网络蜘蛛的标识为GoogleBot，百度蜘蛛的标识为BaiDuSpider， Yahoo蜘蛛的标识为Inktomi Slurp。如果在网站上有访问日志记录，网站管理员就能知道，哪些搜索引擎的蜘蛛过来过，什么时候过来的，以及读了多少数据等等。如果网站管理员发现某个蜘蛛有问题，就通过其标识来和其所有者联系。
　　四、了解蜘蛛注意事项　　　
　　蜘蛛进入一个网站，一般会访问一个特殊的文本文件Robots.txt，这个文件一般放在网站服务器的根目录下。网站管理员可以通过robots.txt来定义哪些目录蜘蛛不能访问，或者哪些目录对于某些特定的蜘蛛不能访问。例如有些网站的可执行文件目录和临时文件目录不希望被搜索引擎搜索到，那么网站管理员就可以把这些目录定义为拒绝访问目录。
　　当然，Robots.txt只是一个协议，如果蜘蛛的设计者不遵循这个协议，网站管理员也无法阻止蜘蛛对于某些页面的访问，但一般的蜘蛛都会遵循这些协议，而且网站管理员还可以通过其它方式来拒绝网络蜘蛛对某些网页的抓取。蜘蛛在下载网页的时候，会去识别网页的HTML代码，在其代码的部分，会有META标识。通过这些标识，可以告诉蜘蛛本网页是否需要被抓取，还可以告诉蜘蛛本网页中的链接是否需要被继续跟踪QQ备注前缀。

平凡 · 发表于 2013-03-09 10:12:52

哈哈哈哈，辛苦了。

TONY · 发表于 2026-05-25 10:25:52

分析得很透彻，很多细节都说到点子上了～

		自动登录	找回密码
密码			加入怎通

[站长八卦] 蜘蛛访问seo时抓取方式