« 关键字的选择SEM是什么? »

百度蜘蛛的饲养技巧与代码分析

分类: seo优化 发布: admin 浏览: 日期: 2010年1月7日

  Eden在08年读的文章,现在放出来跟大家分享,里面有什么错误就在下面留言吧。最近整理seo笔记的时候发现的。还是不错滴。

  如果用虚拟主机的朋友,可以FTP的你的空间上找到logfiles文件夹,下面的.log文件就是IIS日志了

  研究se爬行规律对于网站优化意义重大,特别是对百度蜘蛛Baiduspider的研究。本文解释一下百度蜘蛛爬行后返回代码代表的具体含义:

  2xx 成功

  200 正常;请求已完成。

  201 正常;紧接 POST 命令。

  202 正常;已接受用于处理,但处理尚未完成。

  203 正常;部分信息 — 返回的信息只是一部分。

  204 正常;无响应 — 已接收请求,但不存在要回送的信息。

  3xx 重定向

  301 已移动 — 请求的数据具有新的位置且更改是永久的。

  302 已找到 — 请求的数据临时具有不同 URI。

  303 请参阅其它 — 可在另一 URI 下找到对请求的响应,且应使用 GET 方法检索此响应。

  304 未修改 — 未按预期修改文档。

  305 使用代理 — 必须通过位置字段中提供的代理来访问请求的资源。

  306 未使用 — 不再使用;保留此代码以便将来使用。

  4xx 客户机中出现的错误

  400 错误请求 — 请求中有语法问题,或不能满足请求。

  401 未授权 — 未授权客户机访问数据。

  402 需要付款 — 表示计费系统已有效。

  403 禁止 — 即使有授权也不需要访问。

  404 找不到 — 服务器找不到给定的资源;文档不存在。

  407 代理认证请求 — 客户机首先必须使用代理认证自身。

  410 请求的网页不存在(永久);

  415 介质类型不受支持 — 服务器拒绝服务请求,因为不支持请求实体的格式。

  5xx 服务器中出现的错误

  500 内部错误 — 因为意外情况,服务器不能完成请求。

  501 未执行 — 服务器不支持请求的工具。

  502 错误网关 — 服务器接收到来自上游服务器的无效响应。

  503 无法获得服务 — 由于临时过载或维护,服务器无法处理请求。

  比如说:

  2008-03-27 04:25:32 61.135.145.208 - *.*.*.* 80 GET

  。。/index.html

  - 304 Baiduspider+(+http://www.baidu.com/search/spider.htm)

  这就意味着百度蜘蛛在2008-03-27 04:25:32 爬过/index.html这一页,304代表了它发现这页是没有更新过的。根据这个我们可以多查看iis日志,研究蜘蛛爬行的路径,找出自己网站存在的问题,进而改正。

  返回的http状态诸如200 0 64分析说明

  在百度研究院的论坛里看到一位版主有这样的一段解释:

  蜘蛛在IIS里的行为200 0 64 的解释:

  根据我前段时间到现在的观察,虽然没有足够的证据,但是基本上可以肯定在IIS中,如果蜘蛛后面的号码出现200 0 64,那么网站中的这个单页面就会在搜索引擎中消失了.我被K的页面后面都写着200 0 64 ,不知道大家是否认同,还有其他看法,当然,我说这个不够绝对,因为我也有一个页面后面显示着200 0 64 但是在搜索引擎中依旧可以找到.这也说明着问题,但大多200 0 64行为的网页就已经没有了.

  所以我觉得蜘蛛的200 0 64行为可以被解释为清除数据。

  这个解释,目前看 上去还是有可信度的。我认为,抓取状态成200 0 64是不正常的抓取,正常的抓取是成功标志200 0 0,当变成了200 0 64的状态时说明搜索引擎在抓取这个页面的时候出现了错误,没有正常的进行常规抓取;对于百度来说,百度很可能是已经不再把这些页面抓进主索引库,而是放 进了“百度沙盒”里进行考察,考察多久,就看你如何改进,也许,你看不到百度把这些被K的网站释放出来的时候,人是没有规律的。

  正好,flymorn也有被百度K的网站,打开这个网站的IIS日志(.log后缀,如ex080222.log),果不其然,也发现了百度返回200 0 64的状态:

  2008-02-22 07:14:37 W3SVC78302822 58.17.36.91 GET /article/1/79.html - 80 - 61.135.163.102 Baiduspider+(+http://www.baidu.com/search/spider.htm) 200 0 64

  2008-02-22 07:18:07 W3SVC78302822 58.17.36.91 GET /article/1/11.html - 80 - 61.135.163.102 Baiduspider+(+http://www.baidu.com/search/spider.htm) 200 0 64

  对于已经被百度拔毛的网站来说,如果你还在乎百度,那就赶紧改正网站上的一切作弊的地方,消除过度优化,消除恶意链接,等待百度再次光临,一般来说,这需要2-3个月的时间,还是认真做站,先想着用户为好。

  摘要:分析一下,要想百度蜘蛛经常光顾自己的站,首先要先把蜘蛛引过来。怎么引?最简单的办法是你自己创造个关键字,注意要保证关键字的唯一性(如:得开旗胜),百度搜索到的结果相关性要低。那关键字要在你首页出现,而且有相关解释,目的是围绕关键字做相关内容。然后去百度  首先我阐明自己的观点:seo不仅是一种技术更是一种思想。

  结合我个人建站的经验我来谈谈如何饲养好百度蜘蛛。

  分析一下,要想百度蜘蛛经常光顾自己的站,首先要先把蜘蛛引过来。怎么引?最简单的办法是你自己创造个关键字,注意要保证关键字的唯一性(如:得开旗胜),百度搜索到的结果相关性要低。那关键字要在你首页出现,而且有相关解释,目的是围绕关键字做相关内容。然后去百度更新快的地方,发布相关信息。 你发表的文章要围绕你创造的关键字写,关键字可以使用一两次加粗,色彩,或者下划线等,关键字连接到你首页地址,内容里再加一两次你首页地址(传说中的软文)。最关键字加好了,信息也发布了,最关键的就是要触发百度检测数据库,使百度蜘蛛会顺着那些新内容找到你首页!怎么触发?还用问吗?刚做的关键字,具有唯一性,而且相关性低。如果有人搜索那关键字,百度蜘蛛检索时候会优先考虑最合适的页面,也许百度暂时没显示收录你的站,但是百度蜘蛛肯定已经闻风而动了。

  原理已经介绍了一些,吸引蜘蛛还有许多方法,简单的总结一下:

  一、 增加原创的文字,适当围绕关键字优化,强烈建议在title里也加一下。这里的原创不是说纯自己写的就完事了,你还要搜索一下别人是不是写过类似的,如果有劝你还是另换话题吧。

  二、在百度权重高,更新快的地方发布围绕关键字相关内容的信息和你站点连接,让百度蜘蛛能够从多个地方转到你的站上去。我常用的有百度知道、贴吧以及各大网摘。

  三、围绕这个关键字进行推广,发布大量外链,让检索结果定位到你的站。

本文编者:Eden 上海SEO
本文地址:http://www.seo3600.cn

相关文章:

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

Powered By 浩众科技

浩众官方博客 上海SEO上海SEO 沪ICP备09005986号