在和搜索引擎打交道的过程中,良好的互动有的时候需要robots.txt文件的帮助,正确使用robots.txt文件,可以避免网页复制等诸多问题,然而,robots文件的使用,要慎之又慎。
在不熟悉robots.txt的规范的时候,很多意外情况,都是由于使用robots不当引起的
比如,群利的个人博客山上渔夫博客,前段时间加了robots.txt,一段时间之后,群利发现博客的谷歌收录数量大为减少,非常不正常。因为平时谷歌收录大于百度,而现在百度的收录是谷歌的两倍多。当时,群利也没有过于在意。
...
阅读全文...