彻底禁止所有蜘蛛访问原来的wordpress免费空间,我狠心了
今天决定狠心一下,全面禁止所有的爬虫,不管你是那家bot,尝够了被搜索引擎的惩罚,今天也来换位让你尝试下,哈哈哈,小小安慰下我受伤的心灵。
主要原因还是基于这两天发现的睡到自然醒博客的被百度拔毛的只剩首页。一直在怀疑原来搭建试用的免费空间上的内容和搬家换正式空间后博客上的内容重复,而被判为作弊惩罚。虽然已经把原来免费空间上的文章删除了,并且做了404转向,准备让它自生自灭,但发现过了那么长时间,那边的收录还没减少,相反每天还增加一两页。汗。可能BAIDU还是更倾向于对原来的博客有好感,毕竟当时建立的比现在的早了一段时间,百度可能认为原来的是始祖,这儿的反而成了抄袭者。
方法很简单,为原来的免费空间上的博客写一个robots.txt文件,注意文件名一律小写并且是robots,可别写成robot,然后写一句万劫不复的禁止所有爬虫语句:
User-agent: * Disallow: /
接下来几天就让百度尝试尝试吃闭门羹的滋味吧,
哈哈哈。但愿本博客顺利度过被K低谷期。
文章来源:睡到自然醒blog[http://www.dreamfreeblog.com]
文章链接地址: http://www.dreamfreeblog.com/ban-all-spiders-wordpress-robotstxt-120.html 收藏本文到网摘:



