[导读]:网站本月13号在站长平台提交了robots.txt(之前根本没有robots.txt文件),从设置robots.txt的依据是从网站日志上面看到的爬虫对网站一些系统目录的抓取。顺便又把“关于我们”“...
网站本月13号在站长平台提交了robots.txt(之前根本没有robots.txt文件),从设置robots.txt的依据是从网站日志上面看到的爬虫对网站一些系统目录的抓取。顺便又把“关于我们”“帮助”(/help/,/about/)等目录加入不允许抓取行列。从16号开始到今天20号,都从站长平台看到这样的通知,在我确定其他屏蔽抓取的目录都是系统目录,而不涉及前台页面的问题的前提下,出现这样子的问题,是否因为我把 “关于我们”“帮助”(/help/,/about/)屏蔽抓取的原因造成的?

首先确定你Robots.txt文件是否写对,其次关于我们、帮助这些页面没必要封禁抓取,如果不想让这些页面分散首页权重,可以直接Nofollow掉即可,试试吧,百问不如一试。。。
本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/32314.html