[导读]:为什么我的网站的在十多天以前robots.txt做了Disallow: /templets/以及css文件和js文件,但每天还是有蜘蛛抓取/templets/文件以及/templets/文件内部的内容和各个css文件、js文件? 这是我...
为什么我的网站的在十多天以前robots.txt做了Disallow: /templets/以及css文件和js文件,但每天还是有蜘蛛抓取/templets/文件以及/templets/文件内部的内容和各个css文件、js文件?
这是我网站robots.txt的写法:
Disallow: /templets/
Disallow: /.js
Disallow: /.css
Disallow: /?
下面是使用光年日志分析工具,分析的网站日志:
为什么屏蔽了,百度还是抓取?你们的网站有这种情况吗?
爬行不等于抓取。
###我的站也是这种情况,先不用去管它,只要在站长工具里更新一下就不用管它了。
###Robots.txt并不是绝对的
###1、百度需要一个反应期,过段时间再看看。
2、
Disallow: /.JS
Disallow: /.css
目测这两个写的不对,应该将点除掉
本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/31094.html