首页 > 问答 > robots.txt文件中屏蔽的内容百度也抓取?

robots.txt文件中屏蔽的内容百度也抓取?

[导读]:为什么我的网站的在十多天以前robots.txt做了Disallow: /templets/以及css文件和js文件,但每天还是有蜘蛛抓取/templets/文件以及/templets/文件内部的内容和各个css文件、js文件? 这是我...

为什么我的网站的在十多天以前robots.txt做了Disallow: /templets/以及css文件和js文件,但每天还是有蜘蛛抓取/templets/文件以及/templets/文件内部的内容和各个css文件、js文件?

这是我网站robots.txt的写法:
Disallow: /templets/
Disallow: /.js
Disallow: /
.css
Disallow: /?

下面是使用光年日志分析工具,分析的网站日志:

日志日志

为什么屏蔽了,百度还是抓取?你们的网站有这种情况吗?

爬行不等于抓取。

###

我的站也是这种情况,先不用去管它,只要在站长工具里更新一下就不用管它了。

###

Robots.txt并不是绝对的

###

1、百度需要一个反应期,过段时间再看看。
2、
Disallow: /.JS
Disallow: /.css
目测这两个写的不对,应该将点除掉

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/31094.html