首页 > 问答 > 是百度不支持robots 还是我写错了

是百度不支持robots 还是我写错了

[导读]:robots 禁止抓取包含list的链接,百度仍然抓,是我写错了吗? http://seo.seowhy.com/robot/用这个查询试试 ### Robots设置后,百度搜索蜘蛛识别需要一段时间。现在爬行,估计是这个文件...

robots 禁止抓取包含list的链接,百度仍然抓,是我写错了吗?



http://seo.seowhy.com/robot/用这个查询试试

###

Robots设置后,百度搜索蜘蛛识别需要一段时间。现在爬行,估计是这个文件蜘蛛还没有识别。
至于robots文件设置是否正确,可以使用百度站长平台的 Robots检测下。



###

你是没写User-agent: *
还是没截图

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/28443.html