首页 > 问答 > 关于robots.txt伪静态网站想禁止一些目录的写法疑问

关于robots.txt伪静态网站想禁止一些目录的写法疑问

[导读]:如一个www.SEOwhy.com/5555/rrrr/2013/page/2伪静态目录, 想要屏蔽所有动态目录下的page文件不被爬取,robots.txt如何写呢? 你既然能做伪静态,说明你的动态参数可以用正则表达式写出...

如一个www.SEOwhy.com/5555/rrrr/2013/page/2伪静态目录,
想要屏蔽所有动态目录下的page文件不被爬取,robots.txt如何写呢?

你既然能做伪静态,说明你的动态参数可以用正则表达式写出来,那样的话就发你的动态的比较好些Robots

###

User-agent: *
Disallow: 星号/page/星号

###

动态地址一般带有问号【?】
好像是这样写如下
User-agent: *
Disallow:/5555/rrrr/2013/page/米?米 【米字代表*】 不清楚提交不显示

###

User-agent: *
Disallow:/page/
建议多看看百度:

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/20116.html