网站不知道怎么来做robots协议,请大师们帮帮忙。谢谢了!
@@www.tzldz.com@@
禁止所有搜索引擎抓取任何内容,*为通配符代表所有搜索引擎
User-agent: *
Disallow: /
User-agent: Baiduspider 百度可抓取
User-agent: Googlebot google可抓取
阻止所有蜘蛛抓取 /cgi/和/tmp/ 及文件/pp/User-agent: *
Disallow: /cgi/
Disallow: /tmp/
Disallow: /pp/
除去百度外搜索蜘蛛不能抓取
User-agent: Baiduspider
Disallow:
User-agent: *
Disallow: /
不能抓取/ab/目录下文件但是可以抓/ab/下的/dc/目录文件
User-agent: *
Disallow: /ab/
Allow: /ab/dc/
$通配符 允许蜘蛛抓取 html后缀 url
User-agent: *
Allow: .html$
禁止百度抓取所有.jpg图片
User-agent: Baiduspider
Disallow: jpg$
*通配符 禁止蜘蛛抓取所有htmnl文件
User-agent: *
Disallow: /*.html
抓取网站地图
Sitemap: /
禁止所有搜索引擎收入单个页面,不能跟追链接
Noindex:意思不要索引本页面
Nofollow:意思不要跟踪页面链接
不是站长编辑的链接,告诉搜索引擎不要跟踪爬行链接,不传递权重和描文字
不传递权重
我自己整理的,你自己看这写吧。
你可以用百度站长工具里面的Robots使用,里面有规则,根据那个写比较方便些
这个,帮不了。网站哪些想屏蔽的,需要你自己才清楚。
如果不太了解Robots的写法可以到站长平台上看下讲解。
本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/37540.html