首页 > 问答 > 请大师们帮我做下robots的协议

请大师们帮我做下robots的协议

[导读]:网站不知道怎么来做robots协议,请大师们帮帮忙。谢谢了! @@www.tzldz.com@@ 禁止所有搜索引擎抓取任何内容,*为通配符代表所有搜索引擎 User-agent: * Disallow: / User-agent: Baiduspider 百...

网站不知道怎么来做robots协议,请大师们帮帮忙。谢谢了!
@@www.tzldz.com@@

禁止所有搜索引擎抓取任何内容,*为通配符代表所有搜索引擎
User-agent: *

Disallow: /

User-agent: Baiduspider 百度可抓取

User-agent: Googlebot google可抓取

阻止所有蜘蛛抓取 /cgi/和/tmp/ 及文件/pp/User-agent: *

Disallow: /cgi/

Disallow: /tmp/

Disallow: /pp/
除去百度外搜索蜘蛛不能抓取
User-agent: Baiduspider

Disallow:

User-agent: *

Disallow: /

不能抓取/ab/目录下文件但是可以抓/ab/下的/dc/目录文件
User-agent: *

Disallow: /ab/

Allow: /ab/dc/

$通配符 允许蜘蛛抓取 html后缀 url

User-agent: *

Allow: .html$

禁止百度抓取所有.jpg图片
User-agent: Baiduspider

Disallow: jpg$

*通配符 禁止蜘蛛抓取所有htmnl文件

User-agent: *

Disallow: /*.html

抓取网站地图
Sitemap: /
禁止所有搜索引擎收入单个页面,不能跟追链接


Noindex:意思不要索引本页面

Nofollow:意思不要跟踪页面链接

不是站长编辑的链接,告诉搜索引擎不要跟踪爬行链接,不传递权重和描文字

不传递权重

我自己整理的,你自己看这写吧。
你可以用百度站长工具里面的Robots使用,里面有规则,根据那个写比较方便些

###

这个,帮不了。网站哪些想屏蔽的,需要你自己才清楚。
如果不太了解Robots的写法可以到站长平台上看下讲解。

本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/37540.html