记得@夫唯[?] 老师讲过,新站网站因为栏目太多,又没有时间更新太多文章,这时就会出现一些没有内容的栏目,尽量不要一下子全放出来。这样避免蜘蛛抓取到很多空白页面。
以下是@@www.zhongliuzhongxin.com@@网站有关栏目陆续开放的做法。
网站用的是DEDECMS,通过robots来控制,每天在相关栏目中更新4篇文章后,删除对应robots对应栏目的Disallow:,然后重新生成静态html页面。robots禁用相关栏目如下:
Disallow: /center/benmenai
Disallow: /center/dga
Disallow: /center/feiai
Disallow: /center/gangai
Disallow: /center/gongjing
Disallow: /center/guai
Disallow: /center/gurou
Disallow: /center/gw
Disallow: /center/heisesu
Disallow: /center/houai
Disallow: /center/jiaozhiliu
Disallow: /center/jzx
Disallow: /center/kouqiang
Disallow: /center/linba
问题:
1、这种做法,是否可取?
2、如果不可取,要怎么做?删除这些栏目吗?
3、蜘蛛到访网站,是不是先读取robots?
1.可以做,但是不可取,网站规划寻去渐进,规划出来一个个做出来,不要一起放出。
2.栏目没内容就先不要放出来 不给外部链接 蜘蛛不会主动去爬没放出来的空白栏目,如果要放就需要准备好所有的额内容再放。
3,.蜘蛛到访 首先访问根目录下的Robots文件,根据协议抓取内容。
本文来自投稿,不代表微盟圈立场,如若转载,请注明出处:https://www.vm7.com/a/ask/31592.html