搜索
cad2007下载
软件下载
solidworks下载
proe下载
机械标准
机械招聘
机械图纸
机械百科
机械交易网
网站建设
机械设计手册
proe视频教程
cad2013视频教程
solidworks2008视频教程
CAD2004视频教程

robots.txt的规则误区及百度和Google的robots工具的运用

[复制链接]
查看: 308|回复: 0

该用户从未签到

发表于 2014-2-26 14:36:35 | 显示全部楼层 |阅读模式
.      的规则误区及百度和G          的            工具的运用<br>对于            .      文件对于网站的效用大家都晓得,不过经过仔细查看发觉,有点朋友对于            .      文件的规则仍然有一定的误区。<br>   譬如有众多人这么写:<br>   U      -          : *<br>   A        : /<br>   D              : /        /<br>   不晓得大家有没有见得,这个规则实际上是失灵的,第1句A        : / 指的是准许蛛蛛爬动全部内部实质意义,第二句D              :  /        /指的是严禁/        /下边的全部内部实质意义。<br>   外表上看这个规则想达到的目标是:准许蛛蛛爬动除开/        /以外的网站全部页面。<br>   不过搜索引擎网站蛛蛛执行的规则是从上到下,这么会导致第二句指示失去效力。<br>   准确的规则应当是:<br>   U      -          : *<br>   D              : /        /<br>   A        : /<br>   也就是先执行严禁指示,再执行准许指示,这么就不会失去效力了。<br>   额外对于百度蛛蛛来说,还有一个容易犯的不正确,那就是D              指示和A        指示在这以后要以斜杠/开头,所以有点人这么写:D              :  *.         这么对百度蛛蛛来说是不正确的,应当写成:D              : /*.         。<br>   有时我们写这些个规则有可能会有一点没有注意到的问题,如今可以经过百度站长工具(                  .          )和G          站长工具来测试。<br>   相对来说百度站长工具            工具相对简陋一点:<br><br><br><br>   百度R          工具只能检验测定每一行指示是否合乎语法令规则则,不过不检验测定实效果和抓取思维规律规则。<br>   相对来说G          的R          工具好用众多,如图:<br><br>   在谷歌站长工具里的名字是抓取工具的职权范围,并报告陈述G          抓取网站页面的时刻被中途阻挡了若干个网址。<br><br>   还可以在线测试R          改正后的效果,当然这处的改正只是测尝试使用,假如没有问题了,可以生成            .      文件,还是把指示代码复制到            .      文本文档中,上传到网站根目次。<br><br>   G          的测试跟百度有非常大的差别,它可以让你输入某一个还是某些网址,测试G          蛛蛛是否抓取这些个网址。<br><br>   测试最后结果是这些个网址被G          蛛蛛抓取的事情状况,这个测试对于R          文件对某些特别指定      的规则是否管用。<br>   而两个工具接合起来当然更好了,这下应当彻底清楚            应当怎么写了吧。<br>   过载请注明来自逍遥博客,本文地址:              /1170.        ,过载请注明来源和链接!                                                                           注:有关网站建设技法阅览请移步到建站教程频带。<br>
本文由erty提供 房主网 www.fangzhur.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册会员

本版积分规则

Copyright © 2012-2035 厦门鑫时器科技有限公司 版权所有
闽ICP备2023009579号-1 技术支持:机械网站建设  Powered by Discuz! X3.4
快速回复 返回顶部 返回列表