西安观止
西安观止软件旗下品牌
  网站优化 西安网站设计
西安网页设计 关于电子商务网站SEO... 03-26
西安网页设计 读懂这7点,让SEO效... 03-21
西安网页设计 谈关键词在网站整体优化... 01-03
西安网页设计 5个要点起一个好标题 07-18
西安网页设计 网站建设中最容易忽略的... 02-15
西安网页设计 2017年SEO推广优... 01-20
西安网页设计 一个可以给企业带来效益... 11-01
西安网页设计 高质量友情链接参考数据 10-28
西安网页设计 网站建设外链质量不容忽... 10-25
西安网页设计 如何做好微信营销 10-18
西安网页设计 新站做SEO优化的关键... 10-08
西安网页设计 每日三小时!一个SEO... 09-19
西安网页设计 网站优化不要过度迷信静... 07-04
西安网页设计 关键词是网站推广不可或... 07-01
西安网页设计 网站结构规划和内链建设 06-24
西安网页设计 如何为网站SEO进行评... 06-20
西安网页设计 网站优化做SEO不能发... 06-18
西安网页设计 六大微信营销方法解析 06-12
西安网页设计 做网站优化写的文章一定... 06-07
西安网页设计 做好SEO优化坚持的原... 05-24
西安网站建设
  文章内容  
Robots.txt之使用指南

  搜索引擎访问一个网站时,它首先会检查该网站的根域下是否有一个叫做robots.txt的纯文本文件。Robots.txt文件用于限定搜索引擎对其网站的访问范围,即告诉搜索引擎网站中哪些文件是允许它进行检索(下载)的。这就是大家在网络上常看到的“拒绝Robots访问标准”(Robots Exclusion Standard)。下面我们简称RES。 Robots.txt文件的格式:Robots.txt文件的格式比较特殊,它由记录组成。这些记录通过空行分开。其中每条记录均由两个域组成:

  1) 一个User-Agent(用户代理)字符串行;

  2) 若干Disallow字符串行。

  记录格式为: ":"

  下面我们分别对这两个域做进一步说明。

  User-agent(用户代理):

  User-agent行(用户代理行) 用于指定搜索引擎robot的名字,以Google的检索程序Googlebot为例,有:User-agent: Googlebot

  一个robots.txt中至少要有一条User-agent记录。如果有多条User-agent记录,则说明有多个robot会受到RES标准的限制。当然了,如果要指定所有的robot,只需用一个通配符"*"就搞定了,即:User-agent: * Disallow(拒绝访问声明):

  在Robots.txt文件中,每条记录的第二个域是Disallow:指令行。这些Disallow行声明了该网站中不希望被访问的文件和(或)目录。例如"Disallow: email.htm"对文件的访问进行了声明,禁止Spiders下载网站上的email.htm文件。而"Disallow: /cgi-bin/"则对cgi-bin目录的访问进行了声明,拒绝Spiders进入该目录及其子目录。Disallow声明行还具有通配符功能。例如上例中"Disallow: /cgi-bin/"声明了拒绝搜索引擎对cgi-bin目录及其子目录的访问,而"Disallow:/bob"则拒绝搜索引擎对/bob.html和/bob/indes.html的访问(即无论是名为bob的文件还是名为bob的目录下的文件都不允许搜索引擎访问)。Disallow记录如果留空,则说明该网站的所有部分都向搜索引擎开放。

  空格 & 注释

  在robots.txt文件中,凡以"#"开头的行,均被视为注解内容,这和UNIX中的惯例是一样的。但大家需要注意两个问题:

  1) RES标准允许将注解内容放在指示行的末尾,但这种格式并不是所有的Spiders都能够支持。譬如,并不是所有的Spiders都能够正确理解"Disallow: bob #comment"这样一条指令。有的Spiders就会误解为Disallow的是"bob#comment"。最好的办法是使注解自成一行。

  2) RES标准允许在一个指令行的开头存在空格,象"Disallow: bob #comment",但我们也并不建议大家这么做。

  Robots.txt文件的创建:

  需要注意的是,应当在UNIX命令行终端模式下创建Robots.txt纯文本文件。好的文本编辑器一般都能够提供UNIX模式功能,或者你的FTP客户端软件也“应该”能够替你转换过来。如果你试图用一个没有提供文本编辑模式的HTML编辑器来生成你的robots.txt纯文本文件,那你可就是瞎子打蚊子——白费力气了。

  对RES标准的扩展:

  尽管已经提出了一些扩展标准,如Allow行或Robot版本控制(例如应该忽略大小写和版本号),但尚未得到RES工作组的正式批准认可。

  附录I. Robots.txt用法举例:

  使用通配符"*",可设置对所有robot的访问权限。

  User-agent: *

  Disallow:

  表明:允许所有搜索引擎访问网站下的所有内容。

  User-agent: *

  Disallow: /

  表明:禁止所有搜索引擎对网站下所有网页的访问。

  User-agent: *

  Disallow: /cgi-bin/Disallow: /images/

  表明:禁止所有搜索引擎进入网站的cgi-bin和images目录及其下所有子目录。需要注意的是对每一个目录必须分开声明。

  User-agent: Roverdog

  Disallow: /

  表明:禁止Roverdog访问网站上的任何文件。

  User-agent: Googlebot

  Disallow: cheese.htm

  表明:禁止Google的Googlebot访问其网站下的cheese.htm文件。

  上面介绍了一些简单的设置,对于比较复杂的设置,可参看一些大型站点如CNN或Looksmart的robots.txt文件(www.cnn.com/robots.txt, www.looksmart.com/robots.txt )

  附录II. 相关robots.txt文章参考:

  1. Robots.txt常见问题解析

  2. Robots Meta Tag的使用

  3. Robots.txt检测程序

 

责任编辑:029wxhl
常见问题       更多>>
西安网页设计 做好10件事,网站上线... 01-10
西安网页设计 一般定制开发网站的步骤 10-18
西安网页设计 中小电商做SEO真的还... 10-18
西安网页设计 创意枯竭、违背道德、触... 07-11
西安网页设计 网站建设过程中容易存在... 02-15
西安网页设计 网站制作中前端包含哪些... 01-20
解决方案        更多>>
西安网页设计 如何用「撩文化」攻心抢... 01-10
西安网页设计 微信运营之如何拉新 07-11
西安网页设计 网站超链接分为哪几种方... 11-28
西安网页设计 网站设计常见技巧分析 11-12
西安网页设计 红酒网站设计推广方案应... 10-18
西安网页设计 网站设计之如何创建目录... 10-10
网站优化       更多>>
西安网页设计 关于电子商务网站SEO... 03-26
西安网页设计 读懂这7点,让SEO效... 03-21
西安网页设计 谈关键词在网站整体优化... 01-03
西安网页设计 5个要点起一个好标题 07-18
西安网页设计 网站建设中最容易忽略的... 02-15
西安网页设计 2017年SEO推广优... 01-20
网络营销        更多>>
西安网页设计 头图也能提高打开率?不... 01-15
西安网页设计 写出好的网络营销文案的... 01-08
西安网页设计 一份关于如何提高创意思... 07-18
西安网页设计 网站公司如何在电子商务... 11-29
西安网页设计 网站访问统计的分析方式... 11-26
西安网页设计 网络推广如何提高询盘转... 11-20

关于我们 | 西安网站建设 | 西安网站设计推广 | 西安成品网站建设 | 西安网站制作案例 | 价格总览 | 网站地图 | 联系方式
Copyright @ 2006 - 2009 ShenDu.org Inc. All Rights Reserved  版权所有:西安观止软件科技有限公司
本站观键词:西安网站建设、西安网站制作、西安网站设计、西安网页设计\西安网站建设顶尖品牌、西安高端网站建设、西安网站建设公司
地址:西安市东仪路铭城16号 邮箱:shenduorg@qq.com 联系电话:029-88248475 技术支持热线:15891743886 13359293576
建议使用:1024*768分辨率,16位以上颜色IE5.0以上版本浏览器 备案号:陕ICP备11009317号-5

专注于:西安网站制作|西安网站设计|西安网站建设|西安企业网站建设