做SEO优化的进程中为何那末重视robots.txt

做SEO优化的进程中，我们也比较重视robots.txt这个文件，下面我们来具体了解一下：

一、robots.txt基本介绍

robots.txr文件是一个纯文本文件，可以告知蜘蛛哪些页面可以爬取（收录），哪些页面不能爬取。

搜索引擎爬去我们页面的工具叫做搜索引擎机器人【程序robot（又称spider）】，也生动的叫做“蜘蛛”。

二. robots.txt文件放在哪里?

SEO优化蜘蛛在爬去网站页面之前，会先去访问网站根目录下面的一个文件，就是robots.txt。这个文件其实就是给“蜘蛛”的规则，如果没有这个文件，蜘蛛会认为你的网站同意全部抓取网页。如果存在，搜索机器人就会依照该文件中的内容来肯定访问的范围。

另外，robots.txt一定要放置在一个站点的根目录下，而且文件名一定要全部小写。

举例来讲，当robots访问一个网站（比如http://www.seojigou.com）时，首先会检查该网站中会不会存在http://www.seojigou.com/robots.txt这个文件，如果机器人找到这个文件，它就会根据这个文件的内容，来肯定它访问权限的范围。

三. robots.txt文件的格式

\"robots.txt\"文件包括一条或更多的记录，这些记录通过空行分开（以CR,CR/NL, or NL作为结束符），每条记录的格式以下所示：

\":\"。

在该文件中可使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow行,详细情况以下：

User-agent:
该项的值用于描写搜索引擎robot的名字，在\"robots.txt\"文件中，如果有多条User-agent记录说明有多个robot会遭到该协议的限制，对该文件来讲，最少要有一条User-agent记录。如果该项的值设为*，则该协议对任何机器人均有效，在\"robots.txt\"文件中，\"User-agent：*\"这样的记录只能有一条。

以上就是关于SEO优化中robots.txt的相关内容介绍，希望对大家有帮助。

小编主要从事、网站优化、SEO优化、优化公司、网站SEO、SEO公司、SEO推广、网络推广、网络推广公司、网站推广、网站推广公司、网络营销、网站SEO优化、网站优化公司、SEO优化公司、搜索引擎优化、网站排名、快速排名、关键词排名、关键词优化、网站建设、网站设计、网站制作、网站建设公司、网站设计公司、网站制作公司、整站优化!官网：www.huanp.com