Robots的作用，它可以用来干什么。Robots是网站和搜索引擎之间的一个协议。用来防止搜索引擎抓取那些我们不想被搜索引擎索引的内容。我们可以用它来保护一些隐私的内容，屏蔽死链接和无内容页面和重复页面。

一，屏蔽无内容页面和重复页面

　　1，无内容页面和重复页面会严重影响站内页面的质量，如果站内存在大量的这种无意义和重复的页面就会造成网站的降权;比如一些注册页面，登陆页面，会话ID，加载页面，商城的购物蓝页面，这些都要进行屏蔽。

　　2，屏蔽多路径的同一个页面，很多网站的首页都会存在这样一个问题，举例说明一下，www.***.net,这个网址是常用的登录方式，因为程序和路径不统一的原因，造成首页有二个路径都被收录，www.***.net/index.php,类似这样的，我们就要给网站统一一个标准的入口，直接用robots进行屏蔽操作。

二，屏蔽死链接

　　死链接是网站不能避免的难题，如果被搜索引擎收录了，这样的死链接势必会影响用户体验，这个时候就需要对这个页面进行robots屏蔽。常见的几种错误如下：

　　1，站内错误，网站的操作人员出现误操作或者删除某些具体页面。

　　2，程序错误，因为网站改版，更换程序造成的死链接。

　　3，外链引起的死链接，通常是由于输入错误而导致形成你网站的死链接。