Tag Archive 'Robots'

搜索引擎使用spider 程序自动访问互联网上的网页并获取网页信息。spider 在访问一个网站时， 会首先会检查该网站的根域下是否有一个叫做robots.txt 的纯文本文件。您可以在您的网站中创建一个纯文本文件robots.txt，在文件中声明 该网站中不想被robot访问的部分或者指定搜索引擎只收录特定的部分。