Tag Archive 'Spider'

我一直对我几个站在百度搜索引擎里面的收录情况不满意，而且我也尝试了很多针对百度SEO 优化的方法，但是效果不是很理想，真希望有路过的高人指点迷津。关于百度蜘蛛BaiduSpider 这头”猪”，我越来越琢磨不透，以下是我对BaiduSpider 的一些认识或者说是了解吧

搜索引擎使用spider 程序自动访问互联网上的网页并获取网页信息。spider 在访问一个网站时， 会首先会检查该网站的根域下是否有一个叫做robots.txt 的纯文本文件。您可以在您的网站中创建一个纯文本文件robots.txt，在文件中声明 该网站中不想被robot访问的部分或者指定搜索引擎只收录特定的部分。