WordPress屏蔽搜索引擎方法
在刚刚开始建站时,因为站点结构和初始内容都没有准备好,网站处于测试阶段,我们开放搜索引擎收录是没有意义的,如果搜索引擎收录了很多无用的页面,反而不利于我们后期的优化,所以在初建网站时,禁止搜索引擎是很有必要的,在本教程中我们将教大家如何在WordPress中禁止搜索引擎
Robots.txt文件
Robots.txt 是存放在站点根目录下的一个纯文本文件。虽然它的设置很简单,但是作用却很强大。它可以指定搜索引擎蜘蛛只抓取指定的内容,或者是禁止搜索引擎蜘蛛抓取网站的部分或全部内容。
通常站长们在禁止搜索引擎方面都会使用Robots.txt文件,不过一般的系统并没有内置这个功能,需要自己去写规则并上传
WordPress则是有一个内置的robots.txt文件,该文件位于网站根目录,比如廖为祥博客的robots文件就是 https://liaoweixiang.com/robots.txt ,网站文件里看不到的,但是在浏览器就是能访问到
熟悉robots规则的朋友,可以看到默认情况下是没有屏蔽任何搜索引擎的,只是屏蔽掉了默认的管理界面 /wp-admin
设置WordPress禁止搜索引擎收录
如果你的WordPress网站正在建设中或者正在改版,非常建议你临时禁用搜索引擎,下面说下如何在wordpress中设置
打开wordpress后台,依次选择 设置 – 阅读 – 对搜素引擎可见性 – 勾选建议搜索引擎不索引不站点,最后记得保存设置

这个时候,就表示我们已经不希望搜索引擎收录了
你可以再次访问robots文件,发现多出了一条语句 Disallow:/ ,这样的设置就表示禁止任何搜索引擎抓取网站

而且当你开启禁用收录选项后,WordPress后台会出现警告文字,提醒你正在禁用搜索引擎,这个是为了防止我们忘记开启收录而做的提醒。如果你什么时候需要搜索引擎收录了,可以随时将勾选去掉,开放收录。
如何确保你的网站不会出现在搜索结果中?
WordPress默认的网站可见性设置告诉搜索引擎不要对网站进行索引。 但是,搜索引擎可能仍然会从你的网站抓取并索引页面,文件或图像。
要确保搜索引擎100%不会索引你的网站,唯一的方法就是在服务器级别用密码将整个WordPress网站保护起来。
这以为在,如果有人想要访问你的网站,在他们接触到WordPress之前,服务器会要求他们提供用户名和密码来进行认证,当然也包括搜索引擎。登录失败后,服务器会返回401错误,爬虫就会离开。下面是如何使用密码来保护整个WordPress站点。
用插件实现密码保护WordPress
SeedProd – 这是WordPress上最好用的Coming Soon和维护模式的插件,超过800000的网站都在使用。它具有完整的访问控制和权限,你可以用它将网站对所有人隐藏,包括对搜索引擎。
Password Protected – 这是个仅用一个密码就可以保护整个WordPress网站的插件(不需要创建用户)。