【本文介绍】
在我们建站时WordPress会自动生成一个robots.txt文件,默认在浏览器中输入:http://你的域名/robots.txt,会显示如下内容:
- User-agent: *
- Disallow: /wp-admin/
- Disallow: /wp-includes/
这段代码的意思是告诉搜索引擎不要抓取哪些后台文件文件。
【操作指南】
所以我们需要更加完整的robots.txt内容,防止百度蜘蛛乱抓取收录。下面提供两个robots.txt,大家都可以参考。
大家可以根据自己的需求删除不要的,然后上传到网站根目录,然后去百度站长平台,进行检测
【功能介绍】
下面分别解释一下各项代码的作用给大家方便理解:
1、Disallow: /wp-admin/、Disallow: /wp-content/和Disallow: /wp-includes/
用于告诉搜索引擎不要抓取后台程序文件页面。
2、Disallow: /*/comment-page-*和Disallow: /*?replytocom=*
禁止搜索引擎抓取评论分页等相关链接。
3、Disallow: /category/*/page/和Disallow: /tag/*/page/
禁止搜索引擎抓取收录分类和标签的分页。
4、Disallow: /*/trackback
禁止搜索引擎抓取收录trackback等垃圾信息
5、Disallow: /feed、Disallow: /*/feed和Disallow: /comments/feed
禁止搜索引擎抓取收录feed链接,feed只用于订阅本站,与搜索引擎无关。
6、Disallow: /?s=*和Disallow: /*/?s=*\
禁止搜索引擎抓取站内搜索结果
7、Disallow: /attachment/
禁止搜索引擎抓取附件页面,比如毫无意义的图片附件页面。
上面只是些基本的写法,当然还有很多,但是对于新手Wordpress站长来讲已经够用了。
- 我的微信
- 这是我的微信扫一扫
-
- 我的微信公众号
- 我的微信公众号扫一扫
-
2021年10月2日 15:44 19楼
我想早恋,但是已经晚了…
2021年9月30日 21:23 18楼
今天天气很好,在房间里宅久了,准备去客厅散散心。
2021年8月22日 18:58 17楼
来看看
2021年5月6日 14:33 16楼
每次看穷游日志的感受都是,那么穷就别TM出去浪了。
2021年4月8日 16:41 15楼
学习学习了
2021年4月8日 16:40 14楼
世人笑我太疯癫,我笑世人这么快就看出来了。
2021年3月30日 16:20 13楼
不错、学写了
2021年2月6日 08:32 12楼
庄生晓梦迷蝴蝶,望帝春心托杜鹃—-【唐·李商隐·锦瑟】
2020年12月24日 14:47 11楼
很好 适用 get到了 世鼎检测办理防爆认证 www.wortest.com