【WordPress 教程】wordpress中如何正确书写robots.txt

孤狼
171
文章
94
评论
2019年4月10日16:39:06 10 10,748 1647字阅读5分29秒
摘要

如果用Wordpress默认的robots这种缺陷是巨大的,因为没有屏蔽/wp-content/和/wp-includes/等诸多文件,假以时日,会有很多后台文件都被收录。

【本文介绍】

在我们建站时WordPress会自动生成一个robots.txt文件,默认在浏览器中输入:http://你的域名/robots.txt,会显示如下内容:

Wordpress默认robots
  1. User-agent: *
  2. Disallow: /wp-admin/
  3. Disallow: /wp-includes/

这段代码的意思是告诉搜索引擎不要抓取哪些后台文件文件。

【操作指南】

所以我们需要更加完整的robots.txt内容,防止百度蜘蛛乱抓取收录。下面提供两个robots.txt,大家都可以参考。

此处为隐藏的内容!
发表评论并刷新,方可查看

大家可以根据自己的需求删除不要的,然后上传到网站根目录,然后去百度站长平台,进行检测

【功能介绍】

下面分别解释一下各项代码的作用给大家方便理解:

1、Disallow: /wp-admin/、Disallow: /wp-content/和Disallow: /wp-includes/

用于告诉搜索引擎不要抓取后台程序文件页面。

2、Disallow: /*/comment-page-*和Disallow: /*?replytocom=*

禁止搜索引擎抓取评论分页等相关链接。

3、Disallow: /category/*/page/和Disallow: /tag/*/page/

禁止搜索引擎抓取收录分类和标签的分页。

4、Disallow: /*/trackback

禁止搜索引擎抓取收录trackback等垃圾信息

5、Disallow: /feed、Disallow: /*/feed和Disallow: /comments/feed

禁止搜索引擎抓取收录feed链接,feed只用于订阅本站,与搜索引擎无关。

6、Disallow: /?s=*和Disallow: /*/?s=*\

禁止搜索引擎抓取站内搜索结果

7、Disallow: /attachment/

禁止搜索引擎抓取附件页面,比如毫无意义的图片附件页面。

上面只是些基本的写法,当然还有很多,但是对于新手Wordpress站长来讲已经够用了。

继续阅读
  • 我的微信
  • 这是我的微信扫一扫
  • weinxin
  • 我的微信公众号
  • 我的微信公众号扫一扫
  • weinxin
  • 本文由 发表于 2019年4月10日16:39:06
  • 除非特殊声明,本站文章均为原创,转载请务必保留本文链接
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

评论:10   其中:访客  10   博主  0
    • 钟诚俊 钟诚俊

      近朱者赤,近墨者黑—-【东晋·傅玄·太子少傅箴】

      • 12 12

        好雨知时节,当春乃发生。随风潜入夜,润物细无声。野径云俱黑,江船火独明。晓看红湿处,花重(zhòng)锦官城。—-【春夜喜雨(唐杜甫)】

        • 4646 4646

          我荒废了时间,时间便把我荒废了。— 莎士比亚

          • 15222345 15222345

            友谊是两颗心真诚相待,而不是一颗心对另一颗心的敲打。— 鲁迅

            • 土木狗 土木狗

              我觉得不错,我也用的

              • 变形金刚 变形金刚

                可以了

                • 变形金刚 变形金刚

                  求知若饥,虚心若愚。— 乔布斯

                  • 我我我 我我我

                    芝兰生于幽林,不以无人而不芳;君子修道立德,不为穷困而改节。— 孔子

                    • 侧是是是 侧是是是

                      只有疯狂到认为自己能改变世界的人,才能真正改变世界。— 乔布斯

                      • 小君君 小君君

                        这个写的很详细