主页 > SEO杂谈 >

[网络安全]网站robots.txt不泄露后台等安全秘密

· 文章编辑:孔宇SEO · 所属栏目:SEO杂谈
    搞过网站的朋友都知道robots.txt文件是用来限制搜索引擎不乱抓取,只抓取我们希望被收录的内容的。比如我们网站的后台就不希望被搜索抓取,那么robots文件需要这样写:
 
蜘蛛抓取
 
    User-agent: *
 
    Disallow: /admin/
 
    但是这样我们很容易发现了一个问题,如果有人要破解攻击的话,很容易就知道了后台,一下子就清楚了网站的结构。
 
    我们并不想这样!
 
    有没有办法让robots.txt既能限制搜索引擎,又不泄露后台地址和隐私目录呢?有!
 
    一、使用通配符(*):
 
    User-agent: *
 
    Disallow: /a*/
 
    这样的写法,禁止所有的搜索引擎抓取根目录下a开头的目录。当您的后台是admok165的话,还有谁会看到呢?
 
    二、只写目录前几个字母,不写全:
 
    User-agent: *
 
    Disallow: /ad
 
    这种的写法,是禁止所有的搜索引擎抓取根目录下ad开头的目录。
 
    最后说明一下,以上这两种方法,需要网站目录没有相同字母开头的,例如ad目录,如果有两个一样的,那需在robots.txt文件里再加上一个字母区别开来。
优化技巧
技能培训

更多阅读

一文介绍有机seo如何确保您的网站在搜索引擎结果页中获得排名

行业动态 2020-06-02
如果您拥有一家公司,那么您就会知道用...查看全文

[网站运营技巧]教站长如何利用百度知心算法获取流量

行业动态 2019-06-04
关于搜索引擎知心搜索其实谈不上算法,...查看全文

[站点排名]搜索引擎网页排序的每一个掉排名背后的逻辑观点

行业动态 2019-06-04
在黑帽SEO优化里面流行着这么一种思路,...查看全文
网站地图
扫描二维码分享到微信
确 认
友情链接: