彻底屏蔽已收录的不需要的二级域名有效方法

       前面笔者写过一篇关于删除不想被收录的域名或页面百度快照办法,但由于百度有一定延迟,想到先用robots屏蔽的办法。SEO博客原来是不带www的作为主域,现在用www的域名作为主域,原主域已经收录几百个了,删除这些快照都不知道花多长时间。提醒各位尽量减少在中途变更主域,为把排名影响减少,一定要看完本帖。

        下面修改方法只适合用.htaccess把二级域名解析在子目录的虚拟主机,不适合IIS。其他方法参考文章《》

彻底屏蔽已收录的不需要的二级域名有效方法

       本站域名xiuzhanwang.com,解析了www.xiuzhanwang.com,zhan.xiuzhanwang.com,两个二级域名(www.xiuzhanwang.com实际上属于二级域名)

       期间还解析过m.vi586.com,shop.vi586.com等二级域名,这些域名已经停止使用了,空间也过期了,但网上还有快照,无法通过robots屏蔽。

(2016.6.9更新本帖)

       笔者在2016年5月中旬做了下面这些操作,前面还对其他非主域名进行过闭站保护,目前已经把非主域名的内容全部成功转到www.xiuzhanwang.com下,当然搜索引擎是比较滞后的,每个地区需要的时间不尽相等。

彻底屏蔽已收录的不需要的二级域名有效方法

彻底屏蔽不需要二级域名方法

       1.把不需要的二级域名分配到不同的空间进行robots屏蔽。既然已经取消二级域名的解析了,当然不推荐这样的做法,土豪请便。

       2.利用.htaccess实现非主域名访问robots.txt实际是访问wrobots.txt(该文件屏蔽蜘蛛抓取)。以万网Apache平台为例,vi586.com域名做全站301跳转到www.vi586.com,用robots彻底屏蔽蜘蛛抓取,经秀站网秀站网测试成功。

       wrobots.txt内容如下

User-Agent:*
Disallow:/

       .htaccess内容如下

RewriteEngine on
RewriteCond %{HTTP_HOST} ^www.vi586.com [NC]
RewriteRule ^robots.txt wrobots.txt [L]
RewriteCond %{REQUEST_FILENAME} !robots.txt
RewriteRule ^(.*) http://xiuzhanwang.com/$1 [R=301,L]

       第四行说明尽在请求名称非robots.txt的时候,才会执行后面的301跳转,避免第三条规则被覆盖。以上规则放在最前面,以免与原来的301规则发生冲突,下面是经测试成功的完整代码:

RewriteEngine on
RewriteCond %{HTTP_HOST} ^www.vi586.com [NC]
RewriteRule ^robots.txt wrobots.txt [L]
#以下为已存在规则:
<IfModule mod_rewrite.c>
RewriteEngine on
RewriteCond %{HTTP_HOST} !^www.xiuzhanwang.com [NC]
RewriteRule ^(.*)$ http://www.xiuzhanwang.com/$1 [L,R=301]
</IfModule>

        效果测试访问:http://www.xiuzhanwang.com/robots.txt和http://xiuzhanwang.com/robots.txt ,出现的结果是不是不一样了呢。

       当然这个方法对二级域名解析到二级目录也是可行的,方法参考文章《万网利用.htaccess完美实现子域名跳转到子目录》,由于已经URL重写了,要把二级目录下的robots.txt更名为wrobost.txt(蜘蛛只会访问robots.txt文件)不然会提示404错误。访问:http://zhan.xiuzhanwang.com/robots.txt

       二级域名解析到二级目录与屏蔽不需要的域名.htaccess完整代码如下

RewriteEngine On
RewriteCond %{HTTP_HOST} !^www.xiuzhanwang.com [NC]
RewriteRule ^robots.txt wrobots.txt [L]
RewriteRule ^index\.(php|html|htm)$ http://www.xiuzhanwang.com/ [R=301,L]
#tag伪静态规则
RewriteRule ^tags.html$ /tags.php
RewriteRule ^tags/(.*).html$ /tags.php?/$1/
#二级域名解析到二级目录
<IfModule mod_rewrite.c>
RewriteEngine On
RewriteBase /
RewriteCond %{HTTP_HOST} ^zhan\.xiuzhanwang\.com$ [NC]
RewriteCond %{REQUEST_URI} !^/zhan/
RewriteRule ^(.*)$ zhan/$1?Rewrite [L,QSA]
</IfModule>
#不带www域名301到带www域名
<IfModule mod_rewrite.c>
RewriteEngine On
RewriteCond %{HTTP_HOST} !^www.xiuzhanwang.com [NC]
RewriteRule ^(.*)$ http://www.xiuzhanwang.com/$1 [L,R=301]
</IfModule>

       3.如果需要屏蔽的是二级目录(如:/about)但是能抓取里面的以*.html文件,直接在robots.txt写上

Disallow:/about/
Allow:/about/*.html

       4.无法用robots屏蔽的目录或二级域名可以用跟301跳转,那些没用的页面删除,向百度提交404页面即可。

       5.如果是空间自带的三级域名被收录,采取规范好URL路径,所有链接采用主域名的绝对路径,不给任何不想收录的二级域名入口,并更新高质量的内容,让搜索引擎重新审核主域。

不需要的二级域名处理办法总结

       笔者对不需要的二级域名刚开始并没有做太多的处理,也有朋友建议我不用去管,做好URL规范和更新内容,让百度自己去判断主域就好,事实是朋友们是对的,百度蜘蛛慢慢的也没那么“蠢”了。这些快照只是时间问题,内容质量不高的页面即使抓取了,也不会放出快照,何况一些二级域名的错误提示呢。

主题测试文章,只做测试使用。发布者:佰搜SEM,转转请注明出处:https://baidusem.com/8741.html

(0)
佰搜SEM的头像佰搜SEM
上一篇 2024年12月24日 下午12:13
下一篇 2024年12月24日 下午12:13

相关推荐

  • 网站地图对于SEO的重要性

    摘要 网站地图作为SEO优化的常用手段,对提高站点收录有着很明显的作用,如何将网站地图的作用发挥到最大是将要介绍的内容。首先我们介绍什么是网站地图?网站地图是一个用来描述网站结构、栏目和内容说明等基本信息的网页,它是针对搜索引擎特制的地图,可以方便搜索引擎对站点进行收录.网站地图上面列出了网站各 网站地图作为SEO优化的常用手段,对提高站点收录有着很明显的作…

    SEO优化 2022年5月7日
    4300
  • 哪些操作会导致网站搜索引擎过度优化

    随着互联网搜索引擎技术的不断更新改进,采集 作弊 快速排名网站最终无功而返,我们把网站优化分为站内优化和站外优化,站内优化包括站内站点的基础优化,站外包括外链、引流等。 排名好的网站基础优化是没有什么可挑剔的,站内优化做好了,也能让你事半功倍,蜘蛛喜欢,用户也喜欢。今天我们就从站内优化和站外优化两个角度分析下,如何区分判别过度优化。 站内优化 站内优化:网站…

    SEO优化 2024年12月18日
    5700
  • 揭秘网站收录之谜,为何只快收普通收录不收?

    在互联网信息爆炸的时代,网站收录成为许多站长和SEOer关注的焦点,很多人会发现,自己的网站收录速度很快,但普通收录却始终没有进展,这究竟是怎么回事呢?本文将揭秘网站收录之谜,分析为何只快收普通收录不收。 网站收录概述 1、网站收录的定义 网站收录是指搜索引擎将网站页面纳入其数据库的过程,收录后的页面可以在搜索引擎结果页面(SERP)中展示,从而吸引流量。 …

    2025年3月21日
    4200
  • 探索梦境深处,收录梦境小说的网站推荐指南

    在繁忙的都市生活中,我们常常渴望逃离现实,进入一个充满奇幻与想象的世界,梦境小说,作为一种独特的文学形式,以其独特的魅力吸引着无数读者,为了帮助您更好地沉浸在梦境的世界中,本文将为您推荐一些收录梦境小说的优质网站,让您随时随地享受阅读的乐趣。 豆瓣阅读 豆瓣阅读是国内知名的文学阅读平台,汇聚了众多知名作家和潜力新人的作品,在豆瓣阅读中,您可以找到许多关于梦境…

    2025年3月13日
    4300
  • 如何撰写吸引眼球的网站文章标题,技巧与实例分析

    在信息爆炸的时代,每天有成千上万的文章在网络上发布,如何在众多文章中脱颖而出,吸引读者的注意,标题起着至关重要的作用,一个优秀的文章标题不仅能够激发读者的好奇心,还能提高文章的点击率和阅读量,本文将探讨如何撰写吸引眼球的网站文章标题,并提供一些实用的技巧和实例分析。 1、突出文章主题 应简洁明了地概括文章的主题,让读者一眼就能看出文章的内容。“5个实用技巧,…

    2025年3月27日
    2900

联系我们

在线咨询: QQ交谈

邮件:3413323304@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
网站+域名可转让!