禁止某些垃圾搜索的蜘蛛访问跟图片访问

时间:2012-03-20 21:53:02 

最近流量飙升,而且半夜的时候服务器居然居然报错连接太多,查了下日志发现有道蜘蛛也在爬,当然Sosospider也是比较臭名昭著的,因为这些搜索用的人不多,价值也不大,所以我决定用robots.txt来禁止蜘蛛,不知道有用没有?据说Sosospider是照样无视robots.txt直接抓取的...

根目录public_html/下上传robots.txt,而public_html/bbs是我的PW论坛.

我的robots.txt写法:


User-agent: sogou spider2
Disallow: /
User-agent: YodaoBot
Disallow: /
User-agent: Sosospider
Disallow: /
User-agent: *
Disallow: /bbs/attachment/
Disallow: /bbs/attachment/.jpg$
Disallow: /bbs/attachment/.jpeg$
Disallow: /bbs/attachment/.gif$
Disallow: /bbs/attachment/.png$
Disallow: /bbs/attachment/.bmp$

意思是:禁止了搜狗,SoSO,还有有道的蜘蛛,另外PW bbs下的附件禁止所有蜘蛛访问,禁止采集图片..

不知道我这样写法有无错误?知道的来说说~

标签:禁止,蜘蛛,抓取
0
投稿

猜你喜欢

  • Linux中文本处理工具之cut命令详解

    2023-10-15 08:24:35
  • vim配置显示行号和语法高亮 即.vimrc文件的配置

    2022-04-15 21:03:45
  • 详解linux下mnt目录作用

    2023-06-26 23:32:42
  • 十大国外最好虚拟主机对比

    2010-03-17 14:52:00
  • Webmail攻防实战(5)

    2007-10-30 14:05:00
  • 防黑 加强Linux安全管理的方法

    2009-06-05 13:41:00
  • 关闭selinux(防火墙)方法分享

    2022-11-03 20:49:35
  • Linux中split大文件分割和cat合并文件详解

    2021-05-24 15:49:42
  • 详解VMware 虚拟机中添加新硬盘的方法

    2023-10-01 06:28:14
  • Godaddy 域名续费图文教程 支付宝续费

    2011-05-10 17:02:00
  • 浅谈Linux的零拷贝技术

    2023-07-08 12:14:14
  • 网易称没接到版署终止《魔兽世界》正式通知

    2009-11-07 08:08:00
  • 免费开源IIS过滤器

    2009-08-09 15:35:00
  • 在虚拟机virtualbox中安装ubuntu的图文教程

    2022-02-13 16:37:44
  • 完善九个方面 让企业网站达到设计的要求

    2008-11-19 17:19:00
  • docker-compose启动redis多机集群的实现(6台服务器3主3从)

    2023-05-04 17:44:21
  • Discuz! X2开放测试 新功能先睹为快

    2011-03-07 20:39:00
  • 解决SSL攻击的方法

    2009-10-06 14:23:00
  • VMware下ubuntu与Windows实现文件共享

    2021-01-21 22:14:23
  • Godaddy:从eNom转入域名

    2010-05-04 13:11:00
  • asp之家 网站运营 m.aspxhome.com