禁止某些垃圾搜索的蜘蛛访问跟图片访问

时间:2012-03-20 21:53:02 

最近流量飙升,而且半夜的时候服务器居然居然报错连接太多,查了下日志发现有道蜘蛛也在爬,当然Sosospider也是比较臭名昭著的,因为这些搜索用的人不多,价值也不大,所以我决定用robots.txt来禁止蜘蛛,不知道有用没有?据说Sosospider是照样无视robots.txt直接抓取的...

根目录public_html/下上传robots.txt,而public_html/bbs是我的PW论坛.

我的robots.txt写法:


User-agent: sogou spider2
Disallow: /
User-agent: YodaoBot
Disallow: /
User-agent: Sosospider
Disallow: /
User-agent: *
Disallow: /bbs/attachment/
Disallow: /bbs/attachment/.jpg$
Disallow: /bbs/attachment/.jpeg$
Disallow: /bbs/attachment/.gif$
Disallow: /bbs/attachment/.png$
Disallow: /bbs/attachment/.bmp$

意思是:禁止了搜狗,SoSO,还有有道的蜘蛛,另外PW bbs下的附件禁止所有蜘蛛访问,禁止采集图片..

不知道我这样写法有无错误?知道的来说说~

标签:禁止,蜘蛛,抓取
0
投稿

猜你喜欢

  • windows2003服务器被ARP挂马事件的安全分析

    2010-05-03 13:27:00
  • 丁磊养猪新动态 网易先投资1亿建生态养猪场

    2009-10-22 14:03:00
  • 彭洪伟:浅谈网络推广中最重要的三点

    2009-04-07 11:39:00
  • Apache服务器配置全攻略(二)

    2008-01-09 13:00:00
  • 支付宝邵晓锋:支付市场不到万亿别谈格局

    2009-10-27 17:28:00
  • SSH命令详解

    2009-11-19 12:08:00
  • 初做网站最喜欢犯毛病 网站发展四点思考

    2008-12-10 12:02:00
  • Windows服务器安全维护的几个需要注意点

    2009-01-06 17:04:00
  • GoDaddy:如何给Password Vault添加密码

    2010-04-12 12:34:00
  • 不可错过的IT女孩TOP10

    2008-09-28 13:15:00
  • 七夕、立秋、奥运前夕

    2008-08-08 12:35:00
  • 网上推广借助免费信息平台

    2009-02-13 23:10:00
  • 同时提高网站流量和pv值阅读

    2008-03-16 15:53:00
  • 要想成功站长必看秘籍

    2008-02-02 16:56:00
  • 站长应该多多利用的推广方法地毯式推广

    2009-05-24 09:58:00
  • Discuz!财付通支付接口使用说明

    2009-08-10 13:06:00
  • 如何用mail服务器构建多域名邮件系统

    2010-03-13 18:38:00
  • 博雅立方:指引传统B2C的突围之路

    2009-10-27 13:48:00
  • 抗DoS、DDoS防火墙产品大检阅

    2009-12-24 15:01:00
  • 无损迁移IIS数据方法(含匿名帐号,ntfs,acl,用户同步)

    2010-01-30 13:45:00
  • asp之家 网站运营 m.aspxhome.com