禁止某些垃圾搜索的蜘蛛访问跟图片访问
时间:2012-03-20 21:53:02
最近流量飙升,而且半夜的时候服务器居然居然报错连接太多,查了下日志发现有道蜘蛛也在爬,当然Sosospider也是比较臭名昭著的,因为这些搜索用的人不多,价值也不大,所以我决定用robots.txt来禁止蜘蛛,不知道有用没有?据说Sosospider是照样无视robots.txt直接抓取的...
根目录public_html/下上传robots.txt,而public_html/bbs是我的PW论坛.
我的robots.txt写法:
User-agent: sogou spider2
Disallow: /
User-agent: YodaoBot
Disallow: /
User-agent: Sosospider
Disallow: /
User-agent: *
Disallow: /bbs/attachment/
Disallow: /bbs/attachment/.jpg$
Disallow: /bbs/attachment/.jpeg$
Disallow: /bbs/attachment/.gif$
Disallow: /bbs/attachment/.png$
Disallow: /bbs/attachment/.bmp$
意思是:禁止了搜狗,SoSO,还有有道的蜘蛛,另外PW bbs下的附件禁止所有蜘蛛访问,禁止采集图片..
不知道我这样写法有无错误?知道的来说说~
标签:禁止,蜘蛛,抓取
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
windows2003服务器被ARP挂马事件的安全分析
2010-05-03 13:27:00
丁磊养猪新动态 网易先投资1亿建生态养猪场
2009-10-22 14:03:00
彭洪伟:浅谈网络推广中最重要的三点
2009-04-07 11:39:00
Apache服务器配置全攻略(二)
2008-01-09 13:00:00
支付宝邵晓锋:支付市场不到万亿别谈格局
2009-10-27 17:28:00
SSH命令详解
2009-11-19 12:08:00
初做网站最喜欢犯毛病 网站发展四点思考
2008-12-10 12:02:00
Windows服务器安全维护的几个需要注意点
2009-01-06 17:04:00
GoDaddy:如何给Password Vault添加密码
2010-04-12 12:34:00
不可错过的IT女孩TOP10
2008-09-28 13:15:00
七夕、立秋、奥运前夕
2008-08-08 12:35:00
网上推广借助免费信息平台
2009-02-13 23:10:00
同时提高网站流量和pv值阅读
2008-03-16 15:53:00
要想成功站长必看秘籍
2008-02-02 16:56:00
站长应该多多利用的推广方法地毯式推广
2009-05-24 09:58:00
![](https://img.aspxhome.com/file/UploadPic/20095/200952418751120s.jpg)
Discuz!财付通支付接口使用说明
2009-08-10 13:06:00
![](https://img.aspxhome.com/file/UploadPic/20098/10/2009810132126568s.jpg)
如何用mail服务器构建多域名邮件系统
2010-03-13 18:38:00
博雅立方:指引传统B2C的突围之路
2009-10-27 13:48:00
抗DoS、DDoS防火墙产品大检阅
2009-12-24 15:01:00
无损迁移IIS数据方法(含匿名帐号,ntfs,acl,用户同步)
2010-01-30 13:45:00