禁止某些垃圾搜索的蜘蛛访问跟图片访问
时间:2012-03-20 21:53:02
最近流量飙升,而且半夜的时候服务器居然居然报错连接太多,查了下日志发现有道蜘蛛也在爬,当然Sosospider也是比较臭名昭著的,因为这些搜索用的人不多,价值也不大,所以我决定用robots.txt来禁止蜘蛛,不知道有用没有?据说Sosospider是照样无视robots.txt直接抓取的...
根目录public_html/下上传robots.txt,而public_html/bbs是我的PW论坛.
我的robots.txt写法:
User-agent: sogou spider2
Disallow: /
User-agent: YodaoBot
Disallow: /
User-agent: Sosospider
Disallow: /
User-agent: *
Disallow: /bbs/attachment/
Disallow: /bbs/attachment/.jpg$
Disallow: /bbs/attachment/.jpeg$
Disallow: /bbs/attachment/.gif$
Disallow: /bbs/attachment/.png$
Disallow: /bbs/attachment/.bmp$
意思是:禁止了搜狗,SoSO,还有有道的蜘蛛,另外PW bbs下的附件禁止所有蜘蛛访问,禁止采集图片..
不知道我这样写法有无错误?知道的来说说~
标签:禁止,蜘蛛,抓取
0
投稿
猜你喜欢
Linux中文本处理工具之cut命令详解
2023-10-15 08:24:35
vim配置显示行号和语法高亮 即.vimrc文件的配置
2022-04-15 21:03:45
详解linux下mnt目录作用
2023-06-26 23:32:42
十大国外最好虚拟主机对比
2010-03-17 14:52:00
Webmail攻防实战(5)
2007-10-30 14:05:00
防黑 加强Linux安全管理的方法
2009-06-05 13:41:00
关闭selinux(防火墙)方法分享
2022-11-03 20:49:35
Linux中split大文件分割和cat合并文件详解
2021-05-24 15:49:42
详解VMware 虚拟机中添加新硬盘的方法
2023-10-01 06:28:14
Godaddy 域名续费图文教程 支付宝续费
2011-05-10 17:02:00
浅谈Linux的零拷贝技术
2023-07-08 12:14:14
网易称没接到版署终止《魔兽世界》正式通知
2009-11-07 08:08:00
免费开源IIS过滤器
2009-08-09 15:35:00
在虚拟机virtualbox中安装ubuntu的图文教程
2022-02-13 16:37:44
完善九个方面 让企业网站达到设计的要求
2008-11-19 17:19:00
docker-compose启动redis多机集群的实现(6台服务器3主3从)
2023-05-04 17:44:21
Discuz! X2开放测试 新功能先睹为快
2011-03-07 20:39:00
解决SSL攻击的方法
2009-10-06 14:23:00
VMware下ubuntu与Windows实现文件共享
2021-01-21 22:14:23
Godaddy:从eNom转入域名
2010-05-04 13:11:00