springboot反爬虫组件kk-anti-reptile的使用方法

作者:Github导航站 时间:2022-01-09 14:12:59 

  大家好,我是为广大程序员兄弟操碎了心的小编,每天推荐一个小工具/源码,装满你的收藏夹,每天分享一个小技巧,让你轻松节省开发效率,实现不加班不熬夜不掉头发,是我的目标!

  今天小编推荐一款反爬虫组件叫kk-anti-reptile,一款可快速接入的反爬虫、接口防盗刷spring boot stater组件。

1. 系统要求

  • 基于spring-boot开发(spring-boot1.x, spring-boot2.x均可)

  • 需要使用redis

2. 工作流程

  kk-anti-reptile使用基于Servlet规范的的Filter对请求进行过滤,在其内部通过spring-boot的扩展点机制,实例化一个Filter,并注入到Spring容器FilterRegistrationBean中,通过Spring注入到Servlet容器中,从而实现对请求的过滤。

  在kk-anti-reptile的过滤Filter内部,又通过责任链模式,将各种不同的过滤规则织入,并提供抽象接口,可由调用方进行规则扩展。

  Filter调用则链进行请求过滤,如过滤不通过,则拦截请求,返回状态码509,并输出验证码输入页面,输出验证码正确后,调用过滤规则链对规则进行重置。

目前规则链中有如下两个规则

ip-rule

  ip-rule通过时间窗口统计当前时间窗口内请求数,小于规定的最大请求数则可通过,否则不通过。时间窗口、最大请求数、ip白名单等均可配置

ua-rule

  ua-rule通过判断请求携带的User-Agent,得到操作系统、设备信息、浏览器信息等,可配置各种维度对请求进行过滤

3. 接入使用

  后端接入非常简单,只需要引用kk-anti-reptile的maven依赖,并配置启用kk-anti-reptile即可。

加入maven依赖


<dependency>
 <groupId>cn.keking.project</groupId>
 <artifactId>kk-anti-reptile</artifactId>
 <version>1.0.0-SNAPSHOT</version>
</dependency>

4.配置启用 kk-anti-reptile


anti.reptile.manager.enabled=true

  前端需要在统一发送请求的ajax处加入拦截,拦截到请求返回状态码509后弹出一个新页面,并把响应内容转出到页面中,然后向页面中传入后端接口baseUrl参数即可,以使用axios请求为例:


import axios from 'axios';
import {baseUrl} from './config';

axios.interceptors.response.use(
data => {
 return data;
},
error => {
 if (error.response.status === 509) {
  let html = error.response.data;
  let verifyWindow = window.open("","_blank","height=400,width=560");
  verifyWindow.document.write(html);
  verifyWindow.document.getElementById("baseUrl").value = baseUrl;
 }
}
);

export default axios;

5. 注意

apollo-client需启用bootstrap

  使用apollo配置中心的用户,由于组件内部用到@ConditionalOnProperty,要在application.properties/bootstrap.properties中加入如下样例配置,(apollo-client需要0.10.0及以上版本)


apollo.bootstrap.enabled = true

需要有Redisson连接

  如果项目中有用到Redisson,kk-anti-reptile会自动获取RedissonClient实例对象; 如果没用到,需要在配置文件加入如下Redisson连接相关配置


spring.redisson.address=redis://192.168.1.204:6379
spring.redisson.password=xxx

6.命中规则后

  命中爬虫和防盗刷规则后,会阻断请求,并生成接除阻断的验证码,验证码有多种组合方式,如果客户端可以正确输入验证码,则可以继续访问

springboot反爬虫组件kk-anti-reptile的使用方法

7.结尾

来源:https://segmentfault.com/a/1190000039090431

标签:springboot,反爬虫,kk-anti-reptile
0
投稿

猜你喜欢

  • C#逐行读取文件的方法

    2023-05-16 23:53:02
  • c#的时间日期操作示例分享(c#获取当前日期)

    2021-07-09 15:44:35
  • Java聊天室之实现接收和发送Socket

    2021-06-24 23:30:39
  • SpringBoot整合Apollo配置中心快速使用详解

    2022-12-25 17:00:34
  • 在IDEA中maven配置MyBatis的流程详解

    2021-08-26 17:02:27
  • Java深入了解数据结构之栈与队列的详解

    2022-03-24 08:12:27
  • C++实现的O(n)复杂度内查找第K大数算法示例

    2023-06-30 15:51:13
  • 使用Prometheus+Grafana的方法监控Springboot应用教程详解

    2023-10-31 13:08:12
  • 一文搞懂Spring中的注解与反射

    2023-11-11 11:38:18
  • spring MVC实践需要注意的地方

    2023-02-07 00:33:07
  • C#Button窗体常用属性及事件详解

    2021-08-29 03:43:28
  • C#开发教程之利用特性自定义数据导出到Excel

    2023-03-02 22:55:42
  • Spring的组合注解和元注解原理与用法详解

    2023-12-05 10:25:05
  • Java多线程的用法详解

    2021-10-29 19:20:59
  • 一文探索Java文件读写更高效方式

    2021-12-20 08:31:22
  • java中sleep方法和wait方法的五个区别

    2023-08-27 18:37:23
  • 创建动态代理对象bean,并动态注入到spring容器中的操作

    2021-09-04 01:02:43
  • java中同类对象之间的compareTo()和compare()方法对比分析

    2023-08-15 09:56:57
  • springboot搭建访客管理系统的实现示例

    2023-09-02 13:10:41
  • 解决@JsonInclude(JsonInclude.Include.NON_NULL)不起作用问题

    2023-05-26 08:57:45
  • asp之家 软件编程 m.aspxhome.com