Java Servlet线程中AsyncContext异步处理Http请求

作者:Redick01 时间:2023-10-02 23:17:39 

AsyncContext

AsyncContextServlet 3.0使Servlet 线程不再需要一直阻塞,直到业务处理完毕才能再输出响应,最后才结束该Servlet线程。在接收到请求之后,Servlet线程可以将耗时的操作委派给另一个线程来完成,自己在不生成响应的情况下返回至容器。针对业务处理较耗时的情况,这将大大减少服务器资源的占用,并且提高并发处理速度

Servlet 3.0新增了异步处理,可以先释放容器分配给请求的线程与相关资源,减轻系统负担,原先释放了容器所分配线程的请求,其响应将被延后,可以在处理完成(例如长时间运算完成、所需资源已获得)时再对客户端进行响应。

在Servlet 3.0中,在ServletRequest上提供了startAsync()方法,该方法会根据请求的ServletRequestServletResponse创建AsyncContext对象。

@Override
   public AsyncContext startAsync() {
       return startAsync(getRequest(),response.getResponse());
   }
   @Override
   public AsyncContext startAsync(ServletRequest request,
           ServletResponse response) {
       if (!isAsyncSupported()) {
           IllegalStateException ise =
                   new IllegalStateException(sm.getString("request.asyncNotSupported"));
           log.warn(sm.getString("coyoteRequest.noAsync",
                   StringUtils.join(getNonAsyncClassNames())), ise);
           throw ise;
       }
       if (asyncContext == null) {
           asyncContext = new AsyncContextImpl(this);
       }
       asyncContext.setStarted(getContext(), request, response,
               request==getRequest() && response==getResponse().getResponse());
       asyncContext.setTimeout(getConnector().getAsyncTimeout());
       return asyncContext;
   }

请求调用startAsyncServlet线程将会被释放,请求交由其他线程去处理,如果业务线程没有处理完,客户端将不会收到响应,直到调用AsyncContextcomplete()dispatch(ServletContext context, String path)方法为止,dispatch方法会根据path进行重定向。AsyncContextImpl大致代码如下:

@Override
   public void complete() {
       if (log.isDebugEnabled()) {
           logDebug("complete   ");
       }
       check();
       request.getCoyoteRequest().action(ActionCode.ASYNC_COMPLETE, null);
   }
   @Override
   public void dispatch() {
       check();
       String path;
       String cpath;
       ServletRequest servletRequest = getRequest();
       if (servletRequest instanceof HttpServletRequest) {
           HttpServletRequest sr = (HttpServletRequest) servletRequest;
           path = sr.getRequestURI();
           cpath = sr.getContextPath();
       } else {
           path = request.getRequestURI();
           cpath = request.getContextPath();
       }
       if (cpath.length() > 1) {
           path = path.substring(cpath.length());
       }
       if (!context.getDispatchersUseEncodedPaths()) {
           path = UDecoder.URLDecode(path, StandardCharsets.UTF_8);
       }
       dispatch(path);
   }

AsyncContext使用示例及测试

示例

设置Tomcat线程数为1

server:
  port: 9099
  servlet:
    context-path: /server/v1
  # 设置Tomcat线程数为1
  tomcat:
    min-spare-threads: 1
    max-threads: 1

Controller

@RestController
public class AsyncTestController {
   private final ScheduledExecutorService timeoutChecker = new ScheduledThreadPoolExecutor(1, threadFactory);
   private static boolean result = false;
   @PostMapping("/async")
   public void async(@RequestBody Request re1, HttpServletRequest request, HttpServletResponse response) {
       // 创建AsyncContext
       AsyncContext asyncContext = request.startAsync(request, response);
       String name = re1.getUsername();
       // 设置处理超时时间2s
       asyncContext.setTimeout(2000L);
       // asyncContext监听
       asyncContext.addListener(new AsyncListener() {
           @Override
           public void onComplete(AsyncEvent asyncEvent) throws IOException {
           }
           @Override
           public void onTimeout(AsyncEvent asyncEvent) throws IOException {
               asyncContext.getResponse().getWriter().print(name + ":timeout");
               asyncContext.complete();
           }
           @Override
           public void onError(AsyncEvent asyncEvent) throws IOException {
           }
           @Override
           public void onStartAsync(AsyncEvent asyncEvent) throws IOException {
           }
       });
       // 定时处理业务,处理成功后asyncContext.complete();完成异步请求
       timeoutChecker.scheduleWithFixedDelay(() -> {
           try {
               if (result) {
                   asyncContext.getResponse().getWriter().print(name);
                   asyncContext.complete();
               }
           } catch (IOException e) {
               e.printStackTrace();
           }
       }, 0, 100L, TimeUnit.MILLISECONDS);
   }
   // 模拟业务处理完成
   @PostMapping("/notify")
   public void notify(Boolean s) {
       result = s;
   }
}

测试结果

  • 测试指标

并发5,两个循环

  • 测试结果

10条并发请求都能够处理,并且处理的时间都是2s左右(因为设置的超时时间是2s),通过该测试结果可以看出,使用AsyncContext可以在容器资源有限的情况下处理更多的请求,这在高并发场景下就比较有用了。

Java Servlet线程中AsyncContext异步处理Http请求

AsyncContext应用场景

使用AsyncContext实现的Http长轮询在许多的中间件的信息同步场景中应用广泛,例如Nacos配置中心和Apache Shenyu网关。

背景

公司一个系统是Netty实现的TCP协议的服务,其中的一个业务是设备请求后台接口查询支付结果,接口的处理逻辑是收到请求后就将请求放到一个队列中,然后由业务线程异步处理,当收到支付结果完成后将响应给客户端支付结果,该接口的超时时间是2s,如果2s查不到支付结果就返回给客户端查不到结果,客户端收到该错误后重新发起查询,直到客户端的整个业务超时。

公司由于服务架构调整,要将该系统改造成基于SpringBoot的Http协议接口,如果”支付结果查询接口“不做机制的变更,就会导致每一次结果查询都会阻塞等待队列中查询支付结果的查询,因为支付是异步的,所以支付结果查询会比较耗时,如果机制不改那么如果并发增大的话会导致服务器的处理请求线程全部被打满,整个服务对于其他请求,其他业务都变得不可用了,这个结果是不可以接受的。

AsyncContext解决生产问题

基于示例中的demo进行业务改造

开启异步,设置整个异步接口处理的超时时间(2s),设置Listener主要用于处理接口超时,阻塞队列处理查询支付结果,查到结果后调用complete完成该长轮询,如果2s没有查到结果,那就返回查询超时,客户端继续轮询。

来源:https://blog.csdn.net/qq_31279701/article/details/125376579

标签:Java,AsyncContext,异步处理,Servlet
0
投稿

猜你喜欢

  • JAVA算法起步之插入排序实例

    2021-05-30 15:52:30
  • SpringBoot+Netty+WebSocket实现消息发送的示例代码

    2023-08-16 00:02:52
  • 浅析Android手机卫士之抖动输入框和手机震动

    2022-11-23 08:01:50
  • 一文详解Jetpack Android新一代导航管理Navigation

    2022-12-08 20:40:14
  • android 自定义Android菜单背景的代码

    2022-06-23 08:54:40
  • 轻松实现Android仿淘宝地区选择功能

    2022-02-25 03:01:13
  • 浅谈Mybatis传参类型如何确定

    2023-11-12 12:13:21
  • 详解怎么用Java的super关键字

    2021-10-06 08:11:14
  • C#环形队列的实现方法详解

    2021-06-04 00:38:37
  • C#实现获取鼠标句柄的方法

    2022-05-06 21:13:41
  • Java swing框架实现的贪吃蛇游戏完整示例

    2021-06-30 13:03:01
  • C# Stream 和 byte[] 之间的转换

    2023-06-24 23:14:52
  • Java 8 Function函数式接口及函数式接口实例

    2022-04-13 14:55:05
  • 解决java.lang.Error: Unresolved compilation problems:问题

    2023-02-10 05:58:08
  • 使用Netty实现类似Dubbo的远程接口调用的实现方法

    2022-10-08 02:21:53
  • SpringCloud 微服务最佳开发实践

    2022-02-06 10:07:45
  • SpringBoot集成elasticsearch使用图文详解

    2021-06-06 16:12:47
  • 日常收集C#接口知识(知识全面)

    2022-09-01 19:02:44
  • Android 矢量室内地图开发实例

    2021-08-24 18:33:23
  • C#简单的加密类实例

    2022-12-15 11:31:18
  • asp之家 软件编程 m.aspxhome.com