快速掌握Spring异步请求接口,轻松解决并发问题

开发 前端
异步请求接口是解决并发问题的有效方法之一,特别是在高并发、耗时操作、实时数据处理等场景中具有显著优势。通过异步请求,系统能够避免阻塞线程,提高系统的响应性能和资源利用率。

环境:SpringBoot2.7.12


1. 概述

      在现代的互联网应用中,随着用户数量的不断增加和业务复杂性的提升,并发问题成为了开发中面临的重大挑战。传统的同步请求接口往往无法满足高并发场景的需要,不仅会阻塞调用线程,影响系统的响应性能,而且还可能导致线程资源的浪费。为了解决这些问题,异步请求接口逐渐成为了开发者的首选。

在SpringBoot框架中,异步请求接口的创建和使用非常方便,能够让你轻松解决并发问题,提高系统的可维护性和响应性能。本文将介绍如何快速掌握SpringBoot异步请求接口,以轻松解决并发问题。

2. 异步请求接口优势

异步请求接口相比于传统同步请求具有以下优势:

  • 非阻塞性:异步请求不会阻塞调用线程,而是在请求处理过程中继续执行其他任务或操作,从而提高了系统的并发性能和响应速度。
  • 可用资源:异步请求可以释放占用的线程等资源,避免阻塞,等到结果产生再重新获取线程处理。这样能够节省资源,提高系统的资源利用率。
  • 解耦:异步请求可以减少系统间的耦合度,使得不同的系统或服务之间可以更好地协同工作。因为请求处理过程中不会阻塞其他操作,可以更容易地实现分布式系统的调用。
  • 异常处理:异步请求可以更容易地捕获、处理异常,因为请求处理的结果是在另一个线程中返回的,不会影响到主线程的执行流程。
  • 控制流程:异步请求可以通过回调函数或者Promise等方式来控制流程,使得流程更加灵活和可扩展。
  • 总之,异步请求接口具有上述优势,尤其是在高并发场景下,能够提高系统的性能和可用性,是解决并发问题的有效方法之一。

3. 应用场景

异步请求接口可以应用于以下场景:

  • 高并发场景:在面对大量用户请求时,异步请求接口能够避免线程阻塞,提高系统的并发处理能力,减少等待时间,提升用户体验。
  • 耗时操作处理:当需要进行一些耗时的操作,如网络请求、IO磁盘等操作时,采用异步请求接口可以避免阻塞主线程,提高系统的响应性能。
  • 实时数据处理:对于实时性要求较高的应用,如实时数据流处理、实时股票交易等场景,采用异步请求接口能够快速处理数据,并实时反馈结果,提高系统的实时性。
  • 异步业务流程:在某些业务流程中,涉及到多个异步任务,这些任务之间没有依赖关系,可以采用异步请求接口进行实现,提高系统的并发性和响应性能。
  • API接口的调用:当需要对其他API接口进行调用时,特别是对于一些耗时较长的接口,采用异步请求接口可以提高系统的响应性能和资源利用率。

总之,异步请求接口适用于那些需要避免阻塞、提高系统响应性能、处理耗时操作和实时数据处理等场景中,能够提高系统的并发性能和资源利用率,减少系统瓶颈的出现。

接下来我们进入正文,在Spring环境下如何将我们的接口异步化。

4. 实战异步接口

Spring MVC 广泛集成了 Servlet 3.0 异步请求处理功能:

  • Controller方法中的 DeferredResult 和 Callable 返回值为单个异步返回值提供了基本支持。
  • Controller可以流式传输多个值,包括 SSE 和原始数据。
  • Controller可以使用反应式客户端和返回反应式类型来处理响应。

4.1 DeferredResult

一旦在 Servlet 容器中启用异步请求处理功能,控制器方法就可以用 DeferredResult 封装任何受支持的控制器方法返回值,如下例所示:

@GetMapping("/deferred")
@ResponseBody
public DeferredResult<Map<String, Object>> deferred(){
  long start = System.currentTimeMillis() ;
  System.out.printf("%s - 开始时间:%d%n", Thread.currentThread().getName(), start) ;
  DeferredResult<Map<String, Object>> deferredResult = new DeferredResult<>();
  // 为了演示方便直观,这里直接创建线程
  new Thread(() -> {
    try {
      // 这里模拟耗时操作
      TimeUnit.SECONDS.sleep(3) ;
      // 将执行结果保存
      Map<String, Object> result = new HashMap<>() ;
      result.put("code", 1) ;
      result.put("data", "你的业务数据") ;
      deferredResult.setResult(result) ;
    } catch (InterruptedException e) {}
  }).start() ;
  long end = System.currentTimeMillis() ;
  System.out.printf("%s - 结束时间:%d%n", Thread.currentThread().getName(), end) ;
  System.out.printf("总耗时:%d毫秒%n", (end - start)) ;
  return deferredResult ;
}

控制台输出结果:

2023-10-19 14:25:30.321  INFO 3884 --- [nio-8808-exec-1] o.s.web.servlet.DispatcherServlet        : Completed initialization in 0 ms
http-nio-8808-exec-1 - 开始时间:1697696730335
http-nio-8808-exec-1 - 结束时间:1697696730335
总耗时:0毫秒

从结果看出,处理请求的tomcat线程几乎没有占用时间,线程被快速的释放,这样就可以去处理其它的连接请求,整个系统的吞吐量就的到了明显的提升。

Controller可以从不同的线程异步生成返回值。

4.2 Callable

Controller可以用 java.util.concurrent.Callable 封装任何受支持的返回值,如下例所示:

@GetMapping("/callable")
public Callable<Map<String, Object>> callable() {
  long start = System.currentTimeMillis() ;
  System.out.printf("%s - 开始时间:%d%n", Thread.currentThread().getName(), start) ;
  Callable<Map<String, Object>> callable  = new Callable<Map<String, Object>>() {
    public Map<String, Object> call() throws Exception {
      Map<String, Object> result = new HashMap<>() ;
      try {
        // 这里模拟耗时操作
        TimeUnit.SECONDS.sleep(3) ;
        // 将执行结果保存
        result.put("code", 1) ;
        result.put("data", "你的业务数据") ;
      } catch (InterruptedException e) {}
      return result ;
    }
  } ;
  long end = System.currentTimeMillis() ;
  System.out.printf("%s - 结束时间:%d%n", Thread.currentThread().getName(), end) ;
  System.out.printf("总耗时:%d毫秒%n", (end - start)) ;
  return callable ;
}

控制台输出结果:

http-nio-8808-exec-2 - 开始时间:1697697345385
http-nio-8808-exec-2 - 结束时间:1697697345386
总耗时:1毫秒

执行结果与上面一样。
注意:这里Callable中的代码执行是在系统默认的一个TaskExecutor线程池中运行,我们可以通过配置自己的TaskExecutor来执行。如下:

@Bean
public ThreadPoolTaskExecutor myAsyncTaskExecutor() {
  // 配置ThreadPoolTaskExecutor相关参数,比如核心线程数等
  return ... ;
}

4.3 ResponseBodyEmitter

你可以将 DeferredResult 和 Callable 用于单个异步返回值。如果要生成多个异步值并将其写入响应,该怎么办?本节将介绍如何做到这一点。

ResponseBodyEmitter 的返回值生成一个对象流,其中每个对象都会被 HttpMessageConverter 序列化并写入响应,如下例所示:

// 这里应该保存到一个集合中
private ResponseBodyEmitter emitter ;
@GetMapping("/emitter")
public ResponseBodyEmitter emitter() throws Exception {
  ResponseBodyEmitter bodyEmitter = new ResponseBodyEmitter(-1L);
  this.emitter = bodyEmitter ;
  return bodyEmitter;
}
// 可以不断调用该接口进行消息的发送
@GetMapping("/sender")
public void sender() throws Exception {
  this.emitter.send(System.currentTimeMillis()) ;
}
// 调用该j接口后请求结束
@GetMapping("/complete")
public void complete() throws Exception {
  this.emitter.complete() ;
}

当访问/emitter接口时,浏览器会一直转圈,一直等待。只有调用了/complete接口后请求内容才会被发送到客户端并结束请求。

4.4 StreamingResponseBody

有时,绕过消息转换并直接流式传输到响应的 OutputStream(例如,文件下载)非常有用。为此,可以使用 StreamingResponseBody 返回值类型,如下例所示:

@GetMapping("/stream")
public ResponseEntity<StreamingResponseBody> stream() {
  long start = System.currentTimeMillis() ;
  System.out.printf("%s - 开始时间:%d%n", Thread.currentThread().getName(), start) ;
  // 内部执行还是用的系统内部的线程池
  StreamingResponseBody stream = new StreamingResponseBody() {
    @Override
    public void writeTo(OutputStream outputStream) throws IOException {
      outputStream.write(String.valueOf("当前时间: " + System.currentTimeMillis() + "<br/>").getBytes()) ;
      try {
        TimeUnit.SECONDS.sleep(1) ;
      } catch (InterruptedException e) {}
      outputStream.write(String.valueOf("当前时间: " + System.currentTimeMillis() + "<br/>").getBytes()) ;
      try {
        TimeUnit.SECONDS.sleep(1) ;
      } catch (InterruptedException e) {}
      outputStream.write(String.valueOf("当前时间: " + System.currentTimeMillis() + "<br/>").getBytes()) ;
    }
  };
  MultiValueMap<String, String> headers = new HttpHeaders() ;
  headers.add("Content-Type", "text/html;charset=UTF-8") ;
  ResponseEntity<StreamingResponseBody> response = new ResponseEntity<StreamingResponseBody>(stream, headers , HttpStatus.OK) ;


  long end = System.currentTimeMillis() ;
  System.out.printf("%s - 结束时间:%d%n", Thread.currentThread().getName(), end) ;
  System.out.printf("总耗时:%d毫秒%n", (end - start)) ;
  return response ;
}

控制台输出:

http-nio-8808-exec-1 - 开始时间:1697700256912
http-nio-8808-exec-1 - 结束时间:1697700256915
总耗时:3毫秒

tomcat线程非常短的时间内释放,这样就可以处理更多的请求,提升系统整体的吞吐量。这种最适合文件下载。

浏览器输出:

图片

4.5 SSE

该方式请阅读《实时数据推送并非只有WebSocket一种选择》详细介绍了如何使用。

4.6 基于反应式

Spring MVC 支持在控制器中使用反应式客户端库。这包括 spring-webflux 中的 WebClient 以及 Spring Data 反应式数据存储库等其他库。在这种情况下,从控制器方法中返回反应类型是很方便的。如下例所示:

@GetMapping("/mono")
public Mono<Map<String, Object>> mono() {
  long start = System.currentTimeMillis() ;
  System.out.printf("%s - 开始时间:%d%n", Thread.currentThread().getName(), start) ;
  Mono<Map<String, Object>> mono = Mono.defer(() -> {
    try {
      TimeUnit.SECONDS.sleep(3) ;
    } catch (InterruptedException e) {}
    Map<String, Object> result = new HashMap<>() ;
    result.put("code", 1) ;
    result.put("data", "你的业务数据") ;
    return Mono.just(result) ;
  }) ;
  long end = System.currentTimeMillis() ;
  System.out.printf("%s - 结束时间:%d%n", Thread.currentThread().getName(), end) ;
  System.out.printf("总耗时:%d毫秒%n", (end - start)) ;
  return mono ;
}

控制台输出:

http-nio-8808-exec-2 - 开始时间:1697700686250
http-nio-8808-exec-2 - 结束时间:1697700686251
总耗时:1毫秒


以上就是Spring中异步请求接口的实现方式。

异步请求接口是解决并发问题的有效方法之一,特别是在高并发、耗时操作、实时数据处理等场景中具有显著优势。通过异步请求,系统能够避免阻塞线程,提高系统的响应性能和资源利用率。

责任编辑:武晓燕 来源: Spring全家桶实战案例源码
相关推荐

2023-10-23 08:12:34

并发问题有锁和无锁

2012-07-17 10:54:49

AJAX

2022-09-13 13:49:05

数据库隔离

2012-02-02 15:57:09

HibernateJava

2009-11-25 13:33:39

并发

2022-12-27 11:06:35

海量接口并发

2024-01-31 08:50:41

Guava并发工具

2009-06-29 09:38:50

JSF标签JSF

2020-07-07 07:47:07

Java无锁技术

2011-08-03 10:39:06

IOS程序 HTTP 请求

2021-08-10 07:00:01

Redis单线程并发

2024-04-16 00:00:00

Spring微服务架构

2022-04-02 20:27:30

ETS操作系统鸿蒙

2024-03-28 08:41:10

高并发.NET异步编程

2021-06-04 14:28:07

协程线程Android开发

2021-06-03 14:08:03

开发技能代码

2021-02-26 13:50:37

Java并发代码

2021-07-01 19:31:50

并发JavaCPU

2020-01-02 16:30:02

Spring BootJava异步请求

2023-11-09 08:18:31

Hystrix保护系统资源隔离
点赞
收藏

51CTO技术栈公众号