详解SpringBoot和SpringBatch 使用

作者:技术小能手 时间:2023-08-17 19:00:38 

什么是Spring Batch

Spring Batch 是一个轻量级的、完善的批处理框架,旨在帮助企业建立健壮、高效的批处理应用。Spring Batch是Spring的一个子项目,使用Java语言并基于Spring框架为基础开发,使的已经使用 Spring 框架的开发者或者企业更容易访问和利用企业服务。

Spring Batch 提供了大量可重用的组件,包括了日志、追踪、事务、任务作业统计、任务重启、跳过、重复、资源管理。对于大数据量和高性能的批处理任务,Spring Batch 同样提供了高级功能和特性来支持,比如分区功能、远程功能。总之,通过 Spring Batch 能够支持简单的、复杂的和大数据量的批处理作业。

Spring Batch 使用

我们首先配置Spring Batch 在Spring Boot 中的使用,数据库用的是mysql,pom文件如下,因为Spring Boot 中的Spring Batch 包含 hsqsldb 所以我们将其去除


<dependency>
     <groupId>org.springframework.boot</groupId>
     <artifactId>spring-boot-starter-batch</artifactId>
     <exclusions> <!-- 注意这里-->
       <exclusion>
         <groupId>org.hsqldb</groupId>
         <artifactId>hsqldb</artifactId>
       </exclusion>
     </exclusions>
   </dependency>
   <dependency>
     <groupId>org.springframework.boot</groupId>
     <artifactId>spring-boot-starter-jdbc</artifactId>
   </dependency>
   <dependency>
     <groupId>org.springframework.boot</groupId>
     <artifactId>spring-boot-starter-web</artifactId>
   </dependency>
<dependency>
   <groupId>org.hibernate</groupId>
   <artifactId>hibernate-validator</artifactId>
 </dependency>
 <dependency>
   <groupId>mysql</groupId>
   <artifactId>mysql-connector-java</artifactId>
   <version>5.1.21</version>
 </dependency>
 <dependency>
   <groupId>org.springframework.boot</groupId>
   <artifactId>spring-boot-starter-test</artifactId>
   <scope>test</scope>
 </dependency>

配置好我们需要的实体类。页面就不展示了。

如果有数据校验添加的话那么我们需要配置自定义的检验器。若果没有课略过该步骤


public class CsvBeanValidator<T> implements Validator<T>,InitializingBean {
 private javax.validation.Validator  validator;
 @Override
 public void validate(T value) throws ValidationException {
   Set<ConstraintViolation<T >> constraintViolations=validator.validate(value);
   if(constraintViolations.size()>0){
     StringBuilder message=new StringBuilder();
     for(ConstraintViolation<T> constraintViolation:constraintViolations){
       message.append(constraintViolation.getMessage() +"\n");
     }
     throw new ValidationException(message.toString());
   }
 }
 //在这里我们使用的是JSR-303校验数据,在此进行初始化
 @Override
 public void afterPropertiesSet() throws Exception {
   ValidatorFactory validatorFactory= Validation.buildDefaultValidatorFactory();
   validator=validatorFactory.usingContext().getValidator();
 }
}
public class CsvItemProcessor extends ValidatingItemProcessor<Person> {
 @Override
 public Person process(Person item) throws ValidationException {
    super.process(item); // 在这里启动 然后才会调用我们自定义的校验器,否则不能通过 。
    if (item.getNation().equals("汉族")){
      item.setName("01");
    }else{
      item.setNation("02");
    }
    return item;
 }
}

进行job任务监听 自定义类实现JobExecutionListener 即可


long startTime;
long endTime;
@Override
public void beforeJob(JobExecution jobExecution) {
  startTime = System.currentTimeMillis();
  System.out.println("任务处理开始");
}
@Override
public void afterJob(JobExecution jobExecution) {
  endTime = System.currentTimeMillis();
  System.out.println("耗时多长时间:" + (endTime - startTime) + "ms");
  System.out.println("任务处理结束");
}

进行Spring Batch 的注入 方法有xml文件注入bean ,在这里选择java注入


@Configuration
@EnableBatchProcessing //开启批处理
public class CsvBatchConfig {
 /**1 首先我们通过 FlatFileItemReader 读取我们需要的文件 通过setResource来实现
  * 2 设置map 在这里通过先设置解析器 setLineTokenizer 来解析我们csv文件中的数   据
  * 3 setFieldSetMapper 将我们需要的数据转化为我们的实体对象 存储
  * 4 如果想 跳过前面的几行 需要使用setLinesToSkip就可以实现
  */
@Bean
public ItemReader<Person> reader() throws Exception {
  FlatFileItemReader<Person> reader = new FlatFileItemReader<Person>(); //1
  reader.setResource(new ClassPathResource("people.csv")); //2
    reader.setLineMapper(new DefaultLineMapper<Person>() {{ //3
      setLineTokenizer(new DelimitedLineTokenizer() {{
        setNames(new String[] { "name","age", "nation" ,"address"});
      }});
      setFieldSetMapper(new BeanWrapperFieldSetMapper<Person>() {{
        setTargetType(Person.class);
      }});
    }});
      reader.setLinesToSkip(3);
    return reader;
}
@Bean
public ItemProcessor<Person, Person> processor() {
  CsvItemProcessor processor = new CsvItemProcessor(); //1
  processor.setValidator(csvBeanValidator()); //2
  return processor;
}
  /**
   *写入数据到数据库中
   * 1执行的sql 语句 2 设置数据源
    */
@Bean
public ItemWriter<Person> writer(DataSource dataSource) {//1
  JdbcBatchItemWriter<Person> writer = new JdbcBatchItemWriter<Person>(); //2
  writer.setItemSqlParameterSourceProvider(new BeanPropertyItemSqlParameterSourceProvider<Person>());
  String sql = "insert into person " + "(id,name,age,nation,address) "
      + "values(hibernate_sequence.nextval, :name, :age, :nation,:address)";
  writer.setSql(sql); //3
  writer.setDataSource(dataSource);
  return writer;
}
 // 作业的仓库 就是设置数据源
@Bean
public JobRepository jobRepository(DataSource dataSource, PlatformTransactionManager transactionManager)
    throws Exception {
  JobRepositoryFactoryBean jobRepositoryFactoryBean = new JobRepositoryFactoryBean();
  jobRepositoryFactoryBean.setDataSource(dataSource);
  jobRepositoryFactoryBean.setTransactionManager(transactionManager);
  jobRepositoryFactoryBean.setDatabaseType("mysql");
  return jobRepositoryFactoryBean.getObject();
}
  //调度器 使用它来执行 我们的批处理
@Bean
public SimpleJobLauncher jobLauncher(DataSource dataSource, PlatformTransactionManager transactionManager)
    throws Exception {
  SimpleJobLauncher jobLauncher = new SimpleJobLauncher();
  jobLauncher.setJobRepository(jobRepository(dataSource, transactionManager));
  return jobLauncher;
}
  //将 * 加入到job中
@Bean
public Job importJob(JobBuilderFactory jobs, Step s1) {
  return jobs.get("importJob")
      .incrementer(new RunIdIncrementer())
      .flow(s1) //1
      .end()
      .listener(csvJobListener()) //2
      .build();
}
  //步骤绑定 reader 与writer 一次性处理65000条记录
@Bean
public Step step1(StepBuilderFactory stepBuilderFactory, ItemReader<Person> reader, ItemWriter<Person> writer,
    ItemProcessor<Person,Person> processor) {
  return stepBuilderFactory
      .get("step1")
      .<Person, Person>chunk(65000) //1
      .reader(reader) //2
      .processor(processor) //3
      .writer(writer) //4
      .build();
}
@Bean
public CsvJobListener csvJobListener() {
  return new CsvJobListener();
}
@Bean
public Validator<Person> csvBeanValidator() {
  return new CsvBeanValidator<Person>();
}
}

在配置文件中 启动自动执行批处理

spring.batch.job.names = job1,job2 #启动时要执行的Job,默认执行全部Job

spring.batch.job.enabled=true #是否自动执行定义的Job,默认是

spring.batch.initializer.enabled=true #是否初始化Spring Batch的数据库,默认为是

spring.batch.schema=

spring.batch.table-prefix= #设置SpringBatch的数据库表的前缀

项目汇总

从 项目中我们可以看到 总的步骤就是 首先读取我们需要实现的文件进行解析,然后转换成需要的实体类并且绑定到reader中,二 实现我们需要的writer 并且帮到到数据库上,三实现job * 将其绑定到步骤中 。最后开启批处理 自动执行入库即可 。这个简单步骤主要是配置中用到的 理解流程 自己也可以方便实现 批处理的流程。

总结

以上所述是小编给大家介绍的SpringBoot和SpringBatch 使用网站的支持!

来源:https://yq.aliyun.com/articles/619189

标签:spring,boot,batch
0
投稿

猜你喜欢

  • Flutter验证码输入框的2种方法实现

    2023-07-17 16:22:07
  • Java Fluent Mybatis实战之构建项目与代码生成篇上

    2022-06-10 00:10:33
  • 流读取导致StringBuilder.toString()乱码的问题及解决

    2022-12-20 13:34:14
  • Kotlin自定义View系列教程之标尺控件(选择身高、体重等)的实现

    2022-06-26 00:35:40
  • 安卓逆向半次元app逆向分析源码

    2023-07-28 14:36:05
  • java实现上传图片并压缩图片大小功能

    2023-06-14 22:32:35
  • Android入门之ViewFlipper翻转视图的使用详解

    2022-09-18 18:09:43
  • Android中隐藏标题栏和状态栏的方法

    2022-04-16 07:04:27
  • Hibernate中的多表查询及抓取策略

    2022-02-22 18:58:28
  • 详解Java高并发编程之AtomicReference

    2023-12-08 14:29:39
  • android中Bitmap用法(显示,保存,缩放,旋转)实例分析

    2022-07-03 14:18:41
  • Android 中ListView的Item点击事件失效的快速解决方法

    2021-09-29 02:00:41
  • Java内存模型JMM与volatile

    2022-03-25 09:33:50
  • Spring3 整合MyBatis3 配置多数据源动态选择SqlSessionFactory详细教程

    2023-03-21 21:22:27
  • 聊聊Redis二进制数组Bitmap

    2021-07-26 11:51:57
  • C# List介绍及具体用法

    2021-09-15 07:59:14
  • 实例解析使用Java实现基本的音频播放器的编写要点

    2023-11-29 14:54:26
  • C#实现字符串进制转换方法汇总

    2022-01-03 09:30:37
  • Android中Textview和图片同行显示(文字超出用省略号,图片自动靠右边)

    2023-02-25 04:52:37
  • 基于Spring@Autowired注解与自动装配详谈

    2022-01-14 09:38:49
  • asp之家 软件编程 m.aspxhome.com