Spring Batch入门教程篇

作者:翟永超 时间:2022-02-15 01:53:01 

SpringBatch介绍:

SpringBatch 是一个大数据量的并行处理框架。通常用于数据的离线迁移,和数据处理,⽀持事务、并发、流程、监控、纵向和横向扩展,提供统⼀的接⼝管理和任务管理;SpringBatch是SpringSource和埃森哲为了统一业界并行处理标准为广大开发者提供方便开发的一套框架。

官方地址:github.com/spring-projects/spring-batch

  • SpringBatch 本身提供了重试,异常处理,跳过,重启、任务处理统计,资源管理等特性,这些特性开发者看重他的主要原因;

  • SpringBatch 是一个轻量级的批处理框架;

  • SpringBatch 结构分层,业务与处理策略、结构分离;

  • 任务的运行的实例状态,执行数据,参数都会落地到数据库;

快速入门

pom.xml 添加


<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-batch</artifactId>
</dependency>

创建BatchConfig(可以是其他类名)


@Configuration
@EnableBatchProcessing
public class BatchConfig {
// tag::readerwriterprocessor[]
@Bean
public FlatFileItemReader<Person> flatFileItemReader() {
 FlatFileItemReader<Person> reader = new FlatFileItemReader<>();
 reader.setResource(new ClassPathResource("sample-data.csv"));
 FixedLengthTokenizer fixedLengthTokenizer = new FixedLengthTokenizer();
 reader.setLineMapper(new DefaultLineMapper<Person>() {{
  setLineTokenizer(new DelimitedLineTokenizer() {{
   setNames(new String[]{"firstName", "lastName"});
  }});
  setFieldSetMapper(new BeanWrapperFieldSetMapper<Person>() {{
   setTargetType(Person.class);
  }});
 }});
 return reader;
}
@Bean
public JdbcPagingItemReader<Person> jdbcPagingItemReader(DataSource dataSource) {
 JdbcPagingItemReader<Person> reader = new JdbcPagingItemReader<>();
 reader.setDataSource(dataSource);
 reader.setFetchSize(100);
 reader.setQueryProvider(new MySqlPagingQueryProvider() {{
  setSelectClause("SELECT person_id,first_name,last_name");
  setFromClause("from people");
  setWhereClause("last_name=:lastName");
  setSortKeys(new HashMap<String, Order>() {{
   put("person_id", Order.ASCENDING);
  }});
 }});
 reader.setParameterValues(new HashMap<String, Object>() {{
  put("lastName", "DOE");
 }});
 reader.setRowMapper(new BeanPropertyRowMapper<>(Person.class));
 return reader;
}
@Bean
public JdbcBatchItemWriter<Person> jdbcBatchItemWriter(DataSource dataSource) {
 JdbcBatchItemWriter<Person> writer = new JdbcBatchItemWriter<>();
 writer.setItemSqlParameterSourceProvider(new BeanPropertyItemSqlParameterSourceProvider<>());
 writer.setSql("INSERT INTO people (first_name, last_name) VALUES (:firstName, :lastName)");
 writer.setDataSource(dataSource);
 return writer;
}
/*@Bean
public FlatFileItemWriter<Person> flatFileItemWriter(DataSource dataSource) {
 FlatFileItemWriter<Person> writer = new FlatFileItemWriter<>();
 writer.setAppendAllowed(true);
 writer.setEncoding("UTF-8");
//  writer.set(dataSource);
 return writer;
}*/
// end::readerwriterprocessor[]
// tag::jobstep[]
@Bean
public Job importUserJob(JobBuilderFactory jobBuilderFactory, JobCompletionNotificationListener listener, Step step) {
 return jobBuilderFactory.get("importUserJob")
   .incrementer(new RunIdIncrementer())
   .listener(listener)
   .start(step)
   .build();
}
@Bean
public Step step1(StepBuilderFactory stepBuilderFactory, PersonItemProcessor processor, ItemWriter jdbcBatchItemWriter, ItemReader flatFileItemReader) {
 /*CompositeItemProcessor compositeItemProcessor = new CompositeItemProcessor();
 compositeItemProcessor.setDelegates(Lists.newArrayList(processor, processor));*/
 return stepBuilderFactory.get("step1")
   .<Person, Person>chunk(10)
   .reader(flatFileItemReader)
   .processor(processor)
   .writer(jdbcBatchItemWriter)
   .build();
}
// end::jobstep[]
}

Spring Batch的分层架构

  • Insfrastructure 策略管理:包括任务的失败重试,异常处理,事务,skip,以及数据的输入输出(文本文件,DB,Message)

  • Core: springBatch 的核心,包括JobLauch,job,step等等

  • Application: 业务处理,创建任务,决定任务的执行方式(定时任务,手动触发等)

Spring Batch入门教程篇

Spring Batch执行流程

Spring Batch入门教程篇

来源:http://blog.didispace.com/spring-batch-1/

标签:springbatch,入门
0
投稿

猜你喜欢

  • SpringBoot实现MapperScan添加动态配置(占位符)

    2023-11-26 05:08:06
  • Java几种常用的断言风格你怎么选

    2021-10-30 23:30:32
  • IDEA入门级使用教程你居然还在用eclipse?

    2022-03-27 07:35:19
  • SpringBoot 二维码生成base64并上传OSS的实现示例

    2023-05-12 04:41:33
  • 基于spring 方法级缓存的多种实现

    2022-12-14 18:31:38
  • Jenkins迁移job插件Job Import Plugin流程详解

    2022-05-21 03:22:56
  • springboot项目以jar包运行的操作方法

    2023-11-10 07:47:43
  • Java8 Comparator源码演示及解析

    2023-09-18 10:51:12
  • Java实现时间日期格式转换示例

    2023-06-06 04:45:11
  • 用C#生成不重复的随机数的代码

    2023-03-08 03:36:52
  • 了解Java虚拟机JVM的基本结构及JVM的内存溢出方式

    2023-02-20 03:08:51
  • SpringCloud Hystrix-Dashboard仪表盘的实现

    2023-03-16 18:38:03
  • C#中除去所有在HTML元素中标记

    2023-04-14 04:09:56
  • Java中的OkHttp使用教程

    2023-08-10 19:30:59
  • maven资源过滤打包后文件变大的处理方法

    2023-10-05 21:38:24
  • java读取XML文件的四种方法总结(必看篇)

    2023-03-22 23:12:58
  • 深入解析Java接口(interface)的使用

    2022-05-07 07:50:51
  • 探讨:android项目开发 统筹兼顾 需要考虑的因素

    2023-08-05 11:21:32
  • C#中数组初始化与数组元素复制的方法

    2023-05-14 15:45:06
  • C#实现文件上传及文件下载功能实例代码

    2022-12-13 23:57:23
  • asp之家 软件编程 m.aspxhome.com