# Entrevista Spring Batch 5: Particionamento, Chunks e Tolerância > Domine as entrevistas de Spring Batch 5: 15 perguntas essenciais sobre particionamento, processamento por chunks e tolerância a falhas com exemplos em Java 21. - Published: 2026-03-22 - Updated: 2026-05-03 - Author: SharpSkill - Tags: spring batch, spring boot, java, batch processing, interview questions - Reading time: 16 min --- O Spring Batch 5 representa um pilar do processamento de dados em massa no ecossistema Spring. As entrevistas técnicas avaliam a capacidade de projetar jobs robustos, escaláveis e tolerantes a falhas. Dominar particionamento, processamento por chunks e mecanismos de tolerância a falhas distingue os desenvolvedores sênior. > **Ponto-chave para a entrevista** > > Os recrutadores testam o entendimento profundo: por que escolher partitioning em vez de remote chunking? Como dimensionar corretamente os chunks? Essas decisões arquiteturais revelam experiência real em produção. ## Arquitetura fundamental do Spring Batch 5 ### Pergunta 1: Quais são os componentes principais do Spring Batch? A arquitetura do Spring Batch baseia-se em três camadas distintas: a aplicação (jobs e código de negócio), o Batch Core (classes runtime para iniciar e controlar os jobs) e a infraestrutura (readers, writers e serviços comuns como RetryTemplate). ```java // BatchJobConfig.java // Configuração de um job Spring Batch 5 com Java 21 @Configuration public class BatchJobConfig { // JobRepository armazena os metadados de execução // Permite o restart e o monitoramento dos jobs private final JobRepository jobRepository; private final PlatformTransactionManager transactionManager; public BatchJobConfig(JobRepository jobRepository, PlatformTransactionManager transactionManager) { this.jobRepository = jobRepository; this.transactionManager = transactionManager; } // Um Job encapsula o processo batch completo // Composto por um ou mais Steps executados sequencialmente @Bean public Job importUserJob(Step processUsersStep, Step cleanupStep) { return new JobBuilder("importUserJob", jobRepository) .start(processUsersStep) // Step principal de processamento .next(cleanupStep) // Step de limpeza .build(); } // Um Step representa uma unidade de trabalho independente // Dois modelos: Tasklet (tarefa única) ou Chunk (processamento iterativo) @Bean public Step processUsersStep(ItemReader reader, ItemProcessor processor, ItemWriter writer) { return new StepBuilder("processUsersStep", jobRepository) .chunk(100, transactionManager) // Commit a cada 100 itens .reader(reader) // Lê os dados da fonte .processor(processor) // Transforma cada item .writer(writer) // Escreve em lotes de 100 .build(); } } ``` O JobRepository persiste o estado das execuções no banco de dados. Essa persistência permite reiniciar um job que falhou exatamente onde ele parou, sem reprocessar os dados já confirmados. ### Pergunta 2: Qual a diferença entre Tasklet e processamento por Chunk? **Tasklet** executa uma ação discreta e não repetitiva: exclusão de arquivos, chamada a uma stored procedure, envio de e-mail de notificação. **Chunk** processa volumes massivos dividindo os dados em lotes gerenciáveis. ```java // CleanupTasklet.java // Tasklet: ação única sem iteração @Component public class CleanupTasklet implements Tasklet { private final Path tempDirectory = Path.of("/tmp/batch-work"); @Override public RepeatStatus execute(StepContribution contribution, ChunkContext chunkContext) throws Exception { // Exclui todos os arquivos temporários do processamento try (var files = Files.walk(tempDirectory)) { files.filter(Files::isRegularFile) .forEach(this::deleteQuietly); } // FINISHED indica que o tasklet concluiu seu trabalho // CONTINUABLE reiniciaria a execução (útil para polling) return RepeatStatus.FINISHED; } private void deleteQuietly(Path file) { try { Files.delete(file); } catch (IOException e) { // Loga e continua - não falha o job por um arquivo } } } ``` ```java // ChunkProcessingConfig.java // Processamento por chunks: tratamento de alto volume @Configuration public class ChunkProcessingConfig { @Bean public Step processOrdersStep(JobRepository jobRepository, PlatformTransactionManager transactionManager, ItemReader reader, ItemProcessor processor, ItemWriter writer) { return new StepBuilder("processOrdersStep", jobRepository) // Chunk de 500: lê 500 itens, processa, escreve, depois faz commit .chunk(500, transactionManager) .reader(reader) .processor(processor) .writer(writer) // Listener para monitorar o progresso .listener(new ChunkProgressListener()) .build(); } } ``` O processamento orientado a chunks traz benefícios críticos: gestão otimizada de memória (apenas o chunk atual em memória), transações granulares (commit por chunk) e recuperação de falhas no último chunk confirmado. ## Aprofundamento no processamento por Chunks ### Pergunta 3: Como funciona o ciclo de vida de um chunk? Cada chunk segue um ciclo preciso: leitura dos itens um a um até atingir o tamanho configurado, processamento individual de cada item, depois escrita do grupo. Uma transação envolve todo o chunk. ```java // OrderItemReader.java // ItemReader: lê um item por vez @StepScope @Component public class OrderItemReader implements ItemReader { // @StepScope: nova instância por execução do step // Permite injetar parâmetros dinâmicos do job @Value("#{jobParameters['startDate']}") private LocalDate startDate; private Iterator orderIterator; @BeforeStep public void initializeReader(StepExecution stepExecution) { // Carrega os dados no início do step List orders = fetchOrdersFromDate(startDate); this.orderIterator = orders.iterator(); } @Override public OrderRecord read() { // Retorna null para sinalizar o fim dos dados // Spring Batch chama read() até receber null if (orderIterator.hasNext()) { return orderIterator.next(); } return null; // Fim do dataset } private List fetchOrdersFromDate(LocalDate date) { // Recupera da fonte de dados return List.of(); // Implementação real } } ``` ```java // OrderItemProcessor.java // ItemProcessor: transforma cada item individualmente @Component public class OrderItemProcessor implements ItemProcessor { private final PricingService pricingService; private final ValidationService validationService; public OrderItemProcessor(PricingService pricingService, ValidationService validationService) { this.pricingService = pricingService; this.validationService = validationService; } @Override public ProcessedOrder process(OrderRecord item) { // Retornar null filtra o item (não será escrito) if (!validationService.isValid(item)) { return null; // Item filtrado } // Transformação de negócio BigDecimal finalPrice = pricingService.calculatePrice(item); return new ProcessedOrder( item.orderId(), item.customerId(), finalPrice, LocalDateTime.now() ); } } ``` ```java // OrderItemWriter.java // ItemWriter: escreve o chunk completo em uma única operação @Component public class OrderItemWriter implements ItemWriter { private final JdbcTemplate jdbcTemplate; public OrderItemWriter(JdbcTemplate jdbcTemplate) { this.jdbcTemplate = jdbcTemplate; } @Override public void write(Chunk chunk) { // O chunk contém todos os itens processados // Escrita em lote para desempenho otimizado List items = chunk.getItems(); jdbcTemplate.batchUpdate( "INSERT INTO processed_orders (order_id, customer_id, final_price, processed_at) VALUES (?, ?, ?, ?)", items, items.size(), (ps, order) -> { ps.setLong(1, order.orderId()); ps.setLong(2, order.customerId()); ps.setBigDecimal(3, order.finalPrice()); ps.setTimestamp(4, Timestamp.valueOf(order.processedAt())); } ); } } ``` Se ocorrer uma exceção durante o processamento do chunk, a transação é revertida. O job pode então retomar a partir desse chunk usando os metadados armazenados no JobRepository. ### Pergunta 4: Como escolher o tamanho ideal do chunk? O tamanho do chunk impacta diretamente o desempenho e o consumo de memória. Um chunk pequeno demais multiplica os commits (overhead). Um chunk grande demais consome memória excessiva e prolonga os rollbacks em caso de falha. ```java // ChunkSizingConfig.java // Configuração dinâmica do tamanho do chunk @Configuration public class ChunkSizingConfig { // Valor padrão razoável para a maioria dos casos private static final int DEFAULT_CHUNK_SIZE = 100; // Para itens leves (poucos campos) private static final int LIGHT_ITEMS_CHUNK_SIZE = 500; // Para itens pesados (blobs, documentos) private static final int HEAVY_ITEMS_CHUNK_SIZE = 25; @Bean public Step processLightDataStep(JobRepository jobRepository, PlatformTransactionManager txManager, ItemReader reader, ItemWriter writer) { return new StepBuilder("processLightDataStep", jobRepository) // Itens leves: chunks maiores para menos commits .chunk(LIGHT_ITEMS_CHUNK_SIZE, txManager) .reader(reader) .writer(writer) .build(); } @Bean public Step processDocumentsStep(JobRepository jobRepository, PlatformTransactionManager txManager, ItemReader reader, ItemProcessor processor, ItemWriter writer) { return new StepBuilder("processDocumentsStep", jobRepository) // Documentos pesados: chunks menores para limitar memória .chunk(HEAVY_ITEMS_CHUNK_SIZE, txManager) .reader(reader) .processor(processor) .writer(writer) .build(); } } ``` > **Regra prática** > > Começar com 100 itens por chunk e ajustar conforme métricas: tempo de commit, uso de memória e duração do rollback. Usar listeners para monitorar e identificar o ponto ideal. ## Particionamento para processamento paralelo ### Pergunta 5: O que é particionamento e quando usar? O particionamento divide um dataset em partições independentes processadas em paralelo. Cada partição é executada em sua própria thread (local) ou em um worker remoto. Essa abordagem multiplica o throughput sem sacrificar a capacidade de restart. ```java // PartitionedJobConfig.java // Configuração de um job particionado @Configuration public class PartitionedJobConfig { private final JobRepository jobRepository; private final PlatformTransactionManager transactionManager; public PartitionedJobConfig(JobRepository jobRepository, PlatformTransactionManager transactionManager) { this.jobRepository = jobRepository; this.transactionManager = transactionManager; } @Bean public Job partitionedImportJob(Step partitionedStep) { return new JobBuilder("partitionedImportJob", jobRepository) .start(partitionedStep) .build(); } // Step manager: orquestra as partições @Bean public Step partitionedStep(Partitioner partitioner, Step workerStep, TaskExecutor taskExecutor) { return new StepBuilder("partitionedStep", jobRepository) // Divide o trabalho via Partitioner .partitioner("workerStep", partitioner) // Step executado para cada partição .step(workerStep) // 8 threads paralelas .taskExecutor(taskExecutor) // Número de partições a criar .gridSize(8) .build(); } // TaskExecutor para execução paralela @Bean public TaskExecutor batchTaskExecutor() { ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor(); executor.setCorePoolSize(8); executor.setMaxPoolSize(16); executor.setQueueCapacity(50); executor.setThreadNamePrefix("batch-partition-"); executor.initialize(); return executor; } } ``` ```java // RangePartitioner.java // Partitioner baseado em intervalos de ID @Component public class RangePartitioner implements Partitioner { private final JdbcTemplate jdbcTemplate; public RangePartitioner(JdbcTemplate jdbcTemplate) { this.jdbcTemplate = jdbcTemplate; } @Override public Map partition(int gridSize) { // Recupera os limites do dataset Long minId = jdbcTemplate.queryForObject( "SELECT MIN(id) FROM orders WHERE status = 'PENDING'", Long.class); Long maxId = jdbcTemplate.queryForObject( "SELECT MAX(id) FROM orders WHERE status = 'PENDING'", Long.class); if (minId == null || maxId == null) { return Map.of(); // Sem dados a processar } // Calcula o tamanho de cada partição long range = (maxId - minId) / gridSize + 1; Map partitions = new HashMap<>(); for (int i = 0; i < gridSize; i++) { ExecutionContext context = new ExecutionContext(); long start = minId + (i * range); long end = Math.min(start + range - 1, maxId); // Cada partição recebe seus limites context.putLong("minId", start); context.putLong("maxId", end); context.putInt("partitionNumber", i); partitions.put("partition" + i, context); } return partitions; } } ``` O particionamento é adequado para datasets grandes onde os itens são independentes. As partições devem estar balanceadas para evitar que uma partição lenta atrase todo o job. ### Pergunta 6: Qual a diferença entre particionamento local e remoto? O **particionamento local** executa todas as partições na mesma JVM com um pool de threads. O **particionamento remoto** distribui as partições entre várias JVMs (workers) por meio de middleware de mensageria. ```java // RemotePartitioningConfig.java // Configuração de particionamento remoto com mensageria @Configuration public class RemotePartitioningConfig { @Bean public Step managerStep(JobRepository jobRepository, Partitioner partitioner, MessageChannelPartitionHandler partitionHandler) { return new StepBuilder("managerStep", jobRepository) .partitioner("workerStep", partitioner) // Handler que se comunica com os workers remotos .partitionHandler(partitionHandler) .build(); } // PartitionHandler envia os ExecutionContexts aos workers @Bean public MessageChannelPartitionHandler partitionHandler( MessagingTemplate messagingTemplate, JobExplorer jobExplorer) { MessageChannelPartitionHandler handler = new MessageChannelPartitionHandler(); handler.setStepName("workerStep"); handler.setGridSize(4); handler.setMessagingOperations(messagingTemplate); handler.setJobExplorer(jobExplorer); // Timeout de espera para os workers terminarem handler.setPollInterval(5000L); return handler; } } ``` ```java // WorkerConfiguration.java // Configuração no lado worker @Configuration public class WorkerConfiguration { private final JobRepository jobRepository; private final PlatformTransactionManager transactionManager; public WorkerConfiguration(JobRepository jobRepository, PlatformTransactionManager transactionManager) { this.jobRepository = jobRepository; this.transactionManager = transactionManager; } // O worker recebe partições e executa o step @Bean public Step workerStep(ItemReader reader, ItemProcessor processor, ItemWriter writer) { return new StepBuilder("workerStep", jobRepository) .chunk(100, transactionManager) // Reader configurado com @StepScope para receber parâmetros da partição .reader(reader) .processor(processor) .writer(writer) .build(); } // Reader que usa os limites da partição @Bean @StepScope public JdbcCursorItemReader partitionedReader( DataSource dataSource, @Value("#{stepExecutionContext['minId']}") Long minId, @Value("#{stepExecutionContext['maxId']}") Long maxId) { return new JdbcCursorItemReaderBuilder() .name("partitionedOrderReader") .dataSource(dataSource) .sql("SELECT * FROM orders WHERE id BETWEEN ? AND ? AND status = 'PENDING'") .preparedStatementSetter(ps -> { ps.setLong(1, minId); ps.setLong(2, maxId); }) .rowMapper(new OrderRecordRowMapper()) .build(); } } ``` ## Tolerância a falhas e recuperação de erros ### Pergunta 7: Quais mecanismos de tolerância a falhas o Spring Batch oferece? O Spring Batch oferece três mecanismos complementares: **skip** (ignorar itens com falha), **retry** (tentar novamente automaticamente) e **restart** (retomar um job que falhou). Esses mecanismos são configurados no nível do step. ```java // FaultTolerantStepConfig.java // Configuração completa de tolerância a falhas @Configuration public class FaultTolerantStepConfig { @Bean public Step faultTolerantStep(JobRepository jobRepository, PlatformTransactionManager transactionManager, ItemReader reader, ItemProcessor processor, ItemWriter writer, SkipPolicy customSkipPolicy) { return new StepBuilder("faultTolerantStep", jobRepository) .chunk(100, transactionManager) .reader(reader) .processor(processor) .writer(writer) // Ativa o modo tolerante a falhas .faultTolerant() // SKIP: ignora até 10 erros de validação .skipLimit(10) .skip(ValidationException.class) .skip(DataIntegrityViolationException.class) // Alguns erros nunca devem ser ignorados .noSkip(FatalBatchException.class) // RETRY: tenta novamente erros transitórios .retryLimit(3) .retry(TransientDataAccessException.class) .retry(DeadlockLoserDataAccessException.class) // Backoff exponencial entre tentativas .backOffPolicy(exponentialBackOffPolicy()) // Listener para registrar os skips .listener(skipListener()) .build(); } @Bean public BackOffPolicy exponentialBackOffPolicy() { ExponentialBackOffPolicy policy = new ExponentialBackOffPolicy(); policy.setInitialInterval(1000); // 1 segundo policy.setMultiplier(2.0); // Dobra a cada tentativa policy.setMaxInterval(10000); // Máximo de 10 segundos return policy; } @Bean public SkipListener skipListener() { return new SkipListener<>() { @Override public void onSkipInRead(Throwable t) { // Loga item ilegível } @Override public void onSkipInProcess(DataRecord item, Throwable t) { // Loga item que falhou no processamento } @Override public void onSkipInWrite(ProcessedRecord item, Throwable t) { // Loga item que falhou na escrita } }; } } ``` Retry é adequado para erros transitórios (timeout de rede, deadlock de banco). Skip é adequado para erros de dados individuais que não devem bloquear o processamento global. ### Pergunta 8: Como implementar um SkipPolicy customizado? Um SkipPolicy customizado permite uma lógica de decisão refinada: ignorar conforme o tipo de exceção, número de erros ou critérios específicos de negócio. ```java // AdaptiveSkipPolicy.java // SkipPolicy com lógica de negócio avançada @Component public class AdaptiveSkipPolicy implements SkipPolicy { private static final int MAX_SKIP_COUNT = 100; private static final double MAX_SKIP_PERCENTAGE = 0.05; // 5% máximo private final AtomicInteger totalProcessed = new AtomicInteger(0); private final AtomicInteger skipCount = new AtomicInteger(0); @Override public boolean shouldSkip(Throwable exception, long skipCountSoFar) { // Nunca ignorar erros fatais if (exception instanceof FatalBatchException || exception instanceof OutOfMemoryError) { return false; } // Limite absoluto de skips if (skipCountSoFar >= MAX_SKIP_COUNT) { return false; // Para o job } // Limite percentual int total = totalProcessed.get(); if (total > 1000) { // Aplicar somente após o warmup double skipPercentage = (double) skipCountSoFar / total; if (skipPercentage > MAX_SKIP_PERCENTAGE) { return false; // Erros demais proporcionalmente } } // Ignora erros de validação e dados return exception instanceof ValidationException || exception instanceof DataFormatException || exception instanceof IllegalArgumentException; } // Chamado por um listener para acompanhar o progresso public void incrementProcessed() { totalProcessed.incrementAndGet(); } } ``` ### Pergunta 9: Como funciona o restart de um job que falhou? O JobRepository armazena o estado de cada execução. Ao reiniciar, o Spring Batch identifica o último chunk confirmado e retoma a partir desse ponto. Os itens processados com sucesso não são reprocessados. ```java // JobRestartService.java // Serviço de gerenciamento de restart de jobs @Service public class JobRestartService { private final JobLauncher jobLauncher; private final JobExplorer jobExplorer; private final JobRepository jobRepository; private final Job importJob; public JobRestartService(JobLauncher jobLauncher, JobExplorer jobExplorer, JobRepository jobRepository, @Qualifier("importJob") Job importJob) { this.jobLauncher = jobLauncher; this.jobExplorer = jobExplorer; this.jobRepository = jobRepository; this.importJob = importJob; } public JobExecution restartFailedJob(Long jobExecutionId) throws Exception { // Recupera a execução que falhou JobExecution failedExecution = jobExplorer.getJobExecution(jobExecutionId); if (failedExecution == null) { throw new IllegalArgumentException("Job execution not found: " + jobExecutionId); } // Verifica se o job pode ser reiniciado if (!failedExecution.getStatus().equals(BatchStatus.FAILED)) { throw new IllegalStateException("Only FAILED jobs can be restarted"); } // Usa os mesmos parâmetros da execução original JobParameters originalParams = failedExecution.getJobParameters(); // Relança o job - retoma automaticamente do último checkpoint return jobLauncher.run(importJob, originalParams); } public List findRestartableJobs() { // Lista todas as execuções FAILED ainda não reiniciadas return jobExplorer.findJobInstancesByJobName(importJob.getName(), 0, 100) .stream() .flatMap(instance -> jobExplorer.getJobExecutions(instance).stream()) .filter(exec -> exec.getStatus() == BatchStatus.FAILED) .filter(this::isRestartable) .toList(); } private boolean isRestartable(JobExecution execution) { // Verifica que não há execução bem-sucedida mais recente JobInstance instance = execution.getJobInstance(); return jobExplorer.getJobExecutions(instance).stream() .noneMatch(exec -> exec.getStatus() == BatchStatus.COMPLETED); } } ``` > **Armadilha de entrevista** > > Um job só pode ser reiniciado se os JobParameters forem idênticos. Modificar um parâmetro cria uma nova instância de job, perdendo o histórico de progresso. ## Escalabilidade e otimização ### Pergunta 10: Quais estratégias de escalabilidade estão disponíveis? O Spring Batch oferece quatro estratégias: **multi-threaded step** (múltiplas threads leem em paralelo), **parallel steps** (steps independentes em paralelo), **remote chunking** (processamento distribuído) e **partitioning** (dados distribuídos). ```java // MultiThreadedStepConfig.java // Step multi-thread: várias threads processam o mesmo dataset @Configuration public class MultiThreadedStepConfig { @Bean public Step multiThreadedStep(JobRepository jobRepository, PlatformTransactionManager transactionManager, ItemReader reader, ItemProcessor processor, ItemWriter writer, TaskExecutor taskExecutor) { return new StepBuilder("multiThreadedStep", jobRepository) .chunk(100, transactionManager) // ATENÇÃO: o reader deve ser thread-safe .reader(synchronizedReader(reader)) .processor(processor) .writer(writer) // 4 threads processam chunks em paralelo .taskExecutor(taskExecutor) .throttleLimit(4) .build(); } // Wrapper para tornar o reader thread-safe private ItemReader synchronizedReader(ItemReader reader) { SynchronizedItemStreamReader syncReader = new SynchronizedItemStreamReader<>(); syncReader.setDelegate((ItemStreamReader) reader); return syncReader; } } ``` ```java // ParallelStepsConfig.java // Execução de steps independentes em paralelo @Configuration public class ParallelStepsConfig { @Bean public Job parallelJob(JobRepository jobRepository, Step loadCustomersStep, Step loadProductsStep, Step loadOrdersStep, Step processDataStep) { // Fluxo paralelo: customers e products carregados simultaneamente Flow loadCustomersFlow = new FlowBuilder("loadCustomersFlow") .start(loadCustomersStep) .build(); Flow loadProductsFlow = new FlowBuilder("loadProductsFlow") .start(loadProductsStep) .build(); Flow loadOrdersFlow = new FlowBuilder("loadOrdersFlow") .start(loadOrdersStep) .build(); // Split executa os fluxos em paralelo return new JobBuilder("parallelJob", jobRepository) .start(new FlowBuilder("parallelLoadFlow") .split(new SimpleAsyncTaskExecutor()) .add(loadCustomersFlow, loadProductsFlow, loadOrdersFlow) .build()) // Após o carregamento paralelo, processamento sequencial .next(processDataStep) .build() .build(); } } ``` O multi-threading é adequado quando o reader pode ser sincronizado. O particionamento é preferível para grandes volumes pois cada partição tem seu próprio reader sem contenção. ### Pergunta 11: Como monitorar o desempenho de um job? O Spring Batch expõe métricas via listeners e JobRepository. A integração com Micrometer permite exportação para Prometheus, Grafana ou outros sistemas de monitoramento. ```java // BatchMetricsConfig.java // Configuração de monitoramento com Micrometer @Configuration public class BatchMetricsConfig { private final MeterRegistry meterRegistry; public BatchMetricsConfig(MeterRegistry meterRegistry) { this.meterRegistry = meterRegistry; } @Bean public JobExecutionListener metricsJobListener() { return new JobExecutionListener() { private Timer.Sample jobTimer; @Override public void beforeJob(JobExecution jobExecution) { // Inicia o timer de duração do job jobTimer = Timer.start(meterRegistry); Counter.builder("batch.job.started") .tag("job", jobExecution.getJobInstance().getJobName()) .register(meterRegistry) .increment(); } @Override public void afterJob(JobExecution jobExecution) { // Registra a duração total jobTimer.stop(Timer.builder("batch.job.duration") .tag("job", jobExecution.getJobInstance().getJobName()) .tag("status", jobExecution.getStatus().toString()) .register(meterRegistry)); // Contador de jobs por status Counter.builder("batch.job.completed") .tag("job", jobExecution.getJobInstance().getJobName()) .tag("status", jobExecution.getStatus().toString()) .register(meterRegistry) .increment(); } }; } @Bean public StepExecutionListener metricsStepListener() { return new StepExecutionListener() { @Override public void afterStep(StepExecution stepExecution) { String jobName = stepExecution.getJobExecution().getJobInstance().getJobName(); String stepName = stepExecution.getStepName(); // Métricas de throughput Gauge.builder("batch.step.read.count", stepExecution, StepExecution::getReadCount) .tag("job", jobName) .tag("step", stepName) .register(meterRegistry); Gauge.builder("batch.step.write.count", stepExecution, StepExecution::getWriteCount) .tag("job", jobName) .tag("step", stepName) .register(meterRegistry); Gauge.builder("batch.step.skip.count", stepExecution, StepExecution::getSkipCount) .tag("job", jobName) .tag("step", stepName) .register(meterRegistry); return null; } }; } } ``` ### Pergunta 12: Quais são as armadilhas comuns no particionamento? Erros frequentes incluem: partições desbalanceadas (uma partição contém 90% dos dados), readers não thread-safe e gerenciamento incorreto do estado entre partições. ```java // BalancedPartitioner.java // Partitioner que realmente equilibra a carga @Component public class BalancedPartitioner implements Partitioner { private final JdbcTemplate jdbcTemplate; public BalancedPartitioner(JdbcTemplate jdbcTemplate) { this.jdbcTemplate = jdbcTemplate; } @Override public Map partition(int gridSize) { // Conta total de itens a processar Integer totalCount = jdbcTemplate.queryForObject( "SELECT COUNT(*) FROM orders WHERE status = 'PENDING'", Integer.class); if (totalCount == null || totalCount == 0) { return Map.of(); } // Calcula o tamanho-alvo por partição int itemsPerPartition = (int) Math.ceil((double) totalCount / gridSize); Map partitions = new HashMap<>(); // Usa OFFSET/LIMIT para partições balanceadas // Mais caro que ranges mas garante o equilíbrio for (int i = 0; i < gridSize; i++) { ExecutionContext context = new ExecutionContext(); context.putInt("offset", i * itemsPerPartition); context.putInt("limit", itemsPerPartition); context.putInt("partitionNumber", i); partitions.put("partition" + i, context); } return partitions; } } // OffsetBasedReader.java // Reader compatível com particionamento por offset @StepScope @Component public class OffsetBasedReader implements ItemReader, ItemStream { private final JdbcTemplate jdbcTemplate; private Iterator iterator; @Value("#{stepExecutionContext['offset']}") private int offset; @Value("#{stepExecutionContext['limit']}") private int limit; public OffsetBasedReader(JdbcTemplate jdbcTemplate) { this.jdbcTemplate = jdbcTemplate; } @Override public void open(ExecutionContext executionContext) { // Carrega exatamente a porção atribuída a esta partição List records = jdbcTemplate.query( "SELECT * FROM orders WHERE status = 'PENDING' ORDER BY id LIMIT ? OFFSET ?", new OrderRecordRowMapper(), limit, offset ); this.iterator = records.iterator(); } @Override public OrderRecord read() { return iterator.hasNext() ? iterator.next() : null; } @Override public void update(ExecutionContext executionContext) { // Salvamento de estado para restart se necessário } @Override public void close() { // Limpeza } } ``` ## Perguntas avançadas para sêniores ### Pergunta 13: Como gerenciar dependências entre jobs? O Spring Batch não gerencia nativamente dependências entre jobs. Soluções incluem: orquestradores externos (Airflow, Kubernetes CronJob) ou implementação customizada com JobExplorer. ```java // JobDependencyService.java // Gerenciamento de dependências entre jobs @Service public class JobDependencyService { private final JobExplorer jobExplorer; private final JobLauncher jobLauncher; private final Map jobs; public JobDependencyService(JobExplorer jobExplorer, JobLauncher jobLauncher, Map jobs) { this.jobExplorer = jobExplorer; this.jobLauncher = jobLauncher; this.jobs = jobs; } public JobExecution runWithDependencies(String jobName, JobParameters params, List dependsOn) throws Exception { // Verifica se todas as dependências foram bem-sucedidas for (String dependency : dependsOn) { if (!hasSuccessfulExecution(dependency, params)) { throw new JobExecutionException( "Dependency not satisfied: " + dependency); } } Job job = jobs.get(jobName); if (job == null) { throw new IllegalArgumentException("Unknown job: " + jobName); } return jobLauncher.run(job, params); } private boolean hasSuccessfulExecution(String jobName, JobParameters params) { // Procura uma execução COMPLETED com os mesmos parâmetros de negócio return jobExplorer.findJobInstancesByJobName(jobName, 0, 1) .stream() .flatMap(instance -> jobExplorer.getJobExecutions(instance).stream()) .filter(exec -> exec.getStatus() == BatchStatus.COMPLETED) .anyMatch(exec -> matchesBusinessParams(exec.getJobParameters(), params)); } private boolean matchesBusinessParams(JobParameters actual, JobParameters expected) { // Compara parâmetros de negócio (ignora timestamps de execução) String actualDate = actual.getString("businessDate"); String expectedDate = expected.getString("businessDate"); return Objects.equals(actualDate, expectedDate); } } ``` ### Pergunta 14: Como testar eficazmente um job Spring Batch? Testar jobs Spring Batch exige uma abordagem em camadas: testes unitários dos componentes (reader, processor, writer), testes de integração dos steps e testes end-to-end de jobs completos. ```java // OrderProcessorTest.java // Teste unitário do processor @ExtendWith(MockitoExtension.class) class OrderProcessorTest { @Mock private PricingService pricingService; @Mock private ValidationService validationService; @InjectMocks private OrderItemProcessor processor; @Test void shouldProcessValidOrder() { // Given OrderRecord input = new OrderRecord(1L, 100L, BigDecimal.TEN); when(validationService.isValid(input)).thenReturn(true); when(pricingService.calculatePrice(input)).thenReturn(new BigDecimal("12.50")); // When ProcessedOrder result = processor.process(input); // Then assertThat(result).isNotNull(); assertThat(result.finalPrice()).isEqualTo(new BigDecimal("12.50")); } @Test void shouldFilterInvalidOrder() { // Given OrderRecord input = new OrderRecord(1L, 100L, BigDecimal.TEN); when(validationService.isValid(input)).thenReturn(false); // When ProcessedOrder result = processor.process(input); // Then - null significa filtrado assertThat(result).isNull(); verify(pricingService, never()).calculatePrice(any()); } } ``` ```java // ImportJobIntegrationTest.java // Teste de integração do job completo @SpringBatchTest @SpringBootTest @ActiveProfiles("test") class ImportJobIntegrationTest { @Autowired private JobLauncherTestUtils jobLauncherTestUtils; @Autowired private JobRepositoryTestUtils jobRepositoryTestUtils; @Autowired private JdbcTemplate jdbcTemplate; @BeforeEach void setup() { // Limpa metadados entre testes jobRepositoryTestUtils.removeJobExecutions(); // Reseta dados de teste jdbcTemplate.execute("DELETE FROM processed_orders"); jdbcTemplate.execute("DELETE FROM orders"); } @Test void shouldCompleteJobSuccessfully() throws Exception { // Given - dados de teste insertTestOrders(100); // When JobParameters params = new JobParametersBuilder() .addLocalDate("businessDate", LocalDate.now()) .addLong("run.id", System.currentTimeMillis()) .toJobParameters(); JobExecution execution = jobLauncherTestUtils.launchJob(params); // Then assertThat(execution.getStatus()).isEqualTo(BatchStatus.COMPLETED); assertThat(countProcessedOrders()).isEqualTo(100); } @Test void shouldHandleEmptyDataset() throws Exception { // Given - sem dados // When JobExecution execution = jobLauncherTestUtils.launchJob(); // Then - job tem sucesso mesmo sem dados assertThat(execution.getStatus()).isEqualTo(BatchStatus.COMPLETED); } @Test void shouldRestartFromFailurePoint() throws Exception { // Given - simula erro no meio do processamento insertTestOrders(100); insertPoisonOrder(50); // Causa um erro // When - primeira execução falha JobExecution firstExecution = jobLauncherTestUtils.launchJob(); assertThat(firstExecution.getStatus()).isEqualTo(BatchStatus.FAILED); // Corrige os dados removePoisonOrder(50); // When - restart JobExecution restartExecution = jobLauncherTestUtils.launchJob( firstExecution.getJobParameters()); // Then - retoma a partir do ponto de falha assertThat(restartExecution.getStatus()).isEqualTo(BatchStatus.COMPLETED); } private void insertTestOrders(int count) { for (int i = 1; i <= count; i++) { jdbcTemplate.update( "INSERT INTO orders (id, customer_id, amount, status) VALUES (?, ?, ?, 'PENDING')", i, i * 10, BigDecimal.valueOf(i * 10)); } } private int countProcessedOrders() { return jdbcTemplate.queryForObject( "SELECT COUNT(*) FROM processed_orders", Integer.class); } } ``` ### Pergunta 15: Como otimizar o desempenho de gravações no banco de dados? A gravação geralmente se torna o gargalo. Otimizações incluem: batch inserts JDBC, desativação de constraints durante a carga e uso de tabelas de staging. ```java // OptimizedJdbcWriter.java // Writer otimizado para grandes volumes @Component public class OptimizedJdbcWriter implements ItemWriter { private final JdbcTemplate jdbcTemplate; private final DataSource dataSource; public OptimizedJdbcWriter(JdbcTemplate jdbcTemplate, DataSource dataSource) { this.jdbcTemplate = jdbcTemplate; this.dataSource = dataSource; } @Override public void write(Chunk chunk) throws Exception { List items = chunk.getItems(); if (items.isEmpty()) { return; } // Usa PreparedStatement com batch try (Connection connection = dataSource.getConnection(); PreparedStatement ps = connection.prepareStatement( "INSERT INTO processed_orders (order_id, customer_id, final_price, processed_at) " + "VALUES (?, ?, ?, ?)")) { for (ProcessedOrder order : items) { ps.setLong(1, order.orderId()); ps.setLong(2, order.customerId()); ps.setBigDecimal(3, order.finalPrice()); ps.setTimestamp(4, Timestamp.valueOf(order.processedAt())); ps.addBatch(); } // Executa todos os inserts em uma única operação de rede ps.executeBatch(); } } } // StagingTableWriter.java // Padrão staging table para volumes muito grandes @Component public class StagingTableWriter implements ItemWriter, StepExecutionListener { private final JdbcTemplate jdbcTemplate; private String stagingTable; public StagingTableWriter(JdbcTemplate jdbcTemplate) { this.jdbcTemplate = jdbcTemplate; } @Override public void beforeStep(StepExecution stepExecution) { // Cria tabela temporária para este step stagingTable = "staging_orders_" + stepExecution.getId(); jdbcTemplate.execute( "CREATE TEMP TABLE " + stagingTable + " (LIKE processed_orders INCLUDING ALL)"); } @Override public void write(Chunk chunk) { // Escreve na tabela de staging (sem constraints FK) String sql = "INSERT INTO " + stagingTable + " (order_id, customer_id, final_price, processed_at) VALUES (?, ?, ?, ?)"; jdbcTemplate.batchUpdate(sql, chunk.getItems(), chunk.size(), (ps, order) -> { ps.setLong(1, order.orderId()); ps.setLong(2, order.customerId()); ps.setBigDecimal(3, order.finalPrice()); ps.setTimestamp(4, Timestamp.valueOf(order.processedAt())); }); } @Override public ExitStatus afterStep(StepExecution stepExecution) { if (stepExecution.getStatus() == BatchStatus.COMPLETED) { // Bulk copy para a tabela final jdbcTemplate.execute( "INSERT INTO processed_orders SELECT * FROM " + stagingTable); } // Limpa tabela de staging jdbcTemplate.execute("DROP TABLE IF EXISTS " + stagingTable); return stepExecution.getExitStatus(); } } ``` ## Conclusão Dominar o Spring Batch 5 em entrevistas técnicas baseia-se na compreensão profunda dos mecanismos internos: ✅ **Arquitetura**: Job → Step → Chunk (Reader, Processor, Writer) ✅ **Processamento por chunks**: dimensionamento, ciclo de vida, transações ✅ **Particionamento**: local vs remoto, equilíbrio das partições ✅ **Tolerância a falhas**: skip, retry, restart com política adequada ✅ **Escalabilidade**: multi-threading, parallel steps, remote chunking ✅ **Testes**: unitários, integração, end-to-end ✅ **Otimização**: batch writes, staging tables, monitoramento Perguntas avançadas avaliam a capacidade de justificar decisões arquiteturais conforme o contexto: volume de dados, restrições de tempo, tolerância a erros e infraestrutura disponível. --- Source: SharpSkill (https://sharpskill.dev), tech interview preparation for your real stack. HTML version of this page: https://sharpskill.dev/pt/blog/spring-boot/spring-batch-5-interview-partitioning-chunks-fault-tolerance