Uma equipe de engenharia de dados de um órgão fazendário precisa implementar um pipeline que capture, em tempo quase real, as alterações de uma tabela contribuinte (operações INSERT, UPDATE e DELETE) e as replique para um data warehouse analítico. O banco de origem é um SGBD relacional que mantém um log de transações (WAL) e oferece suporte a replicação lógica. Durante os testes, observou-se que, em uma janela de 10 minutos, ocorreram 5.000 atualizações na mesma linha de um contribuinte, e o processo de captura gerou 5.000 eventos distintos, sobrecarregando a camada de ingestão. Além disso, um evento de DELETE ocorrido após as atualizações não foi aplicado no destino porque o consumidor processou os eventos fora de ordem, em paralelo, sem controle de sequenciamento.
Considerando os conceitos de Change Data Capture (CDC), processamento de streams e garantias de entrega, a solução que corrige simultaneamente os dois problemas descritos é:
Selecione uma alternativa pra criar sua conta e salvar o progresso.