TGViewer
rzv Data Engineering rzv Data Engineering @rzv_de · 3.03K subscribers
Post #481 907
Вышла лаба про CDC конвейер из PostgreSQL через Debezium и Kafka Connect в S3!

Как и на других стендах, получите доступ к инфраструктуре, UI и материалам в "одном окне браузера". В этот раз решил построить по сценарию "что может сломаться в интеграции и как это чинить". Потренировавшись "на птичках", сможете более уверенно внедрять и обслуживать change data capture интеграции на работе.

🔸 Что получите в процессе изучения

- Составите конфиг коннекторов, в которых на опыте поймёте, зачем нужна каждая строчка
- Зарегистрируете source- и sink-коннекторы через REST API Kafka Connect
- Пройдёте первичную загрузку 20 000 заказов и перейдёте к живому потоку данных с операциями I/U/D
- В процессе несколько раз обновите конфиг коннектора, проследите за результатом изменений "на живую"
- Научитесь ориентироваться в формате сообщений внутри топика
- Попереключаете живой поток на разные форматы выгрузки в S3, JSONL и Parquet
- Научитесь управлять объёмом и количеством файлов на выходе
- Проследите, что и как сломается при остановке и удалении различных частей интеграции
- Научитесь чинить эти поломки

В конце вас ждёт сводная таблица с рекомендациями по диагностике и решению частых проблем.

У каждого участника своя выделенная инфраструктура, можно свободно экспериментировать*

🔸 Кому подойдёт

Нужен базовый SQL и опыт с любой реляционной базой. Опыт с Kafka не обязателен, приложил необходимый минимум теории. Лаба пригодится, если на работе предстоит внедрять CDC или вы собираетесь переходить на проект с такой интеграцией.

Прохождение занимает от 4 до 6 часов, доступ открыт 30 дней, материалы можно забрать с собой в PDF.

До 07 октября скидка на лабу 10%

p.s. *надеюсь, смогу поддержать хотя бы 95% доступность кластера с учётом этих экспериментов :D
  • ❤ 3
More from @rzv_de
  1. Oct 4, 2026Как z-order помогает Iceberg пропускать лишние файлы Представим таблицу с детализацией зво…
  2. Oct 4, 2026photo post
  3. Sep 29, 2026Неочевидная причина, по которой может расти WAL в Postgres при использовании Debezium 2/2…
  4. Sep 29, 2026Неочевидная причина, по которой может расти WAL в Postgres при использовании Debezium 1/2…
  5. Sep 29, 2026photo post
  6. Sep 22, 2026Как равномерно размазывать данные Часто в командах, где я работал, проверяли равномерность…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →