TGViewer
Школа Больших Данных Школа Больших Данных @bigdataschool_ru · 657 subscribers
Post #1301 195
Как перейти на Iceberg и сохранить данные в ClickHouse

Масштабные миграции ETL-процессов на новый стек могут казаться сложными, но платформа o_rabbit упрощает этот переход. Она позволяет экспортировать данные в Parquet-файлы на S3, регистрировать их как таблицы Iceberg и обеспечивать доступ через Project Antalya. Это подходит командам, готовым перестроить процессы под открытый data lake и отказаться от привычных вставок в ClickHouse.

Что делает o_rabbit

• экспортирует данные в Parquet-файлы на S3
• регистрирует таблицы Iceberg для управления снимками и изменениями
• обеспечивает доступ к данным через Project Antalya
• делит задачи на мастера и исполнителей для отказоустойчивости
• использует SQLite для управления состоянием и восстановления после сбоев

Главное преимущество — масштабируемость и устойчивость к сбоям даже при больших объемах данных.

Читать статью

#Iceberg #ETL #ClickHouse #DataLake #ProjectAntalya
  • 👍 1
More from @bigdataschool_ru
  1. Oct 5, 2026PostgreSQL 19: планы запросов стали стабильнее Нестабильные планы запросов — одна из главн…
  2. Oct 5, 2026Как упростить доступ к данным в S3 и отказаться от прокси? Вместо сложных внешних прокси-с…
  3. Oct 2, 2026Почему Kafka теряет порядок событий и как это исправить Transactional outbox — популярный…
  4. Oct 2, 2026Выбор каталога для Iceberg на своём железе Lakekeeper и Apache Polaris решают одну и ту же…
  5. Oct 1, 2026Как PostgreSQL перестал упираться в потолок производительности Классический PostgreSQL упи…
  6. Sep 30, 2026Trino для SQL-запросов к Iceberg в S3: проще, быстрее, дешевле Аналитика данных часто треб…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →