TGViewer
Data Engineering Digest Data Engineering Digest @dataengineeringdigest · 1.17K subscribers
Post #52 1.16K
Мне очень нравится вопрос: Чем Parquet отличается от Iceberg?
Если очень-очень грубо усреднить ответы, то получится что-то типа: Parquet - это файл с данными, а Iceberg - это данные + метаданные про этот файл.

Но если Iceberg «умный» и уже хранит метаданные, почему в стеке Trino + S3 до сих пор живет Metastore? Какие функции он выполняет?

На этот вопрос ответят в докладе Михаила Иванова "Что такое metastore и с чем его едят?"

YT : https://www.youtube.com/watch?v=BJnOb_BJCLQ
VK : https://vkvideo.ru/video-147464741_456239481

Привычного формата поста не будет, так как в докладе разбирают специфичный кейс компании, которой не подошли современные metastore и они пошли по пути написания своего решения. Я бы порекомендовал посмотреть первые 15 минут доклада для Junior/middle специалистов, а для Senior/Architector последние 15 минут доклада) Но доклад правда интересный)

Покидаю интересные скрины с доклада следующим постом:
YouTube Михаил Иванов — Что такое metastore и с чем его едят Подробнее о конференции SmartData: https://jrg.su/aTWU2K — — Скачать презентацию с сайта — https://jrg.su/ApLkVF Metastore — это ключевой компонент любой современной платформы данных, который отвечает за управление метаданными. Без него работа с большими…
  • ❤ 8
  • 👍 5
More from @dataengineeringdigest
  1. Oct 10, 2026✨ Сергей Харитонов — Физиология лидерства: как тимлиду оставаться в ресурсе Сложность: 1/3…
  2. Oct 1, 20265 октября начнется 19-й поток программы Data Engineer от Newprolab Программа для junior- и…
  3. Oct 1, 2026Прошу простить, уже долгое время не могу выделить время на полноценный пост о интересных д…
  4. Sep 23, 20265 октября начнется 19-й поток программы Data Engineer от Newprolab Программа для junior- и…
  5. Sep 6, 2026Ещё один доклад из которого не получился пост по причине того, что админ очень не любит sp…
  6. Sep 5, 2026photo post
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →