TGViewer
Data Engineer Data Engineer @dataengineernews · 478 subscribers
Post #276 240
#depatterns #заметкинаполях

Возвращаемся DE Patterns. Семейство шаблонов под номером 4 называется репликацией данных. Суть их всех сводится к простому копированию из одной локации в другую. Применяется при движении данных между однородными хранилищами, в идеале с сохранением атрибутов метаданных (первичных ключей в БД, к примеру), но «в действительности все не так, как на самом деле».

Итоги про репликацию от Data Whisperer

Шаблон под номером 5 предназначен для решения «проблемы маленьких файлов», известной инженерам с незапамятных практически времен. Решение очевидно - хранить меньше файлов, но большего размера. Впрочем, см сюда...

Следующий шаблон снова отсылает нас к ресторанной тематике: «Вам по готовности или все сразу?» Его задача помочь определить правильный момент для начала процесса поглощения данных. Как узнать, что загрузка какого-либо закончена, и можно запускать последующие процессы обработки?
В объектных хранилищах решение может быть легко реализовано при помощи флаг-файлов, таким как многим знакомый _SUCCESS, например.

Но и здесь не обошлось без подводных камней…

Продолжение следует…
Telegram Data Whisperer Data Engineering Design Patterns: Глава 2 — Data Ingestion Designe Patterns Продолжаю читать Data Engineering Design Patternsy, краткое summary по паттерну Passthrough Replicator. DATA LOADING vs REPLICATION На первый взгляд эти два понятия похожи, но…
  • 👍 1
More from @dataengineernews
  1. Sep 27, 20262️⃣3️⃣✖️0️⃣✖️2️⃣6️⃣ 🦀 Big Data дайджест · 22–23 сентября 2026 🍄 CLICKHOUSE • На этой нед…
  2. Sep 23, 2026Кабанчик приехал
  3. Sep 12, 2026LLMSQLQueryOperator В Airflow появился новый декоратор task.llm_sql, который генерирует SQ…
  4. Sep 2, 2026Кабанчик уже не тот https://t.me/alexgladkovblog/7608
  5. Aug 25, 2026Apache Airflow 3.3.0: Stateful Tasks and Multi-Language Support В Airflow 3.3 появился AIP…
  6. Aug 25, 2026Продолжая закрывать свой букдолг, дошел до книги Питхейна Стренгхольта «Архитектура медаль…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →