TGViewer
Agentic Engineer Agentic Engineer @data_engi · 686 subscribers
Post #1183 211
Flink SQL научился превращать обычный поток в CDC и обратно

В Apache Flink 2.3 появились функции FROM_CHANGELOG и TO_CHANGELOG.

Первая превращает поток строк с кодами операций в динамическую таблицу с INSERT, UPDATE и DELETE. Вторая делает обратное — переводит обновляемую таблицу в append-only журнал событий.

Для инженеров это означает, что нестандартные CDC-форматы, аудит и запись в append-only хранилища теперь можно собирать на SQL, без перехода к DataStream API. Но текущей версии нужны полные пары UPDATE_BEFORE и UPDATE_AFTER, иначе состояние может получиться неверным.

#apacheflink #flinksql #cdc #streamprocessing #dataengineering #datapipelines

@data_engi
nightlies.apache.org Changelog Conversion Changelog Conversion # Streaming Flink SQL provides built-in process table functions (PTFs) for working with changelog streams. Function Description FROM_CHANGELOG Converts an append-only table with operation codes into a (potentially updating) dynamic table…
  • ❤‍🔥 7
More from @data_engi
  1. Oct 6, 2026Post #1399
  2. Oct 5, 2026@data_engi
  3. Oct 5, 2026С днём учителя! @data_engi
  4. Oct 5, 2026Промптом можно пролезть без очереди на LLM-сервере 😁 2 октября исследователи описали JIL…
  5. Oct 5, 2026Iceberg Kafka Connect перестал молча терять данные при ошибке записи 👈 В Apache Iceberg 1…
  6. Oct 4, 2026От "наши LLM - мирового уровня" до "но нужно трезво смотреть на вещи..." прошла одна блоки…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →