Способы извлечения/поглощения данных
▪️Прямое подключение к базе данных (SQL, ETL-инструменты, Python и т. п.)
▪️Чтение лога базы данных (CDC-инструменты, например Debezium)
▪️API. Поставщик данных предоставляет интерфейс для доступа к ним (Python и т. д.)
▪️Брокеры сообщений
▪️Обмен файлами. Система-источник выгружает файл с данными в согласованном формате, например, в объектное хранилище по расписанию. Экстремальный случай – файл выгружает специально обученный человек и отправляет его по почте.
Это не все случаи, которые инженер данных может встретить в своей деятельности, но с этими хорошо бы уметь работать, потому что, на мой взгляд, они встречаются чаще других.
Кажется, на этом разговор про поглощение можно заканчивать и двигаться дальше.
Post #29
320

- 👍 3