👓 Витрины на вьюхах
В вводном курсе Практкикума по DE повествование идёт от лица нового дата инженера, которому надо собрать дашборды для руководителя. На входе файлики, складывать в Постгрес, для дашбордов — Metabase.
Это мне 1-в-1 напомнило первую работу инженером данных. Собрал данные из разных мест, сложил к себе и сверху налепил вьюху.
Вьюхи хорошо работают как MVP, когда надо быстро собрать нужные данные в удобном для представления виде. Как раз случай быстрого вводного урока.
Первые витрины я собирал именно так. Какое же хорошее изобретение эти вьюхи: не надо данные никуда переклаывать, никакого кода, кронов, дублей, идемпотентности — ле-по-та!
Наклепал я так себе несколько вьюх каскадом. И был доволен.
А потом решил доработать первую из них. И не смог. Вьюхи, на которых есть зависимости нельзя менять. Это был первый урок датаинженерской жизни.
⌘⌘⌘
Чем хорош Телеграм — он помнит всё. Вот Саша из 2020 спрашивает совета о получившейся архитектуре.
https://t.me/deordie_chat/1673
К тому моменту я шестой месяц работал в отделе маркетинга торгового центра единственным аналитиком / инженером данных. У меня получилось собрать нечто, напоминающее простенькое ДВХ на основе Постгреса, наполняемого скриптами на кроне. Уже что-то слышал-читал про слои данных, но ещё боялся подступиться к Airflow.
И вместо BI-слоя у меня были вьюхи =)
Post #238
1.16K
data будни прошёл вводный модуль курса по DE Ну как прошёл — прочитал теорию, но практику пропустил 🌚 Кажется, задачей вводного курса было ответить на вопрос «чем же занимается инженер данных?». Получилось показательно: Собирать задачу с заказчиков Определять задачу…Telegram Саша Михайлов in DE or DIE Chat Всем привет! Можно я тут с вопросами? у меня несколько табличек с сырыми данными (всякие персональные данные клиентов) из разных источников; там сырые данные почти без какой-либо трансформации. данные собираются каждое утро за вчера. Ни какая не биг дата…
- 👍 2