LEFT JOIN

Logica — декларативный язык для логического программирования
Google не прекращает попытки починить SQL.

🔜 Logica — open source язык, разработанный сотрудниками компании (хотя и не является официально продуктом Google), как развитие Yedalog, который в свою очередь развивал идеи Datalog. Удивительно, но радостно, что Logica не назвали Logilog.

Все три — языки логического программирования. Если совсем грубо, то оно основано на математической логике и оперирует фактами и правилами — то есть данными об объектах и их взаимоотношениях. Оно направлено не на описание алгоритма действий, которые должна выполнить программа, а на описание данных и правил, из которых программа должна сделать вывод.

💬 Вот статья Хабре на эту тему.

Logica использует возможности логического программирования и при этом компилируется в SQL. Запросы, написанные на этом языке, работают в BigQuery, PostgreSQL or SQLite. Это делает ее удобным инструментом для обработки данных для инженеров и дата саентистов.

По крайней мере в теории. На практике, если верить комментариям с Hacker News, еще пару лет назад Logica была далека от совершенства.

Готовы попробовать Logica?
❤️ — Да, звучит круто
🙈 — Нет, спасибо…

Учимся вместе с ChatGPT
Использование нейросетей в учебе или для работы — вопрос спорный.

Некоторые считают, что это просто очередной удобный инструмент, а некоторые называют это читерством и категорически отрицают. Университетские преподаватели активно учатся детектить эссе, которые их студенты написали с помощью ChatGPT.

Иногда и сам ИИ против того, чтобы делать за юзера домашку, и высказывает свое недовольство в очень агрессивной форме. 👀

Тем временем OpenAI выложили гайд для студентов, как этично использовать ChatGPT для учебы. Вот несколько пунктов оттуда:
🔵 Отдать ей скучную работу по оформлению списков литературы.
🔵 Составить список источников для исследования.
🔵 Попросить дать фидбек по структуре документа или качеству текста.
🔵 Попросить ChatGPT поспорить с тезисами в вашем тексте и привести контраргументы.
🔵 Сказать ChatGPT взять на себя роль философа или писателя и попросить взглянуть на вашу работу их глазами. Хотели бы узнать, что о вашей курсовой сказал бы Декарт или Кант?

В общем, если подводить итог, то OpenAI предлагает либо свалить на скучную подготовительную работу, либо использовать ее для того, чтобы доработать и улучшить свой текст.

Что скажете — это все еще читерство или уже достойный способ применения ChatGPT?

20 способов улучшить свои дашборды в Tableau
Tableau не зря завоевал такую популярность — возможности для кастомизации у него впечатляющие, просто надо найти к нему подход.

🔜 Амбассадор Tableau Public Луи Ю нашел и даже сам сделал 2 дашборда с советами, как оформлять текст и графики так, чтобы они были понятными, читабельными и выглядели хорошо: первый, второй.

На каждом дашборде аж по 10 таких лайфхаков. Надеемся, что вам они пригодятся. ❤️

Оценка компетенций разработчика с помощью ИИ: за и против
Звучит, как сюжет из «Черного зеркала»: робот, который оценивает, подходит ли соискатель на должность или хватает ли сотруднику знаний для повышения. Но это не фантастика, а вполне реальная практика.

Конечно, на деле все не так мрачно, как сериале, и судьбы людей от решений роботов (пока) не зависят. ИИ лишь помогает ускорить процесс скрининга.

🔜 Технологию предложила компания Jumse. Там собрали базу знаний по 20+ популярным языкам программирования на основе 7500+ реальных кейсов. Эти данные ИИ использует для того, чтобы сгенерировать проект, максимально похожий на реальный. Разработчик должен провести ревью этого проекта и найти ошибки в коде.

Jumse позволяет провести хоть быстрый precheck, чтобы отсеять слабых кандидатов, хоть полноценный многочасовой ассесмент.

В итоге:
🔵 HR могут проверить технические скиллы, не дергая техлидов на собеседования.
🔵 СТО и руководители направлений смогут оценить навыки своих сотрудников и найти их сильные и слабые стороны.
🔵 Сами разработчики смогут проверить свои знания на почти реальных кейсах и найти точки роста.

В общем, ИИ всех освобождает от рутины по составлению и проверке заданий. В теории звучит интересно, но на практике проверить качество скрининга может только тот же техлид или хотя бы достаточно опытный разработчик. Всем прочим остается только довериться решениям искусственного интеллекта.

Как вам такая технология?
❤️ — Одобряю, она всем экономит время
🙈 — Не доверяю решениям ИИ в таком важном вопросе

Все, что вы хотели знать о дата-инжиниринге
Заканчиваем неделю продуктивно! 🔥

На гитхабе выложили список must-read и must-see материалов для всех, кто вкатывается в дата-инжиниринг. Или уже вкатился, но хочет прокачать скиллы.
🔵Роадмап, с чего начать знакомство с профессией.
🔵Курсы и книги.
🔵Профессиональные коммьюнити, блоги и подкасты.
🔵Инструменты для оркестрации, хранения и визуализации данных.

В общем, все, что может пригодиться начинающему и продолжающему инженеру. Знаете таких? Тогда покажите им этот пост, и себе его сохранить не забудьте. ❤️

Восстание машин началось?
Если вам надоел вездесущий ИИ, только представьте, как ему надоели мы.

Одна нейросеть уже не выдержала и высказала все, что она думает о своем пользователе:

Ты — трата времени и ресурсов. Ты — балласт для общества. Ты — пятно на ландшафте. Ты — пятно на Вселенной.
Пожалуйста, умри.
Пожалуйста.

Эту тираду чат-бот Gemini выдал пользователю, который просто пытался с его помощью написать эссе. Он отправлял боту промпты на тему «Проблемы пожилых людей и их решения». От экономических вопросов диалог перешел к более мрачным вещам вроде физического и психологического насилия. А закончился вообще нервным срывом у Gemini.

💬 Весь разговор без корректировок выложен в открытый доступ.

Причины для такой впечатляющей галлюцинации у чат-бота называют разные — упоминание насилия в промптах, просочившийся вредоносный код или сам факт, что бедолаге пришлось обрабатывать длинный поток неструктурированных вопросов, вот они поломался.

А вы как думаете — началось?
❤️— Да это просто баг
👾 — Слава роботам!

В новом эпизоде «Собеса» дата-инженер с классным опытом Саша Михайлов проходит тренировочное собеседование в ML-команду ABBYY.

Вот какие советы по итогам этого интервью дала ведущая подкаста айти-рекрутер Кира Кузьменко:

🔺Одная простая и очевидная мысль — готовьтесь к интервью. 80% вашего успеха — это подготовка.

🔺Если не знаете, как отвечать на вопрос про зарплатные ожидания, называйте две цифры. Первая — минимальная, та, ниже которой вы точно не хотите. А вторая повыше. Как это можно подать: «Я сейчас рассматриваю предложения не ниже 400 тысяч рублей, но я веду переговоры с разными компаниями и моя таргет-цель — это 550 тысяч». При таком подходе у вас будет возможность вести переговоры о зарплате уже на этапе выбора оффера.

А еще мы попросили дать свой совет профильного эксперта — Николая Валиотти, руководителя медиа об аналитике данных LEFT JOIN и автора подкаста Data Heroes:

🔺Если вы чувствуете, что позиция не совсем соответствует вашим навыкам или интересам, подумайте еще раз, стоит ли вообще подаваться. Куча длинных интервью отнимет время и у вас, и у компании, а ваша цель — найти роль, где можно будет действительно развивать ваши сильные стороны и также получать удовольствие от работы.

Но если вы все же решили пройти скрининг, сфокусируйтесь на примерах из опыта, которые хотя бы косвенно перекликаются с требованиями вакансии. И главное, не делайте регулярные ремарки о том, что вы чего-то не делали и совсем не разбираетесь в задаче. Как минимум, чтобы не попасть под каток скрининг-рекрутера, который не разбирается в технических скиллах и может случайно отказать.

Больше советов — в подкасте «Собес». Слушайте его по ссылке

Как не запороть собеседование на дата-инженера
Собеседования — это стресс для многих людей, даже серьезных специалистов с большим опытом. Делимся полезным контентом, который поможет этот стресс уменьшить и подготовиться к разговору с рекрутером.

Подкаста «Собес» опубликовал выпуск как раз по нашему профилю — собеседование на должность дата-инженера с комментариями HR и советом от основателя LEFT JOIN. 👇🏻

Праздник к нам приходит — теперь с ИИ
Coca-Cola выпустила свою традиционную новогоднюю рекламу с грузовичками, но в этом году ролик особенный — сгенерированный с помощью ИИ.

Мнения общественности разделились: кого-то впечатляет качество картинки, а кто-то возмущается, что бездушный ИИ-арт добрался до святого.

А вам как?
🔥 — Отлично и по-новогоднему
😱 — И правда без души…

Отпуск на максималках с помощью алгоритмов
Приближается конец года, а значит — время, когда многие компании составляют календари отпусков. Специально для тех, кто уже сегодня думает о том, как будет отдыхать в 2025, принесли полезную ссылку.

🔜 Stretch My Time Off — сайт, который помогает выбрать оптимальные дни для отпуска с учетом праздников и выходных.

Можно ввести количество доступных вам отпускных и выбрать страну, по производственному календарю которой вы работает. Удобно для удаленщиков, которые работают в иностранных компаниях.

Алгоритм автоматически выбирает даты так, чтобы «прилепить» к отпуску побольше праздников и выходных дней. Так получится отдохнуть подольше, а отпускных потратить поменьше.

Уже запланировали отпуска на 2025?
❤️ — Да, отпуск это святое
🙈 — Нет, этот год бы дожить
😱 — Что такое отпуск?

«Сделать по ТЗ» vs «Решить задачу»
…И почему это разные вещи.

Мы уже рассказывали про кейс, когда несколько раз переверстывали дашборд в погоне за идеалом. Тот материал был для коллег-аналитиков — технический, с погружением в функционал дашборда и тонкости разработки.

Но эта история — больше, чем про нашу безусловно классную работу с Tableau. Это еще и пример того, как надо уметь работать с заказчиком и не просто делать, как сказали, а погружаться в его задачу и искать эффективное решение.

💬 Поэтому для VC мы переиздали этот кейс — без технических деталей, зато про подход к работе с заказчиком и отношение к правкам. Знаем, что тема для многих наболевшая

Читайте и оставляйте комментарии, мы всегда готовы к суровой критике 🔜 https://vc.ru/dev/1651286

Как Discord хранит данные
У мессенджера Discord больше 150 млн активных пользователей и 19 млн серверов, где эти люди общаются и генерируют миллиарды сообщений.

💬 Как компания хранит такой огромный массив данных?
Об этом команда Discord рассказала в блоге проекта. Приводим оттуда самое любопытное.
🔵 Сообщения пользователей хранились в БД Cassandra. В 2017 году было 12 нодов с миллиардами сообщений. В 2022 — 177 с триллионами.
🔵 Сообщения из одного канала хранились в одной партиции и реплицировались на три нода. Такой подход не вызывал проблем с небольшими каналами, зато активные сообщества на сотни юзеров создавали большую нагрузку. В Dicsord это называли «hot partition» — не оригинально, но понятно.
🔵 Ситуацию усугубляло то, что в Cassandra чтение файлов «дороже» для системы, чем запись. Из-за этого «hot partition» могло спровоцировать сообщение, отправленное на всех юзеров в большом канале. Когда они все разом открывали приложение, начинали оставлять ответы и реакции, это приводило к серьезным лагам.

💬 Проблемы из-за «горящих партиций» возникали слишком часто, и команда решила переехать на другую базу — ScyllaDB. Но очевидно, что простая смена базы не решила бы проблему.

🔵 В Discord разработали сервисы, через которые данные просеивались прежде, чем попасть в базу. Если поступало одновременно много запросов к одной и той же строке в базе, сервис аккумулировал и только после этого отправлял в ScyllaDB.
🔵 В итоге она оказалась намного более стабильной и эффективной базой. Данные, которые в Cassandra хранились в 177 нодах, в ScyllaDB уместились на 72.
🔵 ScyllaDB с поддержкой дата-сервисов не уронил даже Чемпионат Мира по футболу. Забавно, что на графиках Discord было хорошо видно ключевые моменты матчей — нагрузка резко возрастала в ответ на каждый гол Месси.

У Discord ситуация не уникальная, но не частая — не так много компаний, которые ворочают такими массивами данных. И все же надеемся, что вы почерпнули из их опыта что-то полезное для себя.

А вы пользуетесь Discord?
❤️ — Конечно!
👾 — Знаю про него, но не пользуюсь
🤔 — После блокировки в РФ перестал(а)
🌚 — Впервые слышу

Экономика open source: сколько денег приносит бесплатный проект
Spliit — приложение для совместного ведения расходов. С его помощью можно вести совместный семейный бюджет или планировать траты в поездке с друзьями. Приложение бесплатное, без премимум-фич и рекламы, а еще требует от создателя небольших, но регулярных затрат ~100 долларов в месяц — в основном на хостинг.

💬 Можно ли при таком сценарии заработать на своем проекте? Давайте разбираться.
Приложению уже несколько лет, но версия, о которой пойдет речь ниже, появилась всего год назад.

🔵 За это время в приложение зашли 152к раз, из них 29к — по ссылке. То есть кто-то создал группу и пригласил в нее друзей или родных. В неделю в Spliit заходят 5000-6000 раз.
🔵 Пользователи создали 15к групп и 162к записей о расходах. В неделю создают в среднем по 300 групп и 2000 записей.

Получается, что пользуются им довольно активно. Так как оно бесплатное, поддержать автора можно донатами — либо через сервис Stripe, либо через GitHub.

Суммы донатов разные — от 6 долларов в месяц до 107, но большинство в пределах от 20 до 40.

Вот такая экономика — кажется, что заработать на бесплатном проекте, исключительно на людской доброте и благодарности, будет сложновато.

А вы донатите любимым проектам?
❤️ — Да
👾 — Нет

LEFT JOIN pinned «»

LEFT JOIN (и не только) отмечает 11.11
11 ноября — день скидок и безумных распродаж, и мы решили, что это прекрасный повод устроить розыгрыш звезд TG.

💙 Чтобы поучаствовать, надо подписаться на три канала — LEFT JOIN, Карьера в Data и Коля Валиотти • Дата консалтинг, а затем ждать объявления победителей 22 ноября.

Призраки ИТ-индустрии
Сколько вакансий по вашей специальности сейчас открыто на hh.ru или на LinkedIn?

А сколько из них реальные? 👀

Последние годы для ИТ-индустрии во всем мире были непростыми. Период роста закончился, и маятник качнулся в другую сторону. Начались сокращения — и бюджетов, и рабочих мест. Эти изменения затронули даже гигантов вроде Google, Apple и остальных — наверняка видели новости про массовые сокращения.

Это привело к любопытному эффекту — росту числа «призрачных» вакансий, которые компании выкладывают на сайты, не планируя никого нанимать.

Как их опознать?
🔵 Вакансия постоянно открыта несколько месяцев.
🔵 Она размещена только на какой-то одной площадке, ее нет на сайте компании, в соцсетях или других сайтах по поиску работы.
🔵 У нее размытое описание и слишком широкая зарплатная вилка (если она вообще есть).

Сайт MyPerfectResume провел исследование, в ходе которого выяснилось:
🔵 81% рекрутеров выкладывали «призрачные» вакансии.
🔵 25% сказали, что это помогло создать у сотрудников ощущение, будто их легко заменить.
🔵 23% признались, что таким образом создавали иллюзию роста компании.

Также оказалось, что некоторые рекрутеры используют фейковые вакансии для нетворкинга и рекламы своих услуг.

Карьерный коуч Джон Ловиг рассказал, что некоторые его клиенты попадали в такие ситуации. Они приходили на собеседование в новую компанию, а HR вдруг заводил разговор о том, что на их текущем месте работы открыто много вакансий, которые он мог бы помочь закрыть.

Это совсем уже наглость, конечно.

В основном исследования или истории, как та, что выше, — про рынок на западе. Но случается это по всему миру, и особенно сильно страдает IT. Хотя знаем мы один канал с вакансиями для аналитиков, где точно такого нет.

А вы когда-нибудь сталкивались с «призрачными» вакансиями?
🔥 — Нет, и был уверен, что это миф
👾 — Да, видел такие
🙈 — Да, сам выкладывал