TGViewer
Channel Public Channel
Data Дзен с Олегом Дмитриевым

Data Дзен с Олегом Дмитриевым

@data_dzen

Закулисье IT: как на самом деле работают аналитики и что скрывают дашборды!

Олег Дмитриев - заведую аналитикой, 5+ лет в IT, пишу о радостях, боли и лайфхаках работы с данными.

BI, аналитика, лайфстайл, саморазвитие !

Сотрудничество :@o_dmitriev1
Subscribers
1.75K
Photos
326
Videos
44
Links
96

Showing posts older than #396 · Back to latest

Older Posts 8 shown
Post #395 536
Дорогие девушки 😎

Поздравляю вас с праздником 🔥
Ваши идеи и энергия двигают целые команды лучше любого пинка.

Продолжайте быть такими же целеустремлёнными и с видением прекрасного.
Да, как показали наблюдения за 5 лет, дизайн у прекрасного пола получается гораздо лучше 💯

У нас ещё два дня отдыха, желаю вам провести их в кругу близких, расслабиться и развеять все внутренние тревоги.

С праздником, дорогие девушки 🩷
  • 👏 5
  • 🎉 3
  • 🙏 3
Post #394 515
Здрасте-здрасте, дамы и господа 👋

Что-то я заработался кардинально. Был уверен, что сегодня уже написал пост, захожу в канал, а пятничной благодарности нету. Это вообще что такое?! Ладно, давайте исправлять. Похвалим себя за подвиги этой недели 💪

Неделя, скажу так, выдалась просто титанической. Однако есть хорошие новости.

Разметка 8 книг: почти финиш

Наконец-то (как мне кажется, я очень сильно надеюсь) я заканчиваю разметку восьми книг, связанных с мульти-персональностью модели (когда в одной модели живут разные «личности»). Это одна из вех, которую я тестирую на своей локальной домашней модели, чтобы избежать галлюцинаций на домашнем железе.

С этой разметкой, казалось бы, сам чуть кукухой не поехал 🤯
Реально, это просто ад. Столько нюансов, которые на старте невозможно учесть. Ты просто по ходу дела набиваешь шишки и стараешься не повторять ошибки.

Сегодня, надеюсь, это была финальная веха, и на следующей неделе я смогу прогнать обучение с обновлёнными фразами, где модель берёт от себя самое лучшее. А самое главное: в ней будут жить две личности, которые противоречат друг другу. Звучит как сценарий к триллеру, но нет, это ML 😁

База знаний: наконец-то запустили!

Ё-моё, три месяца мы её гоняли! Суть простая: нужно было единое место для хранения информации по проектам + коммерческая часть (договоры и прочее).

Тестировали разные гипотезы:
- Хранили в Телеге в групповом чате ❌
- Хранили на Google Диске ❌

Ни одна не сработала. Кто-то когда-то не занёс, кто-то не учёл. Короче, мёртвый номер. Казалось, этот квест не закончится никогда. Решили протестировать базу знаний с поиском по всему массиву. На первый взгляд выглядит неплохо ✅
Будем обкатывать в работе. Надеюсь, не зря трудились так долго.

Почему я молодец?

Я выдержал эту историю с разметкой, уточнениями и не поехал кукухой. Наверное. И наконец-то разобрались с этой грёбаной базой знаний и запустили её в работу. Это ли не повод для радости?

Почему стоит благодарить себя 🤔

Вот даже сейчас. Сел за этот пост прямо с тяжёлым сердцем и взрывающейся головой от мысли, что я всё ещё делаю эту разметку уже вторую неделю. А потом начал писать, что я сделал, что успел, и знаете, вся эта тяжесть отлегла. Стало гораздо легче. Я понял, что сделал так много, а до финальной цели осталось совсем чуть-чуть.

К слову, проанализировал сроки. Думал, может, я дурак, почему так долго идёт разметка. Оказывается, такая разметка порой занимает месяцы, и занимаются ей целые команды. А я один. Так что две недели? Это небольшой срок. Я определённо молодец 😤

Ну ладно, заболтался. А теперь ваша очередь 👇

Расскажите, где вы молодцы? Где ваши подвиги на этой неделе?

@data_dzen 🙂
  • 🎉 7
  • ⚡ 5
  • 🤩 3
  • 👏 2
  • 👨‍💻 2
Post #393 647
Первый босс пройден 😎

Похоже, пора сходить с нашего пути в Excel и перестраиваться на SQL.

С начала года прошли с вами кучу тем и разобрали Excel вдоль и поперёк. По сути, получился мини‑курс, хотя я сам думал, что будет "пара-тройка постов, и всё".

Вот дорожка, чтобы не потеряться:
- Почему EXCEL = БАЗА
- Основные функции для лёгкого старта
- Как красить таблицы автоматически: форматирование
- Чем и как связывать таблицы: ВПР, XLOOKUP, ИНДЕКС+ПОИСКПОЗ
- Что такое фильтрация данных и с чем её едят
- Data Quality: как не допускать мусор в Excel
- Горячие клавиши для работы
- Устанавливаем свежий Office без VPN
- Настройки, чтобы сделать из Excel рабочую аналитическую систему
- Вершина автоматизации: макросы в Excel

Пока собирал подборку, удивился сколько всего набралось 😨

Чтобы закрыть тему и не бросать вас без бонуса, собрал большую статью с графиками и табличками - заходите почитать: [ссылка на статью].

И ещё бонус. Собрал "мини"-методичку… ну как мини, на 17 листов 😂
В ней:
- что учить в Excel и в каком порядке;
- зачем и почему именно так;
- где брать датасеты и какие упражнения делать, чтобы набить руку.

По ней можно спокойно пройтись и подтянуть Excel до уровня "готов к устройству". Файл положу в комментарии.

Добрый путь вышел. Excel даже как-то полюбился - жалко бросать. Но на выходных будем перезагружаться и стартовать в SQL.

Спасибо, что выдержали весь этот маршрут и прокачали Excel. Маршрут целиком по‑прежнему лежит на карте вот здесь .

Буду рад если вы поделитесь постом с товарищами. Информация донельзя полезная и собрана в один котел 😎

@data_dzen 🙂
  • ⚡ 30
  • 👏 9
  • 👨‍💻 8
  • 😈 4
Post #386 699
Убираем рутину из расписания через автоматизацию Excel 😎

Ну вот и подходит наш путь по Excel к завершению. На этой неделе закроем его большой статьёй и шпаргалкой по тренировке.

А пока обсудим золотую жилу для ленивого 🤔

Его анонсировали в 1993-м. А он до сих пор кормит аналитиков в половине корпораций РФ. Речь про макросы.

Макрос - сценарий на VBA, который автоматизирует рутину: чистку данных, сборку отчётов, рассылку, генерацию документов. Всё локально. Без интернета.

Что умеют делать с макросами:
1️⃣ Чистят выгрузку из 1С за 8 секунд вместо 40 минут руками: пустые строки, пробелы, кривые даты, коды → нормальные названия
2️⃣ Собирают сводный отчёт из десятков региональных файлов: макрос сам обходит папки, забирает данные, клеит, считает итоги
3️⃣ Рассылают PDF через Outlook по списку адресатов - открыл, нажал, ушёл за кофе
4️⃣ Генерят сотни счетов/актов по шаблону: цикл по строкам = файл на каждого контрагента
5️⃣ Строят мини-дашборд для отдела продаж: сводная по менеджерам, топы и аутсайдеры, PDF в папку

А зачем вам это? 🤔
Оптимизируем: полдня ручной работы, человеческие ошибки, «ой, забыл Х поле».
Получаем: 2–3 минуты работы машины, предсказуемый результат каждый раз.

Почему в РФ без VBA вообще никуда

В госах, банках, ВПК, промышленности - станции физически отрезаны от интернета. Office Scripts, Power Automate, Copilot - не работают без облака от слова совсем.

VBA - единственный встроенный способ автоматизации в таких контурах. IT-отдел не нужен. Согласования доступов, лицензии на RPA? Забудьте.

Факт: Наша дорогая ФНС с 120 000 рабочих мест годами жила на макросах как основном способе убить рутину. Переход на RPA начали только в 2025-м. Так как им потребовалась работа в браузере и связка с дополнительными программами.

Где засада 🤦‍♂️

1️⃣ Жёсткие диапазоны: записал макрос под A1:F100, через месяц данных до строки 500 - код не обрабатывает новое, а ты уверен что всё ок
2️⃣ Привязка к ActiveSheet: запустил из другой книги - упал или посчитал не то
3️⃣ Нет обработки ошибок: без Option Explicit и On Error код ломается в проде на ровном месте
4️⃣ Обновление Excel/Windows: апдейт ломает старые макросы - от зависаний до ошибок на простых операциях

Лечим динамическими диапазонами, явными ссылками на листы, обработкой ошибок и документацией версий (Да да, той самой которую никто и никогда не хочет вести).
Это решает диалоги вроде:
— "У нас все поломалось, срочно почини"
— "Ну чего вам надо, у меня все работает. Это у вас кривые настройки
"

Аналитик с VBA в закрытом контуре = человек у которого больше половины рабочего дня свободного время на кофе да шутки-прибаутки с коллегами. Ну или вдруг на создание гениального отчета… Главное сильно не кичиться такой автоматизацией, а то боярин нагрузит лишней работкой 😂

Есть ли у вас в практике рутинные действия, что повторяются бесконечно и их можно было закрыть макросами?
Накиньте примеров в комменты
👇
И конечно попробуйте потестить. Вдруг поможет и вам
💯

#Excel

@data_dzen 🙂
  • 👀 30
  • 👨‍💻 21
  • 👏 8
  • 🤩 8
  • ⚡ 7
  • 🎉 7
  • 😈 3
Post #385 544
Пятница пришла, давайте похвалим себя за труды 😎

Обсуждали год → собрали за неделю. Проект по медицине региона, который месяцами ходил по кабинетам, наконец пошёл в разработку 💪

За одну неделю с командой упаковали всё, что растягивали на согласования почти 12 месяцев, и отдали в работу. Ирония в том что разработка займёт меньше времени, чем её обсуждение 😂

Каждый кусочек проекта это попытка упростить жизнь заказчику. Меньше ручного труда, головной боли. Ну и вишенкой на торте: экономия бюджета в перспективе.

22 месяца на закупку, 2 на работу

Gartner считает, что средний цикл государственных IT-закупок — около 22 месяцев. В коммерции 6–7. Разница в три с лишним раза. Свежесть этого исследования неизвестна, но цифры +/- совпадают с реалиями.

ТЗ в госсекторе часто пишут не ради продукта, а ради ГОСТов. Документ на 80–100 страниц. 10% про функционал. Остальное: стандарты, методички, регламенты. А ещё обязательные паузы, заседания комиссий, окна для жалоб, перезапуски процедур. Вот и набегают те самые 22 месяца.

Когда контракт наконец подписан, на реализацию остаётся 2–3 месяца. Отчётность может занимать до 30% объёма работ, потому что документы проходят через 3–4 уровня контроля.

Хотели как лучше, а получилось ...
🤦‍♂️

Система задумана как защита от недобросовестных исполнителей. На деле выкручивает руки тем, кто хочет сделать нормальный продукт.

А вот проблемные компании за счёт сильных юристов и умения работать с формулировками ТЗ нередко отбиваются от контролирующих органов.
Видел я такую конторку. У них в штате даже не было разработчиков, и по итогу при ревью кода выяснилось что каждый раз код писали разные люди. Видимо фрилансеры 😁
Вот такая вот «защита». Коли в компании штат юристов больше, чем специалистов - это первый звоночек.

ГОСТы на месте, а качество.. нуу как повезёт 🤷‍♀️

Государство тратит годы, чтобы подробно описать, как потратить деньги. А потом даёт команде 2–3 месяца, чтобы всё реализовать. Документация ничего не говорит о качестве продукта, зато каждый ГОСТ на месте.

Но мы пробиваемся и делаем то, что нужно людям. И эта неделя, маленькая победа, за которую себя точно можно похвалить 🔥

А теперь ваш черёд. Какие подвиги совершили на неделе?
👇

@data_dzen🙂
  • 🤯 18
  • 🎉 8
  • ⚡ 6
  • 👏 6
  • 👨‍💻 5
Post #378 622
Из Excel в космолет за две надстройки 😎

Excel, которым пользуются в 90% компаний и за глаза ругают, на деле использует лишь каплю возможностей. Данные заливают руками, типы правят вручную, а вопрос «оно само обновится?» вызывает тяжёлый вздох. Потому что две вкладки в меню так и остались нетронутыми.

Расписание у большинства такое: скачал файл, почистил руками, добавил формулы, отправил боярину. Назавтра всё сначала. Послезавтра всё сначала. Скука смертная. 😔
Сорок минут ежедневно на работу, которая должна занимать три клика.

Теперь добавь 2 миллиона строк. Excel упирается в потолок на миллионе строк и ложится. Ок, делишь файл на части. Теряешь связи между таблицами, сводная начинает врать.

А можно включить 2 надстройки и использовать Excel на максимум.
Я познакомился с этими надстройками в 2017-м. Подрабатывал на фрилансе. Сайты на Wordpress да всякая рутина. Прилетает задача. Нужно из 60 толстых excel файлов вытянуть только определённые группы товаров и всё объединить в одном файле. Дали два дня. Попробовал 2 файла руками собрать. Ужас, скучно и нудно. Начал копать сеть, вдруг есть волшебная пилюля. И нашёл Power Query. Чуть повозившись с интерфейсом, я подключил все файлы из папки и собрал целевой файл за 10 минут. Я аж привстал. Ладно, пойдем расскажу, что за звери эти надстройки 💪

1️⃣ Power Query: данные без рук

Он уже вшит. Вкладка «Данные», раздел «Получить и преобразовать». Подключаешь источник один раз, настраиваешь трансформацию, дальше жмёшь «Обновить». Процесс, который занимал час, теперь занимает десять секунд.

Но есть проблемка. Power Query «угадывает» типы данных, глядя лишь на первые 200–1000 строк, зависит от источника. Для CSV хватает 200, для других форматов чуть больше. Но суть одна: если данные неоднородные, числа тихо становятся текстом без единого предупреждения.

Потому чтоб спать спокойно, типы данных всегда проставляй вручную. Не доверяй автоопределению. Да, подольше. Зато потом не надо перелопачивать старые настройки и искать проблему.

И ещё. Не делай один огромный запрос. Всегда в работе используй итеративный подход.
Цепочка работает лучше: отдельный шаг на очистку, отдельный на преобразование. Загрузку — тоже отдельно. Когда что-то сломается (а это случится), найдёшь проблему за минуту, а не за час.

И да, PQ позволяет подключать базы данных напрямую ✅

2️⃣ Power Pivot: Excel без потолка

1 048 576 строк — лимит обычного Excel. Power Pivot держит десятки миллионов через VertiPaq-сжатие (тот же движок, что внутри Power BI). Сам xlsx-файл при этом становится тяжелее, внутрь упаковывается база данных. Зато в памяти данные занимают в разы меньше: VertiPaq сжимает примерно в 10 раз (ну, порядок такой — точная цифра зависит от данных), хранит колоночно, а не построчно. Большие данные летают.

Главное, что там есть — меры. Не лепи всё в вычисляемые столбцы: они считаются всегда и раздувают модель, а мера считается только тогда, когда ты её видишь в сводной, под конкретный контекст фильтра. Разница в разы.

Сердце Power Pivot — функция CALCULATE. Она меняет контекст вычисления. «Продажи без возвратов», «план только по Москве», «что если цена выросла на 10%». Это всё CALCULATE.

Для любителей яблочек (Apple), коим и я являюсь 😁
Power Pivot недоступен на macOS. Да грустно, но как есть. Если в команде есть коллеги на Mac, они просто не увидят этого чуда.

Если у тебя отчёты крутятся вокруг Excel — попробуй эти две надстройки 👇

#excel

@data_dzen 🙂
  • 👏 4
Post #377 607
В 1920-х советский психолог наблюдала за официантами в берлинском кафе. И заметила странную штуку 🤔

Официант помнил каждый незакрытый заказ. Столик 5, два кофе, штрудель. Столик 8, чай с лимоном. Но стоило гостю расплатиться... заказ стирался из памяти.

Блюма Зейгарник потом доказала это в лаборатории: незавершённые дела мозг запоминает вдвое лучше завершённых. Держит в оперативке. Как вкладки в браузере, которые жрут ресурсы.

Мы строим мониторинг для бизнеса каждый день. Метрики, алерты, графики. Трекаем всё подряд. А себя любимых кто трекать будет?

Я начну 😎

На этой неделе накопал информацию по подходу голосовых ассистентов в Алисе и Siri.
Суть такая: есть кольцевой буфер, который перезаписывает фразы, ища в них заветное ключевое слово.
Удобство в том, что не надо ждать полсекунды после активации.
Просто говоришь «Кеша, обнови зависимости в проекте». Он обнаружит ключевое слово и отдаст ассистенту весь набор запросов. Нуу, в теории 🤷‍♀️
На практике пока обкатываю. Потихоньку собираю его )

Ещё собираю разговорные фразы для эмоционального слоя и сарказма, чтобы ассистент был более человечным и мог подколоть 😁

А параллельно провёл просмотры 10 квартир/домов. Не простое это дело. Но чем больше данных для выборки, тем лучше. Нам ли не знать )

Неделька насыщенная.
Поставь 🔥, если хоть раз ловил себя на мысли «я ничего особенного не умею».
И не забудь пройти в комментарии и поделиться успехами за неделю 👇

@data_dzen 🙂
  • 👏 4
Post #376 719
Свежий Office 365 со всеми новинками 2024-2025. Без VPN. За 10 минут 😎

Вчера писал про шорткаты Excel. Ctrl+Shift+V, Focus Cell, всё это работает только в Microsoft 365. На старом Office 2016/2019 этого нет. И не будет. Microsoft прекратила их поддержку 14 октября 2025.

А поставить свежий Office в России тот ещё квест 🤦‍♂️
CDN Microsoft заблокированы, стандартный установщик требует командную строку и ковыряние XML. Кто пробовал, знает.

Я пользуюсь Office Tool Plus. Бесплатная, open-source, с графическим интерфейсом и цифровой подписью.
Не активатор, не вирус. Просто удобная обёртка над установщиком Microsoft.

Далее пошаговая инструкция по установке
👇

1. Скачать
Сайт: otp.landian.vip → Download → версия 64-бит.
Коли сайт не открывается, идём на GitHub: github.com/YerongAI/Office-Tool/releases → файл Office_Tool_with_runtime (~77 МБ). Эта версия с .NET-рантаймом внутри, запускается сразу без доустановки.

2. Запустить
Разархивировать, запустить Office Tool Plus.exe. Программа портативная, установки не требует.

3. Снести старый Office (если нужно)
Стоит C2R-версия (Office 2016-2024 click-to-run)? OTP обновит поверх, настройки сохранятся. А вот MSI-версия (Office 2010/2013 из .msi) — сначала удалить. В OTP: раздел «Инструменты» → «Удаление Office». Сносит всё, включая хвосты.

4. Настроить продукт
Вкладка «Развёртывание». Блок «Продукты» → «Добавить продукт» → Microsoft 365 Apps for Enterprise.
Проверь чтоб у продукта была подпись Retail.

Нужен Visio или Project? Добавляешь отдельно, они не входят в 365.

5. Платформа и язык
64-бит для современных ПК. Язык ставь русский. Хочешь английскую проверку правописания, добавь Proofing Tools отдельно.

6. Убрать лишнее
По умолчанию ставится всё: Access, Publisher, Lync. Сними галочки с того, чем не пользуешься. Чем меньше, тем быстрее.

⚠️ 7. Сменить установочный модуль ⚠️
Это главный подводный камень. В настройках замени «Office Deployment Tool» на «Office Tool Plus». Без этого в России загрузка зависнет или выдаст ошибку.

8. Канал обновлений
«Актуальный канал» (Current Channel) - новые фичи приходят первыми.
Хочешь стабильности - «Ежемесячный корпоративный» (Monthly Enterprise).

9. AcceptEULA
Включи галочку автопринятия лицензионного соглашения. Иначе при первом запуске Word вылезет окно «Примите соглашение» и не пустит дальше.

10. Развертывание

Жмёшь «Развернуть». OTP сам скачает и поставит. Минут 5-10 в зависимости от скорости интернета.

⚠️ 11. Активация через Ohook ⚠️
Office установлен, но не активирован. Открываем PowerShell от администратора (Win → «PowerShell» → правой кнопкой → «От имени администратора»). Вводим:
irm https://get.activated.win | iex

В меню выбираем 2 (Ohook) → затем 1 (Install). Готово. Активация перманентная, не слетает при обновлениях Office и Windows. Забудьте про KMS и продление каждые 180 дней 🔥
Скрипт open-source, код на GitHub.

Итого: 11 шагов, 10 минут, свежий Office 365, Focus Cell и всеми шорткатами из вчерашнего поста.

Какая версия Office у тебя сейчас? 👇

🔥 - Microsoft 365
👍 - Office 2021/2024, коробка
🩷 - Старый добрый Office 2016/2019
👀 - Понятия не имею, надо проверить

#Excel

@data_dzen 🙂
  • 👏 10
  • 🎉 10
  • 🥰 9
  • 👌 9
  • 👀 8
  • ⚡ 7
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →