Твой глупый менеджер

Повержен первый босс LLM инфраструктуры

За вчера запроцессил >1B=1000M (input+input cached+output) токенов на своей ферме:

> 50M токенов это среднее потребление на 1 разработчика

1. Используется consumer и начальное-серверное железо
2. Используется открытое ПО и набор собственных патчей в разный open source
3. Используется в коммерческой работе

От самого первого шага до 1 миллиарда за сутки почти год заняло. А путь от 100М до 1B за 1.5 месяца.

Чего только не было:

- Буквально горящие розетки🔥 и множество выбитых пробок
- Перегревающиеся видеокарты, сбои микросхем на SSD, RAM
- Баги в BIOS, "обходы" enterprise лицензий, чтобы активировать нужный флаг оборудования
- Продолжительный тюнинг китайского софта и изучение глубин скрытых параметров
- Реализация собственного балансера трафика для LLM

Как это было теперь хочется рассказать. И показать как эти сотни миллионов обработанных токенов работают в фабрике фич (HADI+SDLC).

Скованы одной цепью

Применяя самостоятельно и наблюдая за внедрением ИИ в корпоративные процессы, становится уже смешно в голос от заверений, что объем итогового продукта вырастит. На 15%, на 20%, на 200%.

На бумаге выглядит хорошо: тысяча сотрудников, в среднем каждый ускорится на 10%-50% и построим Эдем. Только ведь в корпоратах (хороший) продукт это случайность (иногда оплошность топов) и от объема кода, картинок не зависит.

ИИ радостно создаст хоть сто страниц ТЗ, похвалит за любую идею. А вот куда, зачем двигать компанию и как эти кожаные мешки будут этому сопротивляться - это решать человеческим устаревшим (да?) био-мозгом.

Может эту рутину и не надо делать?

До того как логику ИИ начали проверять через вопрос как пить из стакана, у которого верх закрыт, а дно имеет дырку. На физфаке и мехмате хихикали с другого:

- Есть ковшик, как нагреть воды?
- Налить воды в ковшик, поставить на плиту, подождать. Готово.
- Есть ковшик с водой, как нагреть воды?
- Вылить воду. Задача сводится к предыдущей. Готово.

Потратив силы и научившись делать одно действие, нам проще сводить задачи к этому действию. Научились графоманить — пишем тонны текста, научились кодить — колбасим код, не задавая вопросы.

Хорошо иногда остановиться (а может и нажать резко на тормоз) и задаться вопросом — не выливаю ли я воду из ковшика перед тем как погреть воды. Может вообще то чем занимаюсь делать не надо?

Эффект протеже

На освоение темы нужно время и усилия, а еще у каждого свой набор интересов, компетенций, опыта. Так что "ты что не умеешь?" - это скорее язвительный вопрос, чем мотивирующий что-то изучить. Взрослый уже знает, что навык - это долго/дорого/непросто. Достаточно симулировать.

Вот только без нужных навыков у себя и команды далеко не уедешь. Я ведь глупый, так что просто прошу у коллеги помощи с какой-то темой, прошу пересказать, прошу запустить online демо. Может даже "помучай гопоту (gpt) и расскажи подходящий к нашей ситуации вариант" и пока коллега структурирует, формулирует, часть знаний фиксируется в голове.

Этот эффект, эффект обучения через преподавание можно применять и для себя. Пока рассказал какую-то тему во время обучения, понял, что сам не понимаю некоторых деталей. Читаешь, думаешь, пишешь, проговариваешь и заметно глубже начинаешь понимать. И коллеге помог пройти путь в 5 раз быстрее, и свой интерес удовлетворил.

Прыгнуть через лужу не значит перепрыгнуть

Вспоминая известную визуализацию распространения инноваций, хорошо помнить, что после новаторов и ранних последователей идёт пропасть. И те кто, позволили запустить трансформацию, сменяются на прагматиков и скептиков.

Сейчас я завершил первый этап создания нового продукта (расскажу потом), получил удовлетворение и первые положительные отзывы.

А переходя к следующему этапу готовлюсь ещё больше - ещё больше тренируюсь рассказывать и "продавать". Иначе только 15% от всей аудитории будут пользоваться продуктом.

Трансформация опытных калачей

Сложность (продуктовой, технической, etc) глобальной трансформации компании находится в части применения стандартной (или адаптированной) модели на тех, кто уже таких трансформаций пережил штук 5. От этого уже умеют ничтожными усилиями выполнять минимум, а работать дальше по своим процессам.

Agile/Kanban/ITSM/12 factors/Cloud native... сотни инициатив, которые могут улучшать предсказуемость, экономичность, простоту эксплуатации и конечно же, поменять орг. структуру на бумаге для красивых отчетов. А сами команды по прежнему будут не интересоваться почему дебажить на проде с открытой на весь мир базой - не очень идея.

Руководителю хорошо помнить, что сотрудники хотят просто получать зарплату, не напрягаться совсем да и раз в год себя проявить, чтобы похвалили. Трансформировать и вести в будущее с учетом этого или только на бумаге - уже сам решит.

Из уст в уста

Уже в средней по размеру компании легко найти ответственного за "включение кондиционера" и отдельного за "выключение кондиционера" (подставьте свой вариант небольшой задачи).

Как говорят, если ответственны все, то значит никто. И поэтому на каждый чих должен быть закреплен ответственный. Так и получается, что чтобы сделать простое дело, нужно ЗНАТЬ человека. Не роль, а человека.

Причем, что делает этот человек и как - мало кто может сказать. В основном, если тебе нужно Х, то иди к K. И эти тайные знания нигде не оформляй! (я оформляю)

(не) Работать на работе

Казалось бы, достигли дна, но снизу постучали - это хорошее описание для погружения руководителя в тему управления людьми.

Зарплата, ИПР (Индивидуальный план развития), OKR, KPI, бонусы и премии кажется могут мотивировать сотрудников развиваться, достигать результаты и вообще работать. Редко.

В компаниях, где нет управляемой ротации по результатам года/квартала - сотрудник легко запоминает где находится офис и просто ходит на работу, симулируя развитие (ИПР помогает) и желание (см. любовь к созвонам в большинстве компаний). Годами развивая личную жизнь и получая свою ЗП с минимумом вовлечения.

Гигиенический минимум для созвона

Как обеспечивать гигиену не является знанием и навыком по умолчанию. Ему учат детей в зависимости от среды. С созвонами также.

Заголовок в формате цели встречи для события в календаре, понятное и короткое описание, чтобы понять необходимость посещения. Минимальный состав участников (больше 5 человек уже много для обсуждения) и *рабочая* ссылка на место созвона. Это уже улучшит созвон.

А если вначале встречи снова повторить цель встречи, описание и высказать ожидания - то уменьшится вероятность обсуждать погоду. Слова фасилитация и конструктивное общение - для продвинутых.

Понятие габитуса. Михаил Соколов
https://youtu.be/QnBMR5a3v8o

Широкий кругозор, T-shape, M-shape, помогают руководителю выбирать хорошие варианты решения проблем. Термины, аналогии и навыки из смежных и не очень сфер.

В рассказе, Михаил, рассказывает о габитус (habitus) в контексте социологии. Это ситуация, когда человек свое поведение подстраивает под окружение и следом действует исходя из этого окружения.

Например, проактивный сотрудник в новой компании начнет работать исходя из "привычек" (писать внятно задачи, фасилитировать встречи), пока не осознает, что существующая команда живёт по принципу "тише воды, ниже травы" и этого достаточно. И тогда уже новый сотрудник тоже перестанет вкладываться.

#видео

Отказы - как часть работы руководителя

Руководитель желая хорошего, делает неприятно тем, кто не хочет изменений. И отказы, да и эмоциональные отказы - это часть деятельности.

Готовиться перед каждым созвоном нужно, не сколько собирать аргументы и факты вместе, а скорее изучать собеседника и что он хочет услышать. Работать над формой.

Типизация по Адизесу или Ливтаку даёт хотя бы какой-то способ для поиска нужных фраз. Правила конструктивной конфронтации тоже полезны.

Посмотреть на себя глазами владельца

Совместный труд людей создает множество коммуникационных задач. Да что там коммуникации, люди склонны к такому списку когнитивных искажений, что можно удивиться, как можем о чем-то договориться :)

От руководителя не ожидается, что будет найден магический способ решения всех этих задач. Достаточно, чтобы коммерческая компания дальше приносила прибыль и не создавала головняка вышестоящим руководителям и собственнику. А то, что подчиненным не хочется, не интересно, да и вообще фигня все это и зачем какие-то границы ответственности и процессов фиксировать - это лишь проблема конкретного руководителя и его геморрой "провернуть" шестеренку механизма.

Публичная финансовая отчетность компании и стратегия компании на N лет - хороший способ понять, как смотрит владелец компании на результаты руководителей. Удержания конкретного сотрудника там нет.

Как правильно задавать вопросы

Хорошо сформулированный вопрос содержит основу для качественного ответа. Иногда и сам ответ (см. Метод утенка)

Есть классический материал про составление хороших вопросов https://sitengine.ru//smart-question-ru.html

Это руководство из эпохи форумов, описывает правила этики общения в Интернет, конкретные рекомендации и примеры составления вопросов. Для StackOverflow, ChatGPT тоже работает.

#классика

Копировать - это способ

Руководители, особенно бывшие программисты, чаще замечаются в попытках управлять в своем стиле, придумывать свое решение уже давно решённых проблем.

Не разобраться в известной методологии и убрать лишнее для конкретного случая, а придумать свою методологию. Не разобрать смысл термина, а придумать свое. Не брать известные инструменты под свой случай, а создать их.

Копировать, осмыслять и переосмыслять существующее - не зазорно. Руководитель не философ, который двигает мысль человечества вперёд, а тот, кто мысль человечества с минимальными трудозатратами применяет для конкретной ситуации.

Система онбординга комфорт-класса. Евгений Антонов
https://youtu.be/7zrRzELnr8U

Онбординг, как процесс ввода сотрудника в рабочий процесс, строится на "исторически сложившиеся" знаниях компании. Однако, значимую часть можно без опаски скопировать у другой компании.

Евгений Тимлид очевидность @general_it_talks рассказывает откуда возникает потребность строить воспроизводимый путь новичка. Показывает, почему не получается дать ноутбук в зубы и сказать "ну давай, успехов, джира там".

Хороший обзорный доклад для тех, кого беспокоит атмосфера внутри своей команды и хочет побыстрее получать пользу от новых сотрудников, да и меньше тратить сил на однотипные вопросы.

#доклад

Календарь корпоративного зла

Синхронная коммуникация в виде созвонов - необходимое зло, которое ходит под руку с руководителем.

Найти собеседников, согласовать удобное время, написать легенду встречи, провести, отослать резюме встречи. Все начинается с поиска общего времени и корпоративная почта + календарь (на базе Outlook, Google Workspace, etc) сверх удобная комбинация для этого.

Корпоративный календарь дает возможность в 2 клика посмотреть в общем каталоге расписание всех участников созвона, автоматически предложить удобное время и согласовать через письмо. Без "когда сможешь?" и ручного перебора calendly.

Мастерство презентации. Алексей Каптерев

Рассказы, истории, притчи, байки - форматы, которые помогают предоднести мысль, контекст. Руководителю неплохо иметь в своих инструментах такой навык - storytelling.

Книга Мастерство Презентации от https://www.kapterev.com/index.html как раз про это. Половина красивой и приятной книги (в данном случае физическая книга лучше) про навык формулирования мысли, про ее рассказ. Вторая половина про визуализацию мысли в виде слайдов.

Слайды, документация, демо - постоянные спутники руководителя. И их можно превратить в очень интересный процесс для себя и для будущих слушателей.

Первые глупые вопросы к команде

Тяжело планировать строительство космических кораблей, пока штанина в дерьме. Так чувствую себя в новой команде, которая не имеет описания самой себя и того как она работает.

Как называется команда, что делает, кто участники, где общаются (средство связи) и как, где планируется работа и где посмотреть задачи - не полный перечень такой вводной документации. Не встречал команд/департаментов, которые могут показать ответы на все эти вопросы.

Руководитель, как раз тот, кто может задать такие "глупые" вопросы (не погрязнув в самих вопросах) и затем рассказать ответы всем в команде. Лица удивления от "новой" информации не передать.

Эмпатия руководителя

Эмпатия, как способность воспринимать чужое состояние, помогает руководителю вовремя осознать проблему в команде, обработать без больших последствий. Выразить такое соучастие.

В компаниях, часто, эмпатию воспринимают, как "залезть в чужую личную жизнь". Спрашивать про семью, про детей, поздравлять с ДР (и даже собирать с других деньги для этого), делать корпоративы принудительно добровольными и с давлением на сотрудника.

Достаточно начать слушать, без агрессивного ожидания когда наступит ваша очередь говорить. Сотрудник сам эмоциями и словами даст ответы.

Организация сложных алертов. Андрей Привалов
https://youtu.be/J0_s5YX8uLg

Крупные компании имеют не только большую инерцию к изменениям, но и большие ресурсы. Где мелкий стартап использует самые современные практики as is, крупняк извлечет три дополнительных смысла и получил дополнительный миллиард в деньгах.

Андрей показывает в докладе такой сценарий. Компания столкнулась с задачей организацией комплексного мониторинга своего продукта. Изучили инструменты на рынке, добавили свои требования и в итоге создали свой инструмент для решения такой задачи.

Доклад хорош идеей, что даже на трижды решённой проблеме можно создать свой продукт и продать своим же клиентам дважды. И заработать.

P.S. Сам инструмент ещё сырой.

#доклад