👨💻 Последние полгода на работе были достаточно ... потрясающими. Уже как ~1,5 года я занимаю позицию тимлида команды DevOps на текущем месте работы. За это время мы с командой добились колоссальных успехов и произвели реформу нашей работы (наладили дежурства / улучшили процессы и для инженеров и для бизнеса / собрали команду). Детали позже.
Однако, я решил уйти с этой позиции в роль инженера в этой же команде DevOps, в связи с культурными особенностями. Это было неудобное и трудное решение лично для меня, но именно так и должен поступать управленец - уметь принимать сложные решения в моменты неопределенности, когда простое ожидание перестает быть эффективным. Я приобрел драгоценный опыт, о котором расскажу позже.
А теперь мое любимое: эксперименты и с ИИ и железо))
👨🔬 Закончил тесты локального ИИ на бюджетных решениях (материнские платы + процессоры + самые дешевые видеокарты). Спойлер: есть там жизнь, статью уже пишу.
Прикрепляю график результатов теста модели gpt-oss-120b, на нем видно какой профит дает добавление видеокарт в смешанный инференс на CPU + GPU.
🏭 Пересобрал свой стенд для локального ИИ на каркас для майнинга и заменил материнскую плата на Asus ROG STRIX X399-E GAMING + AMD Ryzen Threadripper 2920X. Видеокарты подключил через Oculink'и. Скорость инференса выросла до 150т/с на
gpt-oss-120b. Видео прикрепляю.А после
Райзеры уже едут, а на выходных буду менять термоинтерфейсы на двух видеокартах.
👾 Осваиваю
GPT 5.2 Chat в пользу локальной Gemma.🎥 А тем временем видео
Сборка домашней ИИ лаборатории на базе дешевых комплектующих для майнинга наборало уже ~65к просмотров и более 2к лайков, подписчиков на канале в 2 раза больше чем здесь в ТГ. Удивительно как все может перевернуться))
Видимо действительно актуальная тема.
