Евгений работает в финтех-компании, рынок которой сосредоточен в Саудовской Аравии и ОАЭ. Он прошёл путь от классического DevOps (Linux, Kubernetes, Terraform, Ansible, CI/CD) до архитектуры AI-инфраструктуры. Сегодня он руководит командой AI/ML/Ops-инженеров, отвечает за роадмап LLM-инференса и при этом остаётся hands-on специалистом, который искренне любит работать в терминале. В его зоне ответственности — bare-metal GPU-флот, инференс-платформа и платформа данных вокруг них.
В докладе Евгений разберёт практический кейс: как регулируемый финтех построил собственную GPU-инфраструктуру для LLM-инференса. Требование регулятора — данные не покидают регион, поэтому self-hosted был не выбором, а условием задачи. Евгений покажет, какую архитектуру построили, какие ошибки совершили по пути и что из этого стоило дороже всего. В программе: реальные модели, квантизация, деплой, системный роутинг и честные бенчмарки на реальном продакшн-трафике.
Главная экспертиза Евгения — перенос DevOps-практик (автоматизация, observability, воспроизводимость, надёжность) в AI/ML- и data-инфраструктуру. Сегодня это внутренняя платформа: любая команда в компании может перейти на локальные модели, не занимаясь железом и инференсом самостоятельно.
🎟 Покупайте билет на себя или компанию — мощная программа, полезный нетворкинг и буст ваших навыков гарантированы.
@devopsdayskz