Сходил вчера на DataFest Siberia 7 и рассказал опыт первого года с собственной ИИ инфраструктурой

Получился доклад-кейс о том, как с первого токена добрался до миллиарда в сутки. Как выйдет видео - поделюсь.

Давно публично не выступал, при подготовке прям мозг скрипел, чуть атрофировался навык story telling.

1 миллиард токенов это только начало, поэтому думаю собрать рассказ и про текущее состояние: патчи движков, моделей, хитрые конфиги.