Последнее время мы в Spectr часто стали консультировать по поводу ИИ-инфраструктуры.

И там прямо большой пласт разнообразных и сложных вопросов, а экспертизы в рынке пока довльно мало (попробуйте, например, найти MLOps к себе в штат). Там и вопросы выбора подходящих моделей, расчет экономики инференса, подбора серверов под задачи, их эксплуатация и администрирование, особенности облачных провайдеров и много чего еще.

Это я к тому, что тема интересная и актуальная и мы будем чаще делиться контентом по ней.

Сейчас, например, активно готовим 2 больших текстовых материала по оптимизации производительности при инференсе. А еще скоро анонсируем вебинар на эту тему 🔥

P. S. Кстати, если у вас есть задачи по ИИ-инфре — приходите, поможем!