🚀 Как обучить модель на тысяче GPU?

Обыкновенно в курсах по машинному обучению рассматриваются модели, для обучения которых требуются ресурсы одного сервера (1 или несколько графических карт). Но современные LLM, foundational модели требуют колоссальное количество вычислений на огромных кластерах.

По словам Ильи Суцкевера совсем недавно закончилась “эпоха масштабирования”, ознаменовавшаяся экспоненциальным ростом числа параметров моделей. В этот период были разработаны ключевые концепции для масштабирования вычислений на GPU, которые мы рассмотрим на грядущем вебинаре “Параллелизация обучения модели на сотни GPU”. Интересно, что на сегодняшний день данные методы применяются не только для обучения, но и для применения больших моделей.

🎙 Спикер: Владислав Гончаренко – автор курса MLOps программы MSAI и основатель girafe-ai
📅 Когда: 20 июля (понедельник)
🕖 Время: 19:00 (МСК)

На вебинаре обсудим:
• три базовых способа масштабирования
• соединим их в 3D scaling для получения максимальных возможностей
• в каких системах они реализованы
• как вы можете использовать их сегодня
• спикер ответит на вопросы участников

Вебинар будет полезен ML-инженерам, исследователям, студентам и всем, кто хочет глубже разобраться в инфраструктуре обучения современных AI-моделей.

👉 Вебинар бесплатный, необходима предварительная регистрация