Под капотом больших моделей: NPU, RL и претрейн с нуля!

5 сентября пройдет deep tech night - событие Яндекса о технологических вызовах в эпоху AI. Будут обсуждать темы на стыке AI, разработки, инфраструктуры и данных: как перестраивается разработка, инженерные процессы, роли и подходы к постановке задач. 

Мо Гавдат, ex-Chief Business Officer, Google X выступит с темой - За пределами LLM: что дальше после первого поколения AI-систем. С упором на то, как будут эволюционировать инженерные команды и какие вызовы их ждут.

Мы выбрали три доклада, которые хотим послушать больше всего:

🔧 Инфраструктура RL-обучения, - выступит Иван Сапожков, руководитель группы базовой ML-инфраструктуры в Яндексе. Расскажут, как RL для больших моделей искать баланс между алгоритмами и производительностью.

🔧 Влияние трендов развития нейросетей на архитектуру NPU и инференс-фреймворки, - расскажет Егор Филимонов, лидер команды по ускорению инференса на NPU в SGLang. Обсуждать тему будут на примере архитектуры Ascend и портирования SGLang.

🔨 Волна по запросу в Люмене, - с докладом выступит Александр Сафронов, руководитель отдела ML и AI в Яндекс Фантехе. Рассмотрят архитектуру модели, которая умеет строить персональную Мою волну по запросу пользователя.

👩‍💻 Зарегистрируйтесь, чтобы подключиться к эфиру, задать вопросы экспертам и получить запись. Программа и офлайн-участие на сайте.