Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений.
Сегодня расскажу, как мы оптимизируем инференс больших языковых моделей.
➡️ Больше кейсов и подробностей в статье на Хабре.