Делимся записью вебинара о том, как самостоятельно запустить открытую языковую модель в Google Colab и начать работать с ней без подписки на коммерческие сервисы и собственного мощного GPU.
На вебинаре разбираем:
▫️ чем открытые LLM отличаются от закрытых моделей
▫️ как выбрать модель с учётом доступных вычислительных ресурсов
▫️ как запустить Qwen через Hugging Face Transformers
▫️ зачем нужна квантизация и как она снижает требования модели к памяти
▫️ как управлять генерацией с помощью системного промпта, температуры и других параметров
🎙 Спикер: Марк Блуменау, преподаватель ФКН НИУ ВШЭ, специалист в области машинного и глубинного обучения, лучший преподаватель НИУ ВШЭ 2025 года.
Смотреть 👈
