Задача — обучение с нуля специализированных моделей на 1B–10B параметров. Основные направления: разработка ПО, понимание сложных русскоязычных текстов и function calling.
Проекты для заказчиков под NDA — подробности обсудим лично.
Задачи:
– Подготавливать данные и выстраивать пайплайны обучения.
– Проводить эксперименты с архитектурами, методами и режимами обучения.
– Обучать модели с нуля и адаптировать их под целевые задачи.
– Оценивать качество моделей, анализировать ошибки и улучшать результаты.
Ожидания:
– Практический опыт обучения языковых моделей: от подготовки данных до оценки результата.
– Опыт аналогичных проектов либо адаптации готовых моделей методами, выходящими за рамки SFT.
– Уверенное владение Python и PyTorch.
– Понимание принципов обучения трансформеров и опыт работы с GPU.
Будет плюсом: опыт распределённого обучения, оптимизации памяти и скорости обучения, работы с моделями для кода и вызова инструментов.
Если у вас есть такой опыт или можете кого-то порекомендовать — пишите @askomaev.
Будет здорово, если кратко расскажете о проектах и своей роли в них.
⚠️Убедительная просьба ознакомиться с правилами безопасности при отклике на вакансии в Телеграме. Последнее время увеличилось число мошеннических схем, когда мошенники прикрываются работодателем
ПРАВИЛА БЕЗОПАСНОСТИ