🗓 27 апреля, 18:00 - срочно сохраняйте себе эту дату, ведь в это время состоится первый учебно-научный семинар по теме "Архитектура LLM-driven приложений"
⚡ Приглашенные эксперты из Исследовательского центра "Сильный ИИ в промышленности":
• Ходорченко Мария - с.н.с.
• Бутаков Николай - с.н.с.
• Захарова Анастасия - инженер
Выступающие сотрудники LISA:
• Никифорова Анна
• Безгин Алексей
Студенты программы «Языковые модели и ИИ»
📚 Обсудим на семинаре:
1. Есть ли общепринятая архитектура для LLM-driven приложений?
2. Имеет ли смысл поднимать LLM локально и встраивать в свой бэк или нужно использовать готовые фреймворки вроде vLLM?
3. Какие бэкенд-фреймворки лучше использовать для работы с LLM?
4. Как распределять нагрузку (или каким образом она распределяется в готовых фреймворках), если модель почти полностью забивает GPU, а пользователей много?
🌐 Семинар пройдет в онлайн формате
Полезные материалы для подготовки к семинару можно найти 🔜тут 🔙
Напоминаем, что на семинар необходимо зарегистрироваться (если не сделали этого ранее)
📝 Если у Вас есть вопросы по теме, то оставляйте их по ссылке выше или в комментариях
Post #78
2.4K

- ❤ 6
- 👌 2
- 👍 1
- 😍 1