Итак, видос с обещанного мастер-класса про большие предобученные языковые модели: https://youtu.be/KRiUvBEwmmU
3:52 про автора
5:41 примеры и типы задач NLP
15:00 логистическая регрессия, мать всех нейросетей
33:28 проблема переобучения: почему просто больших моделей мало
43:45 эмбеддинги как простейшая предобученная модель
1:02:00 контекстные эмбеддинги
1:10:43 философия transfer learning
1:25:37 задумка и устройство BERT (и вообще трансформеров)
1:42:16 насадки на BERT для разных задач
1:52:24 блокнот с NER на BERT
2:16:28 GPT - универсальный генератор текста
2:21:13 блокнот с генерацией из GPT твитов и диалога
2:28:21 для каких задач нужна генерация текстов
2:29:35 методы управления генерацией
2:32:55 полезные ресурсы и ответы на вопросы
Пишите в комментах, на какие ещё темы хотели бы похожего контента!
Post #217
867