Опубликовал статью (скоро добавлю код) про методы предобучения языковых моделей. Оцените и обязательно поставьте лайк!
https://www.kaggle.com/code/vad13irt/language-models-pre-training
Post #35
1.16K
- Aug 21, 2026Все, кто учился DL по слайдам постсоветской матшколы знают про Nesterov Accelerated Gradie…
- Aug 21, 2026Вот сама модификация градиентного спуска: шаг обновления складывается из двух частей — нак…
- Aug 21, 2026Добрый день, друзья! Многие, в том числе и я, упустили достаточно важное событие в сфере м…
- Jul 30, 2026И вот еще одна RL сорева Это RL-обгон? У нас будет 4 подряд соревнования на РЛ. Видимо, по…
- Dec 31, 2024Добрый день, друзья! Вот и подходит к концу 2024-й год — время оглянуться назад и вспомнит…
- Sep 3, 2024Добрый день, друзья! Во-первых, поздравляю всех причастных к началу учебного года. Желаю,…