Про учебники (hard)
Deep Learning Paper Implementations

Аннотированные реализации на pytorch практически всех основных слоёв, архитектур, оптимизаторов и ещё много чего другого. Очень интересно посмотреть на Transfromer, LayerNorm, BatchNorm и Adam. Помимо этого есть 100500 вариантов нестандарных блоков. Можно использовать сайт как материал для подготовки к DL собесам или чтению лекций.

Из минусов. Начиная с какого-то момента они пишут примеры с импортом кода из предыдущих примеров и используют внутреннюю библиотеку. Я на некоторых примерах из середины списка вообще не мог понять что происходит и как это заставить работать. Нет петель обучения и датасетов. В этом большой минус по сравнению с ChatGPT и DeepSeek, которые можно просить научить вас писать слои и они будут давать примеры с петлёй и случайными данными правильной формы.

Ссылка: https://nn.labml.ai/
Github: https://github.com/labmlai/annotated_deep_learning_paper_implementations/

#dl #textbook #pytorch