📖 Со-основатель OpenAI Андрей Карпаты опубликовал 4-часовую лекцию о том, как создать GPT-2 с нуля (!) на Python. Начиная с пустого файла он объясняет каждое действие, включая архитектуру и оптимизацию.

Это ещё не всё — на его Ютуб-канале целый стартер-пак для каждого ИИ-ресерчера!

• Введение в LLM за час
• Как создать GPT Tokenizer
• Как обучить нейросеть
• Интро в Language Modeling
• Как создать GPT с нуля за два часа

Начинаем понедельник с полезного — сохраняем годноту в закладки.

@notboring_tech