Как создать свою ИИ-модель 😋

Любой человек с ноутбуком уже сегодня может собрать собственную LLM — буквально с нуля, без мощного железа и без учёных степеней. На GitHub появился бесплатный курс из 6 частей. Автор вдохновлялся nanoGPT Андрея Карпатого, но упростил всё до предела: модель на 10 млн параметров обучается меньше часа прямо на вашем ПК.

Путь выглядит так: сначала учим модель «читать» текст через токенизатор, потом строим трансформер с механизмом внимания, настраиваем цикл обучения и в финале запускаем генерацию. Шестая часть — соревнование: кто натренирует лучшего ИИ-поэта на Шекспире.

Главная ценность — не сама модель, а понимание того, как работают ChatGPT, Claude и все остальные под капотом. Если будет сложно — все можно уточнить у ChatGPT. Да и код на Python тоже на него грузите.

Если думали, как полезно провести время на майских — это оно 😘

@creativethecreator