Идея проста, но мощная: агент может запускать до 100 ML-экспериментов за ночь на одном GPU. Он сам пишет код, запускает обучение, анализирует результат, улучшает архитектуру и сохраняет только то, что работает.
Роль человека в этой системе минимальна.
Всё, что нужно поддерживать - один файл `program.md`, в котором описана стратегия исследования:
что исследовать, какие идеи приоритетнее, какие компромиссы важны.
Агент читает этот файл, рассуждает над ним и сам решает, какой эксперимент запускать следующим.
Как работает система:
- автономный git-цикл — агент коммитит каждое улучшение
- каждый эксперимент длится ровно 5 минут, чтобы сравнение было честным
- оптимизируются архитектура, гиперпараметры и оптимизатор
- человек редактирует стратегию
- агент редактирует код
- всё работает на одном GPU
Главная мысль проекта:
узкое место в AI-исследованиях - уже не вычисления, а идея эксперимента.
В autoresearch этим bottleneck становится всего один файл -
program.md.github.com/karpathy/autoresearch
🐍 Python полезные ресурсы 🚀Max
@pythonl