🔥 Новый research от ByteDance показал, как ИИ научился писать CUDA-код для GPU лучше стандартных компиляторов.

Система генерирует кастомные низкоуровневые компоненты, которые могут работать до 100% быстрее, чем решения, созданные традиционными автоматическими инструментами оптимизации.

Проблема в том, что программирование под AI-чипы и GPU невероятно сложное. Разработчик должен идеально управлять памятью, потоками и математическими операциями, иначе производительность резко падает.

Исследователи решили это так:
они дали LLM безопасную среду для экспериментов, где модель может:

- писать CUDA-код
- запускать тесты производительности
- анализировать результат
- улучшать код через цикл проб и ошибок

Поскольку обучающих данных по такому низкоуровневому коду почти нет, систему заставили генерировать тысячи новых тренировочных задач, комбинируя базовые математические операции.

При этом награда выдавалась не просто за правильный результат, а только если код выполнялся значительно быстрее существующих решений.

В тестах против:

- коммерческих моделей
- встроенных оптимизаторов компиляторов

этот агент регулярно находил неожиданные оптимизации, которые ускоряли работу GPU.

Главный вывод исследования:

LLM могут не только писать код, но и создавать оптимизации на уровне железа, находя такие способы ускорения, которые люди и компиляторы часто пропускают.

arxiv.org/abs/2602.24286