Команда из ByteDance и Tsinghua University представила CUDA Agent — систему на базе ИИ, которая генерирует оптимизированные CUDA-ядра (вычислительные блоки для видеокарт).
Суть прорыва: Раньше ИИ мог написать корректный CUDA-код, но он часто работал медленно. Новая система CUDA Agent с помощью reinforcement learning (RL) учится оптимизировать код, учитывая такие «железные» метрики, как использование потоков (warps) и память.
📊 Результаты говорят сами за себя:
• На простых/средних задачах: в 2 раза быстрее, чем
torch.compile.• На сложных ядрах (Level-3): на ~92% быстрее, чем
torch.compile.• В самых трудных тестах: опережает мощные модели вроде Claude Opus 4.5 и Gemini 3 Pro примерно на 40%.
🔧 В чём секрет? Фундаментально новый подход к обучению
Вместо стандартного обучения на текстах программ, CUDA Agent использует обучение с подкреплением (Reinforcement Learning), где награда зависит от реальных показателей производительности на GPU: использования потоковых мультипроцессоров, пропускной способности памяти и т.д.
🔧 Как это работает? Трёхкомпонентная система:
1. Генерация данных: Создание разнообразного набора задач (датасет CUDA-Agent-Ops-6K) из комбинаций операторов PyTorch.
2. Среда разработки: Интеллектуальный агент работает в цикле «написание -> компиляция -> профилирование -> оптимизация».
3. Обучение с подкреплением: Модель получает награду не за компилируемость кода, а за реальное ускорение выполнения на GPU.
💎 Вывод:
CUDA Agent — серьёзный шаг к автоматизации низкоуровневой оптимизации. Модель учит не синтаксис, а «аппаратную интуицию», открывая путь к полностью автономным системам, которые могут выжимать максимум из современного железа.
Статья | Сайт | GitHub | HuggingFace
#КитайскийИИ #КитайAI #CUDA