ИИ ускоряет создание чипов для ИИ
OpenAI использовала собственные языковые модели при разработке ускорителя Jalapeño. От концепции до первых чипов — менее 20 месяцев, от первого описания логики до передачи проекта в производство — девять. В среднем команда OpenAI насчитывала менее 100 человек, без учёта специалистов Broadcom, отвечавших за физическую реализацию. Подробности — в IEEE Spectrum.
Интересен сам подход. Инженеры описывали работу схемы кодом, близким к обычному программированию. LLM помогали с этим кодом, а открытый инструмент XLS преобразовывал его в описание цифровой схемы. Так навыки языковых моделей в программировании удалось использовать для разработки аппаратуры.
Два результата, которые приводит OpenAI:
• На 10% уменьшилась площадь блоков матричного умножения относительно уже оптимизированного инженерами варианта.
• Примерно за 40 часов оптимизации программного ядра внимания DeepSeek его производительность выросла с 0,31% до 88,94% теоретического предела. Речь о конкретном вычислительном тесте.
Архитектурные решения и окончательный контроль оставались у инженеров. Существенную роль сыграли опыт и инструменты Broadcom.
Вот так и выглядит петля постоянного ускорения: ИИ помогает быстрее создавать вычислительную инфраструктуру для следующего поколения ИИ.
Практический урок для R&D — перестраивать инженерный процесс так, чтобы модель могла предлагать варианты, получать результаты проверок и снова улучшать решение. Конкурентным преимуществом становится число проверенных гипотез за единицу времени.
Post #6609
659