ИИ засунули в коллайдер

Большой адронный коллайдер (БАК) генерирует 40 000 эксабайт сырых данных в год. Это примерно четверть всего интернета. Хранить такое невозможно, поэтому 99,98% данных выбрасывают и только модели решают, что оставить практически в реальном времени, за наносекунды.

Тея Аррестад из ETH Zurich рассказала на Monster Scale Summit, как это устроено. Столкновения протонов происходят миллиард раз в секунду. Каждое дает несколько мегабайт. Буфер на детекторе составляет 4 микросекунды, потом данные пропадают навсегда.

▪️ Первый фильтр: тысяча FPGA, которые за 50 наносекунд решают, сохранить событие или выкинуть. Алгоритм называется AXOL1TL (да, как аксолотль). Из миллиарда событий в секунду оставляет 110 тысяч.

▪️ Второй фильтр: 25 600 CPU и 400 GPU. Просеивает до тысячи событий в секунду. Итого петабайт в день. Это то, что физики реально анализируют.

Никакие стандартные ML-фреймворки тут не работают. CERN написал свой компилятор HLS4ML, который транслирует модели в прошивки для конкретных FPGA и ASIC.

Архитектура "железа" на первом уровне не фон-неймановская. В классической схеме процессор и память разделены, данные бегают между ними по шине, инструкции выполняются последовательно. Здесь все наоборот: вычисления происходят прямо на чипе в момент поступления данных, без обращения к внешней памяти. По духу похоже на то, что делает Groq со своим LPU, только еще радикальнее: каждая FPGA прошита под конкретную модель, а вместо вычислений в реальном времени чип просто берет готовый ответ из таблицы. Как если бы вместо компьютера использовать книги математических таблиц, где все вычисления уже проделаны. Каждый слой FPGA является отдельным вычислительным блоком.

В конце года БАК остановят для апгрейда, а в 2031 запустят обновленную версию с более плотными пучками. Поток данных вырастет с 4 до 63 Тб/с. Размер события увеличится с 2 до 8 МБ.

Пока фронтирные лаборатории соревнуются, у кого модель толще, в CERN занимаются ровно противоположным: делают ИИ меньше и быстрее. Потому что когда у тебя 50 наносекунд на решение, трансформер на триллион параметров не поможет.

@anti_agi