💡 Похоже, следующая гонка AI будет не только за GPU, но и за оптику.

Китайские исследователи из Пекинского университета показали систему оптических межсоединений между обычными AI-чипами.

Самое интересное здесь не сам чип, а то, что данные между ускорителями начинают передаваться светом, а не электрическими сигналами.

Результат впечатляет:

до 100× ускорение распределенного inference для некоторых задач;
примерно в 9 раз меньше вычислительных ресурсов требуется для достижения той же производительности;
при этом используются стандартные электронные процессоры — меняется именно способ их объединения.

Это отлично ложится в общий мировой тренд.

Сегодня узким местом AI-кластеров становятся уже не сами GPU, а коммуникации между ними. Чем больше модель, тем больше времени ускорители просто ждут данные друг от друга.

Именно поэтому почти все крупные игроки сейчас активно инвестируют в фотонику:

NVIDIA продвигает Co-Packaged Optics;
Broadcom и Lightmatter строят фотонные интерконнекты;
Китай параллельно развивает собственные решения — Taichi, Meteor-1, LightGen и теперь новые оптические межсоединения.

Мне кажется, через несколько лет мы перестанем обсуждать только FLOPS и количество GPU.

Ключевым станет вопрос:

насколько быстро ваши ускорители умеют разговаривать друг с другом.

Именно коммуникации постепенно становятся главным бутылочным горлышком современных AI-суперкомпьютеров.

https://www.scmp.com/news/china/science/article/3360328/chinas-optical-chip-breakthrough-boosts-ai-speed-100-fold-using-fraction-compute-power