(2) Cerebras представил новый серверный чип и систему, предназначенную для ускорения работы ИИ чат-ботов

Краткие технические характеристики WSE-3

▸Число транзисторов: 4 трлн
▸Число вычислительных ядер: 900 тысяч
▸Объем встроенной памяти: 44 ГБ, SRAM
▸Площадь: 46 225 кв. мм
▸Пиковая производительность: 250 PFLOPs (FP16, разреженные вычисления)

Некоторые аналитики уверены, что WSE-3 Turbo – это не новый чип, а разогнанная версия WSE-3. Что новинке подняли тактовую частоту до 2.8 ГГц, что и дало 2х производительности. И что настоящий новый чип нового поколения появится только в 2027 году.

Краткие характеристики CS-4

▸Суммарная производительность ИИ вычислений – 750 PFLOPs
▸Пропускная способность памяти – 129.6 ПБ/с
▸Пропускная способность I/O – 7.2 Тбит/с
▸Задержка передачи данных между чипами – 2 мкс
▸Может поддержать модели с числом параметров более 50 трлн
▸Энергопотребление одной стойки CS-4 – 120-140 кВт, что примерно вдвое меньше, чем у сопоставимых систем на базе AMD и Nvidia

По заявлениям Cerebras, CS-4 обеспечивает ускорение до 30х, по сравнению с решениями на базе GPU. В тестах на модели GPT-OSS-120B система выдает более 4400 токенов/с на пользователя. Агентным системам это обещает возможность ускорения рассуждений примерно в 10x.

Cerebras позиционирует себя как прямого конкурента Nvidia в сегменте инференса, причем без ограничений как у чипов Etched, которые заточены только под архитектуру Transformer. ||

✓ Подпишитесь на RUSmicro в Telegram | в Max