OpenAI договорилась с Cerebras. Результат — 750 токенов/с
⠀
OpenAI заказала 750 МВт вычислительной мощности с подключением до 2028 года. CNBC оценивает контракт более чем в $10 млрд; цена не раскрыта.
⠀
Cerebras — независимая американская компания, OpenAI ею не владеет. Её WSE-3 занимает целую кремниевую пластину: 4 трлн транзисторов, 900 тыс. ИИ-ядер и 44 ГБ SRAM. Запасные ядра и маршруты обходят дефекты.
⠀
Память находится рядом с вычислениями, поэтому веса модели не ездят между ускорителями и внешней памятью. Склад встроили в фабрику, и станки больше не ждут грузовики.
⠀
На этом железе GPT-5.6 Sol Ultrafast выдаёт до 750 токенов/с и работает до 14 раз быстрее обычной Sol. Claude Fable 5 показал 62.5 токена/с по Artificial Analysis. Разрыв в 12 раз. Замеры разные, но быстрый режим Anthropic даёт максимум 2.5 раза.
⠀
Ultrafast пока доступен выбранным клиентам OpenAI API. Эксклюзивность Cerebras за OpenAI публично не подтверждена.

Было бы круто увидеть такое в подписке. Можно будет получать ответы в Hermes на порядок быстрее и кодить как из пулемёта 😂

🧩📣🔥💡🪄
⠀
OpenAI · Cerebras · Anthropic · CNBC · Artificial Analysis