☝🏻Сэм Альтман готовит ИИ-чип работающий на фотонах света

Стартап Volantis, который финансирует Сэм Альтман, раскрыл план ИИ-ускорителя A-1. В нём память соединяется с вычислительным ядром не медными проводниками, а светом.⚡️

Главная проблема нынешних GPU называется «береговой линией»: память можно разместить только по периметру кристалла, буквально в миллиметрах от него.

Поэтому даже у AMD MI455X потолок — 432 ГБ.

Фотонный интерпозер позволяет отнести память на несколько сантиметров от кристалла, и это ограничение исчезает.

☝🏻В итоге в одном корпусе обещают до 10 ТБ памяти со скоростью до 240 ТБ/с.🤯

Этого должно хватить, чтобы запускать модель на 20 трлн параметров со скоростью 10 000 токенов в секунду на каждого пользователя.🤖

В отличие от аналогов Lightmatter и Celestial AI, Volantis встраивает микролазеры прямо в интерпозер, а не подаёт свет от внешних источников.
Всё остальное компания честно собирается лицензировать у других.

Вот только рабочий прототип обещают лишь через 12–18 месяцев, а о серийном производстве речи пока не идёт.🤷🏼‍♀️
================
👁 News | 👁 Soft | 👁 Hacker