SK hynix предлагает серверам делиться памятью

Вместо отдельных запасов оперативной памяти у каждого сервера — общий резерв, из которого машины берут нужный объём. Так можно лучше использовать память: её избыток на одном сервере не должен простаивать, пока соседнему не хватает места для данных.

Такую архитектуру SK hynix показала на OCP Global Summit. Модуль CMM-DDR5 второго поколения вмещает 256 ГБ и поддерживает CXL 3.2 — интерфейс для подключения памяти и других компонентов. Компания заявляет пропускную способность 80 ГБ/с, более чем вдвое выше прежнего поколения.

Вместе с NAVER Cloud разработчики проверили совместное использование KV-кэша — промежуточных результатов вычислений языковой модели — и векторных представлений данных для ИИ. Разработчики пока проверяют работоспособность подхода. Практический смысл — обслуживать ИИ-задачи с меньшим дублированием данных в памяти.

Подробнее — SK hynix

#новости #tech #hardware
@digitaltimeslv