Meta представила проект Vistara — они переиспользуют старую DDR4-память из списанных серверов через кастомный CXL ASIC и memory pooling.

Результат: до 25% меньше серверов для disaggregated inference, на 33% меньше OOM-ошибок и фрагментации. Память теперь живёт дольше железа, а не наоборот.

Для тех, кто крутит большие модели или embedding-таблицы — это прям про деньги и надёжность в проде. Круто видеть, как hyperscalers решают реальные инфраструктурные боли.

Подробный разбор в The Register

#Meta #CXL #AIInfra #Inference #MLengineering #DevOps #Программирование