Суть идеи в вертикальном монтаже. Несколько сот гигабайт LPDDR монтируются поверх слоя процессорных ядер. Это сокращает до возможного минимума длину соединений и позволяет использовать сверхширокие шины данных. С одной стороны, LPDDR, конечно, несколько медленнее, чем HBM — но с другой стороны, она гораздо дешевле и холоднее, и допускает более плотный монтаж.
Разумеется, на данном этапе речь идет о применении такой системы в AI-ускорителях для датацентров, появление первого поколения HBC ожидается в начале 2027 года, в составе Qualcomm Dragonfly AI250, но я не вижу ни одной причины, которая запрещает подобное для десктопных и даже ноутбучных чипов. Понятно, что 768GB вряд ли будет (просто не поместится), но 128GB вполне реальная величина.🧐
#теория
* — разрыв между производительностью процессоров и пропускной способностью памяти. Впервые начал проявляться с появлением процессоров с рабочей частотой, превышающей частоту работы микросхем памяти, т.е., еще со времен i286. Довольно долго проблему решали с помощью многоуровневого кэширования, но именно в AI, где нужно просто прокачивать огромные объемы данных при несложной обработке, кэши помогают мало.