В 100 раз эффективнее ARM: потоковый процессор Electron E1

Про бутылочное горлышко архитектуры фон Неймана заговорили ещё в 1977 году, но настоящей проблемой на аппаратном уровне оно стало только сейчас, с бумом больших языковых моделей. Каждое извлечение инструкции из памяти, декодирование и предсказание ветвлений тратит энергию, а данные без конца гоняются между процессором и памятью.

Стартап Efficient Computer зашёл с другого конца и сделал процессор Electron E1, где программа распределена не во времени, а по поверхности чипа, от одной плитки к другой. На типичных embedded-задачах вроде свёрток в нейросетях он выходит в 10-100 раз эффективнее ARM. При этом похожую потоковую архитектуру пробовали и Google, и Amazon, и IBM, только универсальный процессор из неё сделать не смогли, упёршись в одно ограничение. Разберёмся, во что упёрлись все, кроме команды E1.