Post #23708
2

Muse Spark Open (открытая Muse Spark, кто не понял😉) – 816B параметров, 42B активных, миллион токенов контекст, запускается на настольном компьютере с использованием двух компьютеров Mac Studio с процессором Apple M5 Ultra и новейшей платформой MLX. Единая архитектура памяти Apple позволяет интегрированному графическому процессору M5 Ultra использовать до 512 ГБ на каждый Mac Studio, поэтому две машины могут вместить целую модель. А пропускная способность памяти чипа в 1,2 ТБ/с достаточно высока для чтения небольшого фрагмента, необходимого каждому токену. В результате два Mac Studio работают как один суперкомпьютер с терабайтом единой памяти. Скриншот: новый CEO Apple отвечает Цукербергу