Для самообразования нашел видик про AI PC
Рассказывают какие сейчас есть тренды в железках для развертки локальных моделей.

И я тут задумался, может не зря я в свое время брал мак на 128гб и системник на такое же количество памяти под мультиакинг?

В случае с маком все относительно круто и просто, 128 unified памяти с лютой скоростью. Можно вплоть до Llama 4.