Nvidia представила доступный компьютер для генеративного ИИ за 249$.
https://mltimes.ai/nvidia-predstavila-samyj-dostupnyj-superkompyuter-dlya-generativnogo-ii/
Мы немного погуглили производительность.
На формах пишут, что эта штука дает 1 токен/с, что явно не быстро.
При этом, если поискать её в России, то цена будет от 100 000 рублей)
Для сравнения, в районе 200 000 можно собрать компьютер с видеокартой, которая будет давать 10 токенов/с.
В общем мы пока доступности не ощутили, смотрим дальше.
Post #13
327