А что, если ИИ-сервер собрать вообще без GPU? 🤓
К нам на обзор попал сервер с 16 PPU Zhenwu 810E от Alibaba и 1,5 ТБ памяти HBM. Одной спецификацией не ограничились: запустили модели и контейнеры, а заодно посмотрели,как привычный ИИ-стек приходится адаптировать под новое железо.
Получился техно-детектив с китайской документацией, портированием библиотек и главной интригой: успевает ли софт за возможностями ускорителя?
#железо@selectel_academy
Post #366
703

- ❤ 8
- 🔥 2
- 😱 2