Приветствую парни
Задумал собрать сервер на двух Xeon E5-2697v2 (24 ядра / 48 потоков, 3,5Ghz, 60Mb L3 Cache)
512 - 1024Gb DDR3 ECC REG на частоте в 1600Mhz
2-3 Видеокарты Radeon Instinct Mi50 (32-48Gb HBM2 памяти с пропускной способностью свыше 1 Терабайта в секунду) либо Nvidia Tesla P40
Свыше 50 Терабайт дискового пространства (HDD + SSD-кэш). В основном под коллекцию LLM и датасеты.

Цели:
1 Запуск больших LLM локально (типа DeepSeek V3, Qwen 480B)
2 Тесты с распределёнными вычислениями через Vulkan
3 Возможно, небольшой хостинг или VPN для своих нужд

Думаю выйдет интересно, буду держать в курсе.