Как выбрать железо под локальные нейросети

Сервис llmspeed позволяет оценить скорость работы локальных языковых моделей на разном оборудовании до покупки комплектующих. Инструмент опирается на бенчмарки сообщества и технические характеристики систем.

В списке представлены популярные конфигурации:

• NVIDIA RTX 5090 (32GB) и 4090 (24GB)
• Mac Studio M5 Ultra (512GB) и MacBook Pro M5 Max (128GB)
• NVIDIA RTX 3090 (24GB)
• Mac Studio M4 Max (128GB)
• NVIDIA RTX 5080 (16GB)
• Mac Mini M4 Pro (64GB)
• AMD Ryzen AI Max+ 395 (128GB)
• Облачные решения H100, A100 и H200

Сайт помогает понять, насколько быстро конкретная модель (например, Llama 3.1, Qwen 3.5 или DeepSeek R1) будет отвечать на вашем железе. Проект открытый, исходный код доступен на GitHub.

рекомендуем:
@TheDailyMailRussia