❓ Есть ли жизнеспособный инфренес в бюджете на 50к или 80к?
На этот вопрос я постарался детально ответить в видео и статье на хабре:
🚀 https://youtu.be/uf9yDBy21pA
👉 https://habr.com/ru/articles/1053118/
Я взял 2 бюджетные материнские платы и 2 видеокарты, современные и не очень модели ИИ, провел разнообразные тесты. Получилось весьма объемно, а готовил я это около 3-х месяцев. Внутри:
📟 оборудование и цена
🔌 как определить пропускную способность памяти, прямо на практике
🎬 тесты: канальность, частота, кванты, контейнер vs хост, что будет если добавить одну карту, а две и так далее (все это приправлено графиками и моими комментариями)
💶 какие есть ценовые варианты
🎩 рассмотрим альтернативные сборки, в том же ценовом диапазоне и на развитие
Если вы задумывались о персональном приватном ИИ, то теперь вы можете узнать как это все будет работать в бюджете до 100к рублей. Также вам могут помочь другие мои видео:
👉 Запускам GPT на ноутбуках без подписок и облаков
👉 Сборка домашней ИИ лаборатории на базе дешевых комплектующих для майнинга
Все инструкции по настройке и развертыванию вы можете найти у меня на сайте:
- Установка NVIDIA‑драйвера на Debian
- Запуск локальных модели ИИ через llama.cpp
⁉️ Если у вас есть вопросы по сборке пишите в комментариях.
Post #356
1.25K

- 🔥 15