Узнайте, какие локальные модели потянет ваш ПК
Полезный сервис для тех, кто запускает LLM локально и не хочет гадать, какая модель влезет в железо без боли.
Как работает:
- указываете GPU, VRAM и RAM
- получаете список моделей, которые нормально запустятся на вашем ПК
- видите квантование, примерную скорость и контекстное окно
- поддерживается железо NVIDIA, AMD, Intel и Apple
Особенно удобно, если собираете ИИ-агентов, тестируете локальные модели или выбираете железо под inference.
Больше не нужно вручную считать память и перебирать модели наугад.
https://whatmodelscanirun.com/
Post #5134
6.38K


- ❤ 22
- 🔥 9
- 👍 8
- 😁 2
- 🥴 2
- 🤨 2