Опа: Razer внезапно выпустила убийцу Ollama и LM Studio — Razer AIKit

Что умеет:

• Запускает LLM локально на одной или двух GPU
• Генерирует изображения — создаёт картинки локально
• Мониторит GPU — показывает нагрузку и использование памяти
• Веб-интерфейс — позволяет общаться с моделями как в ChatGPT
• Jupyter Lab — запускает ноутбуки для экспериментов
• Свой CLI — управляет моделями через командную строку
• Docker — устанавливает всё необходимое в готовых контейнерах
• Работает на Windows и Linux

Бегу тестировать.

Пет-проект