Hugging Face выпустила бесплатное приложение для запуска нейросетей на Windows без терминала

Llama Windows позволяет скачивать ИИ-модели с Hugging Face одним нажатием и запускать их прямо на компьютере. Не нужно разбираться в командах, настройках сервера или сборках llama.cpp.

Что умеет:
— Показывает подходящие модели, их размер и требования
— Запускает локальный чат по Alt+Space
— Работает без интернета после загрузки модели
— Открывает локальный API для подключения своих приложений и агентов

Всё работает на вашем ПК, данные разговоров не отправляются в облако. Приложение бесплатное, с открытым кодом и не требует прав администратора.

Поддерживается Windows 11, включая компьютеры на ARM. Для больших моделей по-прежнему понадобится достаточно памяти.

Скачать Llama Windows можно на официальном сайте, исходники есть на GitHub.

RAGNAROK | ИИ и технологии