Osaurus

Osaurus — это локальный сервер для работы с LLM, специально разработанный для устройств Apple Silicon.

Инструмент похож на Ollama, но спроектирован с учётом особенностей macOS.

Ключевые функции включают текстовую генерацию, менеджер моделей, поддержку потоковой передачи ответов, а также возможности вызовов функций и обработки выходных данных.

Приложение предлагает интуитивно понятный интерфейс для управления моделями и мониторинга системных ресурсов.

https://github.com/dinoki-ai/osaurus
================
👁 News | 👁 Soft | 👁 Gear | 👁 Links