🔧 PS5LM Plus

Нативний застосунок, що запускає GGUF-моделі через llama.cpp на GPU джейлбрейкнутої PlayStation 5. Це форк PS5LM від Mert Cobanov.

Ключові можливості:
• Qwen3.8-27B (9,2 GiB) працює на ~20 tok/s, Llama 3.2 3B — до 124 tok/s
• дашборд на ТВ: швидкість генерації, GPU/CPU, температури, пам'ять
• бібліотека моделей із диска, USB чи M.2 і завантаження з Hugging Face
• веб-чат та API, сумісні з OpenAI й Anthropic, для всієї локальної мережі

⚡️ Технології: C++, llama.cpp
⭐️ Зірок: 118
🍴 Форків: 8
🛠 Платформа: PlayStation 5 (джейлбрейк)

PS5LM Plus

#ai #ml #cpp #api #tools

Git 🇺🇦 | Git 🇺🇦 Database