В X вирусится проект, с помощью которого можно запустить локальную модель на PS5
https://github.com/cobanov/PS5LM
Пока не на микроволновке, конечно, но тоже неплохо. Автор показывает, что ему удалось запустить целую Qwen 3.8 27b. Работает медленно (примерно 20 токенов в секунду), но работает!
Аналогично можно запустить любой небольшой GGUF, потому что это не ядро под конкретную модель, а буквально порт llama.cpp на PlayStation 5. Общаться с запущенной моделькой потом можно через любой веб-интерфейс по порту, или вообще с телевизора.
Это вам идея на случай, если память еще подорожает
Post #10164
10.3K
- 😁 19
- ❤ 17
- ⚡ 2
- 🏆 2
- 😍 1