🚀 Запуск моделей на Mac без ограничений по RAM
Этот репозиторий позволяет запускать большие модели ИИ на Mac, даже если они не помещаются в оперативную память. Используя технологию Flash Streaming, вы можете работать с моделями, которые требуют больше памяти, чем доступно, при этом обеспечивая высокое качество вывода.
🚀 Основные моменты:
- Поддержка моделей до 35B с использованием Flash Streaming.
- Работает на любом Mac с 16 GB RAM.
- Высокая скорость обработки и качество вывода.
- Удобные команды для взаимодействия с агентом.
📌 GitHub: https://github.com/walter-grace/mac-code
#python
Post #1833
2.93K