1. llama.cpp — Компактное ядро на C/C++, которое позволяет моделям быстро работать как на центральных, так и на графических процессорах.
2. Jan — Бесплатный аналог ChatGPT, который позволяет запускать все локально на вашем компьютере.
3. Ollama — Подключайте и запускайте большие языковые модели с открытым исходным кодом с помощью одной команды. Самый простой способ использовать локальный ИИ.
4. LocalAI — Создайте API в стиле OpenAI, который будет обращаться к моделям на вашем собственном оборудовании.
5. ComfyUI — Холст с функцией перетаскивания элементов для создания собственных конвейеров генерации изображений.
6. mlx-lm — Обучайте и запускайте модели прямо на своем Apple Silicon Mac.
7. text-generation-webui — Панель управления в браузере для загрузки и взаимодействия с любой локальной текстовой моделью.
8. whisper.cpp — Преобразуйте речь в текст на своем компьютере с помощью Whisper от OpenAI.
9. exo — Объедините несколько устройств в один кластер, чтобы запускать большие модели.
10. GPT4All —Настольное приложение с функцией Plug-and-Play для общения с локальными моделями. Не требует графического процессора.
Забирайте подборку за реакцию ❤️
@edprogramming