А теперь, как поднять терминал с AI локально у себя на машине, с минимумом действий. Ну и да чем круче ЭВМ, тем быстрее будет будет работать.

И так, для того чтобы приготовить терминал с AI. Нам понадобятся

1. Удобная обёртка для управления AI моделями ollama (всё по классике, терминал рулит)
1.1 Ставим curl -fsSL https://ollama.com/install.sh | sh раз. Опция, чат в терминале: ollama run mistral и уже можно чатиться на английском правда только. Русский поймёт, но ответит всё равно на англ. все модели

2. И наш помощник в терминале - https://github.com/yusufcanb/tlm
2.1 И раз curl -fsSL https://raw.githubusercontent.com/yusufcanb/tlm/main/install.sh | sudo bash -E - скачает codellama для работы
2.2 tlm уже готов объяснять или подсказывать

А дальше. Магия не хуже чем в warp. И русский понимает (ответ англ).

Думаю каждый справится. Модели примерно по ~5-7Gb качает. Будьте внимательны!

Бонус! Так как модели уже на компьютере, а ollama даёт удобный доступ к ним. Можно развернуть веб-интерфейс, для общения уже в режиме чатов, как ChatGPT - https://github.com/ivanfioravanti/chatbot-ollama

Или BigAGI тут прям комбайн нормальный умеет работать с кучей моделей включая нашу https://github.com/enricoros/big-agi

@toxblh_linux