Стример PewDiePie выкатил проект для локального запуска ИИ-моделей и агентов

Один из крупнейших в мире блогеров продолжает перевоплощаться в AI-разработчика. Больше 10 лет он снимал летсплеи, прохождения и всякую развлекаловку и был самым подписываемым на YouTube, а потом – заинтересовался ИИ, и пошло-поехало.

В ноябре он объявил, что собрал себе суперкомпьютер для запуска локальных LLM за 20к долларов. Он призывал всех перестать пользоваться ChatGPT и остальными чат-ботами и переходить на локальные модели, чтобы не делиться своими данными с "нечестными" корпорациями и не переплачивать.

Затем он дообучил собственную модель, которая по какому-то бенчмарку даже превосходила фронтиры.

И вот сейчас – выпускает полноценную опенсорсную оболочку Odysseus для локального запуска агентов и моделей: https://youtu.be/rAzT5lcezPs.

Кратко, это попытка сделать полноценный self-hosted ChatGPT, то есть внутри интерфейс, память, инструменты, хранение данных, всякие агенты и тд. Модели можно подключать через Ollama, llama.cpp или vLLM, и давать им доступы на усмотрение.

За день его проект на GitHub набрал почти 18к звезд: github.com/pewdiepie-archdaemon/odysseus.

Ждем, когда уже вайбкодить начнет MrBeast