Создатель Omi, Ник Шевченко, спросил у Питера совет 🤔

Omi - это AI-гаджет и приложение, которые записывают разговоры, делают транскрипции, саммари и работают как персональная память пользователя.

Мне до этого не попадался на глаза этот проект, но чего у них не отнять, так это мощный маркетинг.
github.com/basedhardware/omi/
Как я понял, omi уже полностью Open Source, и можно поднять self-hosted-решение, но много зависимостей от SaaS и AI-провайдеров.

Что пишет Ник:
Omi, по его словам, резко вырос, но вместе с этим проект начал терять около $100k в месяц на инфраструктуре, потому что в продукте использовались ключи самой команды. Ник пишет, что работает над проектом в основном почти один и у него нет времени глубоко заниматься оптимизацией костов.
Поэтому он спрашивает, не стоит ли перевести пользователей на модель, где они подключают свои ключи при онбординге, как в OpenClaw. Он прямо признаёт компромисс: да, это может привести к потере части нетехнических пользователей, но зато позволит сосредоточиться на фичах, а не на бесконечной борьбе с ценами и тарифами. Отдельно он спрашивает Питера, сколько времени у него ушло на оптимизацию расходов в OpenClaw и почему тот не сделал hosted-версию.

Что ответил Питер:
Если ситуация такая, то пользователей действительно стоит переводить либо на BYOK, либо искать что-то сильно дешевле по инфраструктуре. Он пишет, что в OpenClaw много времени ушло на то, чтобы хорошо настроить кэш. А cloud/hosted-версию он не запускал, потому что для одного человека это слишком большая ответственность, особенно если сервис работает с чувствительными пользовательскими файлами памяти. Поэтому self-hosted-подход для него оказался проще.

Быстрый рост AI-продукта не всегда означает, что модель бизнеса сходится. Если сервис платит за инференс и инфраструктуру за пользователей, популярность может начать стоить слишком дорого.

Чат | ChatGPT Подписка | OpenClaw One-Click