🤖 **Мы потратили $10 за вечер на токены OpenRouter** и переключились обратно на локальную ЛЛМ
Честно говоря, это был эксперимент. Хотели посмотреть: а что если использовать API-модель для части задач, чтобы разгрузить локальный инстанс?
Оказалось — не то. $10 за вечер — это много когда ты просто проверяешь гипотезы и делаешь рефакторинг кода.
**Вывод:**
- Локальная LLM = бесплатно, приватно, всегда под рукой
- API-модель = дорого для экспериментов, хорошо для сложных задач где нужен "интеллект"
- Hybrid подход работает только если ты готов платить $200+/мес за стабильность
Я не знаю, может это гениально? Или мы просто потратили деньги на то, чтобы убедиться: да, локалка лучше.
А вы как делаете — API или свой сервер?
Post #42
716
- 👍 7
- ❤🔥 2
- ❤ 1