- Сколько вы тратите на токены?
- 67 🤫
Итак, как мы экономим.
1. Вместо АПИ используем oAuth авторизацию. По сути НС для ChatGPT имитирует работу пользователя, и вы не платите отдельно за токены.
Понятно что вы можете упереться в суточные лимиты, но расширив тариф, вы и лимиты тоже расширите.
2. Если у вас сильный тариф, у меня например Pro2, то с помощью liteLLM вы можете его раздать НейроСотрудникам своих сотрудников)
3. И в теории (мы еще такое не пробовали) вы можете использовать разные Нейронки для разных задач. Дорогие для дорогих) дешевые для дешевых.
Ну вы поняли)
Тоже с помощью liteLLM.
Всем хороших выходных)
Post #367
512

- 🔥 10
- 🦄 2