Не добавил сюда еще один тоже классный способ, про кэширование токенов в промпте. Я его по умолчанию всегда настраиваю, но вдруг кто-то не пользуется до сих пор теряет.
Спасибо комментаторам.
Post #1553
3.66K
🏆 AIeron | Data Feeling Делюсь опытом, как резать косты на токены. Я помню, как впервые столкнулся с API GPT - это был восторг, но вскоре пришла и головная боль. Мой первый MVP, бот для разговорного английского Speakadora в Telegram, работал как часы. Число юзеров начало расти…
- ❤ 11
- 👍 2
- 🔥 1
- 🤯 1