Я забыл попросить вопросы к стриму "Каждый токен на счету"! 🙈
Задайте их, пожалуйста, в комментариях к этому посту.
Кстати, Сергей, один из участников нашего стрима, опубликовал целую серию статей на Хабре про prefix_cache:
1. Экономика кэширования и особенности провайдеров
2. Самые частые анти-паттерны
3. Кэш в AI-агентах
Материалы – огонь. Если прочитать их до стрима, то просмотр станет ещё интереснее.
На стриме на практике проверим, как учёт особенностей prefix_cache влияет на расход токенов.
Добавить событие в календарь
Вопросы для стрима – в комментарии 😊
Post #203
2.2K
Forwarded from Константин Доронин
- ❤ 8
- 👍 5