⚪️ Ship-темберь, день 7/28
Сегодня такое изменение: порог авто-компакта в Кодексе подняли по дефолту до 500к (у меня видно как 475к, на скрине). Тибо говорит что они протестировали, им норм.
🔗 Пост тибо : https://x.com/thsottiaux/status/2109430343346581527
При этом ранее он защищал дефолт в 300к : https://x.com/thsottiaux/status/2108778939057664357
▶️ Я пока в сомнениях - увеличение лимита автокомпакта приводит к увеличению потребления токенов (да, из кеша в основном, но и это не "бесплатно").
С другой стороны, реже компакт (что занимает время, и не знаю - тратит ли доп токены или не особо). Да, для задач где много контекста надо собрать и учесть, наверное тоже хорошо.
Опять же - это настройка в конфиге всегда была - чего тут нового...
В общем, посмотрю день/другой на поведение. Может, норм, а может прийдется настраивать более низкий порог!
@deksden_notes
Post #1376
551

- 👍 5
- 🔥 1
- 🤝 1