🤖 Больше важны не мозги а как ими пользоваться!
К слову сказать ночью Sol 6.1 получил апгрейд. Контекстное окно было расширено почти в 2 раза, с 300 до 500к токенов.
Нюанс в том, что все модели имеют окно в миллион токенов. Но в дефолтах стоит именно 300к. Мне расширение никогда не нужно было, хватало текущего — харнесс чатагпт прекрасно справляется с компактизацией контекста. А твитеряне вот подвывали.
С увеличением контекстного окна пропорционально возрастает потребление. То есть если тупо выставить лям не понимая зачем, а это можно сделать в кодексе, вы начнете сильно быстрее расходовать лимиты.
И апгрейд в итоге не в увеличении дефолта (о чем я сразу подумал как втф), а в маленьком дополнении от Тибо:
Sol 6.1 был оптимизирован и контекстное окно расширено для всех без увеличения юзеджа. Сол стал эффективнее. И да, вы можете руками вернуть прошлые значения и получить супер-дешевую модель качества как и было.
Post #393
42
