При работе с моделями в рамках одной сессии иногда заметно, что к середине диалога ответы становятся менее точными: модель может повторять уже сделанное, противоречить своим более ранним решениям или терять нить многоэтапной задачи. На контексте в 1 млн токенов, такое поведение может быть заметно более явно.
Это не субъективное ощущение. В исследовании Стэнфорда «Lost in the Middle» показано, что при увеличении объёма контекста точность reasoning может падать на 15–47% независимо от заявленного размера окна. Явление называют
context rot — «контекстное ухудшение».Практическое наблюдение: до 50–60% заполнения контекста (вот непонятно как его сичтать лучше в токенах или процентах) качество остаётся приемлемым, ближе к 75% начинаются заметные проблемы. Поэтому полезно контролировать заполнение — например, командой
/context.Когда контекст перегружен, помогает ручное сжатие:
/compact с явным указанием, что именно нужно сохранить (текущую цель, список изменённых файлов, принятые решения, текущую ошибку и следующие шаги), а что можно отбросить (стилистические правки, неудачные варианты промптов). НЕ полагайтесь на автоматическое сжатие (auto‑compaction) часто менее качественно, так как модель сама решает, что важно. Также в глобальные инструкции агента добавить правила что важно сохранить при compact.Но бывают ситуации, когда даже после сжатия проблема не уходит. Если вы несколько раз объяснили модели, что именно нужно исправить, а она продолжает ошибаться, значит, контекст уже засорён неудачными подходами. В этом случае
/compact может не помочь, так как сохранит неверные паттерны в сжатом виде. Делайте /clear для очистки текущей сессии и перезапуск сессии с уточнённым промптом. Отсекайте наработки предыдущей, что могут повлиять на снижение качества результата выдачи.Также с целью уменьшения заполнения контекста полезно делегировать задачу субагенту, работающий со своим окном контекста, а основную сессию использовать как оркестратора для постановки задач и обработка результата.
#ИИ #AI