Но стоит вам попытаться отправить деталь, которая хотя бы на сантиметр превышает габариты этого контейнера, как вы попадаете в совершенно другую лигу. Ваш груз мгновенно получает статус «негабаритного». И вы платите уже не просто за лишний сантиметр, а по совершенно иному тарифу — за спецразрешения, разработку особого маршрута, возможно, даже за сопровождение. Цена возрастает не на проценты, а в разы. Вы платите за сложность.

С контекстом LLM происходит то же самое. Пока он находится в пределах некоего «стандартного» окна, цена предсказуема. Но как только вы его превышаете, вы начинаете платить за «негабаритный» вычислительный груз.

И этот всплеск в моем биллинге — не ошибка и не баг. Это задокументированная, фундаментальная особенность работы системы, экономическая реальность, продиктованная законами математики, которые лежат в основе современных LLM. Чтобы понять, почему она существует, как с ней работать и, что самое главное, как ее контролировать, нам нужно заглянуть под капот и разобрать на части сам механизм «памяти» LLM.