Но по сути, кто таким будет пользоваться. Сам свои же лимиты жрет, больше контекстное окно - тяжелее чат, постоянно перечитывает при любом твоем запросе = вовсе не решение, может в очень узких ситуациях
Юзаем все также, по 50-150к и меняем чат
увеличение 200k → 1M
длина выросла в 5 раз
теоретическая вычислительная сложность внимания растёт примерно в 25 раз