Вроде бы начинают раздавать Claude с контекстом в миллион токенов - давно пора. А вообще, память для моделей и большой контекст, похоже, - это звенья одной цепи, которые называются "управление памятью". Готов биться о заклад, что этот миллион токенов в контексте на поверку окажется, так скажем, "гибридным", а не прямолинейным. Антропик умеет считать баблос