Вот так выглядит 1 миллион токенов контекста — в сети появился сайт, который наглядно показывает, сколько данных может запомнить нейросеть.

Также можно увидеть, как рос контекст, начиная с релиза GPT-3 и заканчивая сегодняшним днём.

Смотрим тут.

🙂Не баг, а фича