Почему ИИ «внезапно» всё забывает? 🤖
Час общаешься с нейросетью, и вдруг она противоречит себе или забывает вводные? Это не баг, а ограничение архитектуры.
У ИИ нет памяти. Он просто читает.
Каждый раз, отправляя сообщение, вы посылаете модели ВЕСЬ диалог заново. Она перечитывает его с нуля. Объём текста, который модель видит за раз, называется контекстным окном. Всё, что в него не влезло, для неё не существует.
Эффект «Lost in the Middle»
Даже если диалог влезает в лимит, ИИ обрабатывает его неравномерно. Механизм внимания устроен так, что начало и конец усваиваются отлично, а середина размывается и попадает в слепую зону.
Как приручить контекст:
📌 Главное — по краям. Ключевые инструкции пишите в начале или дублируйте перед финальным запросом.
📌 Новая тема — новый чат. Старый контекст будет шлейфом тянуть модель назад.
📌 Сжимайте диалог. Если чат разросся, попросите ИИ сделать резюме и начните с него новый чистый диалог.
Post #6
167
