ЛОЛ ШТО? Тупой хак делает LLM умнее

Разрабы неделями бьются над промпт-инжинирингом, а решение оказалось на уровне «постучать по телевизору, чтобы заработал».

Свежее исследование показало: если отправить один и тот же промпт дважды в одном сообщении, модель внезапно прозревает.

Почему так?

Стандартная логика LLM — это движение справа налево. Каждый новый токен видит только то, что было до него. Когда вы пишете огромный контекст, а в конце задаете вопрос, первые токены контекста понятия не имеют, к чему вы ведёте. Они генерируются «вслепую», без понимания финальной задачи.

Хак - «двойной проход»

Если просто продублировать текст промпта один за другим, случается магия. При втором проходе каждый кусок текста уже «знает», какой вопрос последует в конце.

Результаты на семи разных бенчмарках (Gemini, ChatGPT, Claude, DeepSeek) показывают рост точности. В одном из тестов — на поиск имени в списке — модель прыгнула с жалких 21% до 97% попадания.

* Скорость та же. Железо обрабатывает входящий текст параллельно, так что задержку не заметите.
* Никакого мусора. Ответ не становится длиннее, он просто становится точнее.

Это самый простой и дешевый способ выжать максимум из нейронки, когда контекст сложный, а тупить нельзя. Просто CTRL+V два раза 😂

🐾 @aimastersme
⚡ Power Users
▫️ AI обучение