"The unreasonable effectiveness of pattern matching"

https://arxiv.org/abs/2601.11432

Большие языковые модели могут восстанавливать смысл текста, даже если большинство содержательных слов заменены вымышленными или бессмысленными, "переводя" такой текст обратно в осмысленные предложения за счёт структуры языка, морфологии и статистических паттернов. Такая способность больших языковых моделей восстанавливать смысл из формальных паттернов свидетельствует о том, что они извлекают глубинные абстрактные представления о языковой структуре, выходящие за рамки простого запоминания последовательностей. Это еще один сильный аргумент в пользу того, что большие языковые модели – это совсем не "просто стохастические попугаи", а сложные когнитивные механизмы, способные к композиционному пониманию и работе с абстрактными структурами.