Физик сложных систем Рикард Соле из Университета Помпеу Фабра и Института Санта-Фе, биолог Майкл Левин из Тафтса и Гарварда и их коллеги описали крупные языковые модели как когнитивный вирус. Объектом заражения в их работе служит устойчивая связь человека с моделью. ChatGPT входит в письмо, поиск и принятие решений, а память людей, серверы и организации поддерживают ее распространение.

Реплицируется технологическая линия. Сервер производит ответ, человек переносит его приемы в документ или решение, учреждение закрепляет такой способ работы правилами и сроками. Другие люди встречают машинную формулировку как обычную речь. Технология получает новых пользователей через хозяина, который сохраняет внешность автора, хотя часть умственной операции выполнила модель.

Авторы выделяют 3 состояния пользователя. Автономный человек почти не зависит от модели. Связанный пользователь обращается к ней, сохраняя способность самостоятельно читать, писать и проверять. Устойчиво зависимый передает ей поиск аргументов, формулирование и контроль результата. Социальное распространение переводит человека во второе состояние, регулярное замещение собственных операций ведет в третье, а восстановление требует тренировки.

В расчетной модели возникают 2 порога. Пока давление платформ, работодателей и сверстников остается ниже первого, автономный режим устойчив. После его пересечения доля зависимых растет скачком. Возврат требует опустить давление ниже другого, более низкого уровня. Такая петля гистерезиса объясняет, почему удаление приложения не возвращает навык автоматически, если сроки, формы отчетов и оценка труда рассчитаны на машинную скорость.

Эксперимент MIT Media Lab дал этой схеме наблюдаемую опору. 54 участника писали эссе с ChatGPT, с поисковой системой или без цифровой помощи, пока исследователи регистрировали активность мозга. У группы без инструментов связи между областями мозга были наиболее распределенными. Пользователи модели демонстрировали самую слабую связанность, хуже вспоминали собственный текст и реже считали его своим. Предварительная работа фиксирует конкретную потерю при передаче машине письменной операции.

Культурная передача проявилась в опыте с 118 участниками из Индии и США. Индийские пользователи принимали больше предложений GPT-4o, а их тексты сдвигались к западной манере изложения и теряли часть местных оттенков. Полученная фраза выходила за границы диалога, попадала в письмо и становилась образцом для читателя. Машинный способ описывать опыт распространялся через человека даже среди тех, кто сам не обращался к сервису.

Замкнутый цикл продолжается в обучающих данных. Исследование, опубликованное в Nature, проследило рекурсивное обучение на материалах предыдущих моделей. Безразборное включение синтетических текстов постепенно уничтожало редкие части исходного распределения. Публичный машинный контент, попавший в новые наборы, вытеснял необычные формы человеческой речи. Цифровое поле возвращало технологии усредненный отпечаток ее собственных ответов.

Выход зависит от порядка работы. В эксперименте со 196 студентами одна группа сначала создавала собственные идеи и лишь затем обращалась к ChatGPT за доработкой. При последующей самостоятельной задаче ее оригинальность оказалась выше, чем у участников, сразу получавших машинный результат. Когнитивная иммунизация состоит в сохранении первого человеческого шага, права отключиться и обязанности проверить ответ.

Самое опасное последствие возникает внутри организаций. Когда модель первой формулирует проблему, сотрудники теряют независимую точку отсчета. Ошибочная или усредненная версия проходит через отчеты, решения и публичные тексты, затем возвращается в цифровую среду как человечески одобренный материал. Учреждение получает скорость, одновременно сокращая число людей, способных воспроизвести рассуждение без машины и остановить общий сбой. Когнитивный вирус закрепляется, когда хозяин распространяет его язык быстрее, чем способен распознать внесенную им ошибку.

@ex_trakt