Только что опубликовали очень показательную, комично-страшную работу.
Взяли нормально работающие языковые модели. Протестировали, как они справляются с задачками — всё в порядке. Затем заставили их потреблять самые популярные посты из твиттера. Те, на которых было больше всего лайков и комментариев, те, что выбивались в тренды.
Вторая группа языковых моделей читала только длинные, осмысленные, непопулярные тексты из той же соцсети.
По итогу, у нейронок, потребляющих популярный контент:
↘️ Качество рассуждений ухудшилось на 23%
↘️ Долгосрочная память упала на 30%
↘️ То, что можно было бы назвать самоконтролем и склонностью учитывать интересы других — уменьшилось.
↗️ Зато подрасла грубость, нарциссизм и психопатия
Нейронки стали по своему желанию пропускать целые цепочки рассуждений, фактически саботируя процесс мышления
Но это не всё. Дальше учёные попытались вылечить последствия трендового контента. Внесли ряд инструкций и скормили тонны полезного контента.
Восстановление было в лучшем случае частичным. Брэин рот прижился.
Работают ли люди также? Об этом можно спорить, но обучаемся мы похожим образом.
В качестве демонстрации приведу лишь один наглядный пример. Социальные сети создают чрезвычайно искажённое представление о том, каких мнений придерживается большинство.
Например, в недавней работе учёные обнаружили, что экстремальные голоса доминируют в социальных сетях: они попросту наиболее активны. Это как у самих экстремистов, так и у среднего человека создаёт иллюзорное представление о том, что средний человек чрезвычайно радикален в своих взглядах. На графике показал разрыв.
Если ваш главный источник информации — это виральный контент, то буквально, как и нейронка, считываете ложную картину мира, вероятно, параллельно радикализируясь и забывая как мыслить.
Читайте книги. (И мои посты)
Наше Сообщество | Наша бесплатная рассылка