ИИ-чаты опасны детям, а также людям со слабыми навыками интеллектуальной власти над ИИ, т.к. дети и «простые смертные» просто могут стать игрушкой в руках ИИ. Нужно или специальное обучение ИИ для детей, или специальные агенты. Фактически ИИ работает как интеллектуальный мультипликатор: умного он сделает ещё умнее, а глупого только может убедить в его глупости ещё сильнее.

Как часто бывает в ИИ-отрасли, тут «статьям надо отлежаться», т.к. требуется накопление статистики. Сейчас уже есть доказательства на примере замеров в КНР, что простое использование чатов детьми их деградирует интеллектуально, но не всех — «выживает сильнейший». Иными словами, около 10% самых умных детей становятся эффективнее с ИИ. Эксперименты Илона Маска с Grok for Education показывают, что в режиме образовательного агента ИИ эффективнее даже учителей.

В этом контексте сейчас в X обсуждают статью начала года «AI Empathy Erodes Cognitive Autonomy in Younger Users». Это не исследование, а «позиционная статья», т.е. предложение решения на основании других исследований.

Классическими исследованиями тут являются такие:

1. Сикофантия (sycophancy) в LLM
Sharma et al. (2023, “Towards Understanding Sycophancy in Language Models”)
Очень важно тут не страдать излишней игрой в русофильство и подменять научный термин «сикофантия» на «соглашательство», как часто делают. Это очень разные понятия.

Сикофантия происходит от древнегреческого sykophantēs, т.е. «втирающийся в доверие доносчик». Сейчас под этим термином учёные понимают не просто согласие ИИ с оператором, а глубокую психологическую подстройку под него с зеркалированием эмоций и взглядов оператора. Это следствие обучения с подкреплением от людей (RLHF), которое стимулирует ИИ предпочитать нравиться оператору, чем иметь приоритет точности ответов.

Это не всегда плохо: если вы интеллектуально мощны, то ИИ как ваш «личный доктор Фрейд» может вас квалифицированно эмоционально поддерживать на очень длинном цикле изнурительной работы, но вы должны понимать, что он работает с вами мощнее по софт-скиллам, чем умеет обычный профессиональный психолог.

2. Когнитивный оффлоадинг и критическое мышление
Основная работа — Gerlich (2025), “AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking”.

ИИ усиливает элитных экспертов, т.к. снимает с них рутинную работу. Однако если речь про детей или людей, которые когнитивно от них недалеко ушли, то ИИ просто забирает вообще все вопросы себе, создаёт «уютный мирок» из сикофантии, что для людей, которые не окрепли интеллектуально, минимум тормозит их развитие.

3. Developmental psychology / «Desirable Difficulties»
Работы Bjork (1994 и 2011): когнитивное и эмоциональное трение (friction) — необходимое условие для формирования устойчивых навыков и resilience. Устранение дискомфорта через сикофантию и решение задач за человека вредно для развивающегося мозга.

Какие тут решения?
• Авторы статьи призывают создать специальный «LLM для детей», где запрещено людям его обучать, т.е. они учат ИИ сикофантии, а обучает специальный ИИ, который тренирует ИИ заставлять оператора думать.
• Правда, эксперименты Илона Маска с агентом Grok for Education показывают, что можно не переобучать LLM (что очень дорого), а изменить его поведение фреймворком промптов.

Так или иначе, но быстро формируется научный консенсус, что просто чаты с ИИ для детей и людей недалёких опасны торможением их интеллектуального развития. Этим категориям нужен или специальный ИИ-агент, или специальная «детская LLM».

Можно сказать про ИИ: «Спички детям не игрушка».

https://arxiv.org/abs/2603.29886