ЧЕРНЫЕ ЯЩИКИ ОБРАЗОВАНИЯ

Продолжение. Начало выше

Реальный риск сегодняшнего времени не в том, что машины станут автономными, а в том, что человек утратит способность проверять, контролировать и управлять их работой. Когда понимание делегируется «умным помощникам», исчезает навык верификации, ошибка становится неотличимой от корректного результата. Более того, атрофируется ещё и волевое усилие к проверке и рефлексии, возникает слепое доверие результату.

Если ИИ-наставник обучает неверно — заметит ли это кто-нибудь? Если ИИ спроектировал систему с дефектом, будет ли способен человек обнаружить его без понимания принципов?

Во все времена мы могли наблюдать это явление у нерадивых школьников: при решении задач, бездумно подставляя данные в формулы, они получали результаты в виде «полтора землекопа» или «скорость черепахи 2820 км/час».

Возникает это от непонимания самой сути задачи, принципов решения, а также от нежелания совершить усилие и проверить результаты на реалистичность. Теперь велика вероятность получить подобную схему во всех областях нашей жизни, а «нерадивыми учениками» в ней будут выступать уже взрослые пользователи ИИ.

Причём, если у взрослых этот навык существовал, но начинает деградировать (и некоторые даже признаются в этом, по крайней мере, самим себе или в узком кругу), то у детей сегодня он не формируется и его даже не планируется развивать. Мышление и анализ стремятся отвергнуть, как базовую составляющую учения.

Теперь ИИ обучит «заклинаниям», а дальше сразу в профессию, причём сразу на руководящие должности.


Активно внедряемая ранняя профилизация только усилит этот эффект. Когда обучение слишком рано сужается до отдельных областей, не формируется целостная картина мира. А без неё невозможно ни междисциплинарное мышление, ни критическое отношение к результатам работы того же ИИ. Узкий специалист, опирающийся на «магические» инструменты, перестаёт быть инженером и становится оператором.

Таким образом, проблема не в самих нейросетях, а в том, что они встраиваются в систему, где уже нарушена передача фундаментального понимания. В такой среде технологии неизбежно начинают восприниматься как магия: ими пользуются, не зная, как они работают.

Что с этим делать?

Сохранение контроля в мире растущей сложности требует не большего количества технологий, а большего понимания и внимания к формированию этого понимания.

Любопытство, умение задавать вопрос «как это работает», привычка доходить до фундамента, до основ, до законов физики или математики, обеспечивающих работоспособность системы — это на сегодня не романтические инженерные добродетели, а практический иммунитет против утраты компетенций.

Получается, что сохранение человеческого интеллекта — это на сегодня задача, по глобальности и дальновидности стоящая на шаг впереди достижения технологического превосходства или разработки и внедрения ИИ куда только можно придумать.

Как жаль, что понимание этого уже, видимо, утрачено людьми, принимающими ключевые решения.
Или не утрачено, а осознанно игнорируется. Тогда следующий вопрос — ради чего?