ЧЕРНЫЕ ЯЩИКИ ОБРАЗОВАНИЯ

Мы всё чаще пользуемся технологиями, не понимая, как они работают. Распознавание лица, навигатор, даже обычный водопровод для большинства из нас уже не техническое устройство, а волшебство. В тот момент, когда технология становится магией, отключается критическое мышление, пользователь инструмента незаметно превращается в верующего, а верующего обмануть проще всего.

То, что мы пришли к этому состоянию кажется естественным, потому что мы привыкли воспринимать технологический прогресс как накопление знаний: если что-то однажды изобретено, значит, оно навсегда остаётся в распоряжении человечества.

Однако технологии не существуют в виде застывших артефактов. Они живут в практике — в людях, их опыте, профессиональной культуре и непрерывности передачи знания. Когда эта цепочка рвётся, знание исчезает, даже если формально сохранились чертежи и инструкции.

Хорошо известен исторический пример из авиации. Речь идёт о двигателе Rolls-Royce Merlin, одном из самых массовых и успешных авиационных двигателей Второй мировой войны. Именно он стоял на истребителях Spitfire и P-51 Mustang, выпускался тысячами, документация была сохранена, конструкция считалась удачной, а технология производства отработанной и хорошо освоенной.

Однако, когда спустя десятилетия возникла задача восстановления и серийного производства Merlin для летающих реплик исторических самолётов, инженеры столкнулись с неожиданной проблемой. Формально всё было на месте: чертежи, спецификации, архивные материалы. Но воспроизвести двигатель «один-в-один» не получалось.

Выяснилось, что значительная часть технологических решений не была зафиксирована в документации. Качество сплавов, режимы термообработки, допуски, особенности ручной подгонки деталей — всё это существовало в виде практического опыта инженеров и рабочих, а не в виде инструкций. Многие операции выполнялись «по ощущению», на основе накопленной ремесленной культуры. Когда эта культура исчезла, двигатель перестал быть воспроизводимым в исходном виде.

В результате современное производство Merlin оказалось не восстановлением старой технологии, а её реконструкцией. Пришлось заново подбирать материалы, пересматривать допуски, адаптировать процессы под современное оборудование и фактически переизобретать то, что когда-то считалось хорошо известным. Технология, формально сохранённая на бумаге, на практике оказалась утраченной.

Этот пример важен тем, что показывает, что технология — это не чертёж, не файл и не алгоритм, вернее сказать не только чертёж, файл и алгоритм (и т.д. по списку), но ещё и живая система понимания, человеческое знание «как именно». Стоит разорвать её хотя бы на одно поколение, и знание исчезает.


Современная техносфера устроена ещё сложнее. Ни один человек сегодня не способен в одиночку объяснить и воспроизвести всю цепочку технологий, лежащих в основе работы, например, смартфона. Знание распределено между узкими специалистами, каждый из которых обеспечивает работоспособность лишь небольшого фрагмента всей конструкции.

Говоря метафорически, мы копаем глубокие колодцы, но почти не строим между ними туннели.
И именно в такую дискретную структуру мы начинаем массово встраивать генеративные нейросети — самый непрозрачный элемент всей системы.

Даже разработчики LLM-моделей сталкиваются с проблемой интерпретируемости: архитектура известна, математика понятна, но почему модель выдала конкретно этот ответ — неизвестно. Причинно-следственные связи размыты по миллиардам компонентов внутри «черного ящика».

В результате мы осваиваем не понимание, а промпт-инжиниринг — по сути, искусство заклинаний. Мы учимся формулировать запросы так, чтобы система вела себя «правильно», не зная до конца, почему именно так это работает.
И, если код программы, обеспечивающий работу высокотехнологичной системы, сгенерирован ИИ и не до конца понятен разработчику, пользователь (тем более) не понимает устройство и принципов работы, технология перестаёт быть предметом знания и становится предметом веры.

Дочитать