От формулы к черному ящику: мы перестали понимать мир?

Используя в вычислениях ту или иную формулу, мы часто не понимаем ее смысла. Да и зачем, если все формулы уже выведены и готовы к использованию? С развитием нейросетей мы шагнули еще дальше от понимания вычислительного процесса, променяв осмысление на эффективность и скорость. Нейросети выдают пользователю результат, основываясь на закономерностях, которые часто не может сформулировать вообще никто, включая и тех, кто нейросети обучал. «Это прогресс или капитуляция перед сложностью мира?» — об этом рассуждает в своем блоге Дмитрий Пронин.

«Как?» и «почему?»

На протяжении истории человечеству часто приходилось отказываться от привычного понимания мира и двигаться в сторону всё более сложных абстракций. Так, в античности придумали иррациональные числа для описания длины квадрата и идею нуля как мысленного эквивалента «ничего», а для торговли понадобились отрицательные числа. Эти абстракции были сложны для восприятия, но они предлагали объяснение тому, что раньше было непонятным.

«Как?» без «почему?»

В дальнейшем получили развитие численные методы. Когда точной формулы нет, можно найти приблизительный ответ через серию вычислений и перебор вариантов. Численные методы уже не позволяли сформулировать универсальный закон через компактное уравнение, но зато позволяли подобрать примерные закономерности для очень сложных систем. Появление компьютеров сделало их применение намного эффективнее: машины быстро выполняют вычисления, которые хорошо поддаются алгоритмизации.

Правильные ответы без «как?» и «почему?»

Следующим шагом стали статистические методы и выросшее из них машинное обучение. Они позволили нам предсказывать закономерности, которые проявляются на больших массивах наблюдений. Эти методы эффективно работают с такими материалами, как изображения и естественный язык. Но понимания стало еще меньше: теперь мы не понимаем не только почему система ведет себя так или иначе, как это было при использовании численных решений без аналитической формулы, но и на какой закономерности строится решение.

🙈 Мы совсем перестали понимать мир?

Численные и вероятностные подходы — это не замена теории и не отказ от научной строгости. Скорее, они закрывают практические потребности там, где создать стройную теорию (пока) не получилось, но есть много данных для выведения закономерностей. Например, анализ текстов или картинок. Подробнее о том, как наука работает с такими задачами, читайте в блоге Дмитрия Пронина.

🤖 «Системный Блокъ» @sysblok