Парадокс Полани 🤖

Решил разбавить выходные чем-то умным и написать про одну штуку, которую часто вспоминают, когда обсуждают искусственный интеллект.
Речь про Парадокс Полани, названный в честь британско-венгерского философа Михаэля Полани, звучит так:
«Мы можем знать больше, чем можем сказать».

Расшифровать мысль можно так: любой человек способен выполнять достаточно сложные задачи, даже если сам не понимает, каким образом он их выполняет.
Как утверждает Полани, при выполнении таких задач люди полагаются на свои неявные знания, которые очень трудно передать через вербальные средства общения (через речь).

Попробую грубо пояснить на примере.
Если вы научились управлять одним автомобилем, то достаточно легко сможете управлять сотнями других автомобилей с разными характеристиками.
А в случае с ИИ, его придется настраивать почти с нуля под конкретный автомобиль. По крайней мере пока.

Именно Парадокс Полани считают одним из основных препятствий в развитии ИИ и автоматизации, поскольку запрограммировать и автоматизировать задачу достаточно трудно, если нет полностью описанного процесса.
Современный ИИ не умеет понимать контекст и не может принимать сложные решения, которые люди — вне зависимости от специализации и образованности — принимают каждый день, просто потому что «знают больше, чем могут объяснить».
Получается, что человек не только опирается на предложенные данные, но он может фантазировать, воображать, чувствовать и даже предсказывать последствия. И рассматривать ситуацию с разных сторон. В том числе с позиции этики. Эти наши навыки не требуют дополнительных данных, они уже «встроены» в человека.

Поэтому ИИ не может заменить людей в "открытых" системах, которые сталкиваются с внешним миром. Потому что внешний мир максимально изменчив и не стабилен.
ИИ хорош для решения задач по поиску закономерностей, вынесению суждений и оптимизации каких-то процессов.
Человек же может решать сложные задачи в постоянно меняющейся среде.

Поэтому на текущем этапе развития можно говорить скорее о симбиозе человека и машины. Но точно не о замене одного другим.
По крайней мере пока. 🤨

#мысли #кругозор #ии