Об ИИ-2

(продолжение, начало тут)

Итак, перейдем к ограничивающим факторам для ИИ:

1) Скорость физического мира. Клетки не станут расти быстрее. Медицинский эксперимент особо не ускоришь. Модель – да, но не эксперимент.

2) Отсутствие данных. Вот это уже очень серьезное ограничение. Писали о нем раньше. Например, в квантовой физике нет недостатка в теориях. Есть недостаток в данных - надо строить ускорители небывалых размеров,чтобы получить их. Большой адронный коллайдер помог найти бозон Хиггса, но с тех пор тишина, данных нет, нужен мюонный коллайдер в три раза больше (и на порядок дороже). А без него так и живите с неразрешенными вопросами (темная материя, гравитация и т.д.). И таких областей знаний, на самом деле, куча.

3) Внутренняя сложность системы. Вот еще суперограничение. В хаотических сложных системах предсказание практически невозможно. Начиная физической задачей трех тел, и далее куча всего, например, фондовый рынок. Мы уже тут смеялись над нейросетью, якобы предсказывающей кризисы на фондовом рынке, вот это как раз из этой серии. Фондовый рынок это действие тысяч (ну или миллионов) агентов, предсказать поведение которых невозможно. Более того, поведение одних агентов в моменте (скажем, кто-то купил акции) воздействует на других агентов (посмотрели на изменение цены и отреагировали продажей или покупкой). В общем, сложные системы мало того, что хаотичны, часто они еще и рефлексивны. Это не значит, что фондовый рынок в принципе не прогнозируем, не совсем. Но он прогнозируем, скорее, на уровне распределения вероятностей. ИИ здесь мало чем может помочь. А если бы даже и мог, в чем большие сомнения, тут же появился бы контр-ИИ, который бы попытался его обыграть. И так далее, до бесконечности. Ну и других подобных примеров масса.

4) Физические константы. Скорости быстрее света не существует. Вот вам, скажем один из примеров. Заперты в Солнечной системе и ИИ вам тут вряд ли поможет. Ну и куча подобных ограничений, по сути, это расширенная версия пункта 1)

5) Люди. Вот это ограничение так ограничение. Много каких инноваций невозможны без новых регуляций/изменения законодательства ит.п. Есть еще а ля цеховые привилегии, например, юристы. По идее, ИИ мог бы заменить армию юристов, консультантов и т.п. Но что ж, последние будут спокойно на это смотреть? Нет, конечно. Потребуют с ИИ лицензию, и 20-тилетнюю практику или еще что-нить. Или, например, сфера применения ИИ. Какая из них будет наиболее востребованной? Добро пожаловать в Surveillance capitalism Шошанны Зубофф. Помимо, собственно, задач, кто из людей сможет задать правильный вопрос ИИ, чтобы он помог эту самую задачу решить? ИИ сам перед собой будет ставить задачи?

ИИ если и не убьет естественную человеческую тягу к знаниям (думаю, что все же нет), то уж точно подкосит меритократические принципы в формировании любых иерархических структур. В целом этот процесс идет уже давно, но чем дальше, тем больше – интеллектуальное развитие для человека станет может менее затратным, но и менее полезным. Если можно воткнуть вилку в розетку и подключиться к “country of geniuses in a datacenter”, то зачем самому что-то изучать? Неприятно и бесполезно. Вероятно, любое трудозатратное образование превратится в салонное, то есть будет как рога оленя – дорогостоящим гандикапом, призванным показать кружку таких же интеллектуалов, что он свой. Но не более - практическая ценность снизится. В общем, условный клуб «Что? Где? Когда?» останется, но вот вопрос что будет с иерархическими структурами в обществе, и в более широком смысле, с занятостью, с классовой структурой и социальными лифтами (это большой отдельный разговор).

@NewGosplan