Станет ли ИИ Големом 21 века – 2
Условия создания «как бы живого существа»
Человечество тщетно спорит по двум вопросам:
✔️ Когда искусственный интеллект (ИИ) во всем превзойдет нас, превратившись в Супер-ИИ?
✔️ Что после этого произойдет:
- с помощью Супер-ИИ люди совершат прорыв в рай цифрового бессмертия и всеобщего изобилия?
- или Супер-ИИ истребит нас за ненужностью, создав на Земле новую супер-цивилизацию машин?

О том, что ответа на эти вопросы не существует, ибо сама их постановка ошибочная, мною написано много (например, «Техносингулярность становится технорелигией – 1 и 2).

Но есть воистину сакраментальный вопрос –
как определить, что мы создали искусственное, но, как бы, живое своенравное существо (способное хотеть и стремиться), а не очередной, пусть и очень сложный инструмент (алгоритм или робота) для достижения наших собственных целей?

Стюарт Кауффман – современный гений уровня Аристотеля, - совместно с Андреа Роли – исследователем ИИ и сложных систем из Болонского университета, - впервые смогли ответить на этот сакраментальный вопрос.

Развивая идеи гения ХХ века – пионера в исследовании сложных систем Уильяма Эшби, - изложенные им в прорывной монографии «Конструкция мозга», Кауффман и Роли смогли определить минимальный набор необходимых и достаточных свойств «как бы живого искусственного существа», способного эволюционировать в меняющейся среде обитания.

1. Способность «как бы живого искусственного существа» различать, что ему полезно/выгодно, а что нет ("что такое хорошо и что такое плохо", - по выражению Эшби). Эта способность заключается в умении классифицировать релевантную информацию из окружающей среды. Данное умение необходимо для создания смыслов, определяющих, что важно для выживания организма в его экологической нише, и направляющих эволюцию специализированных сенсоров. Последние необходимы для улавливания паттернов и определения корреляций между ними, которые затем получают названия, превращаясь в семантическую информацию.
2. Помимо названной в п. 1 способности, «как бы живое искусственное существо» должно уметь правильно использовать эту информацию. Как следствие, должны быть разработаны механизмы и средства для действий в мире. В роботизированных терминах можно говорить об исполнительных механизмах и эффекторах, но Кауффман и Роли также включают сюда способность принимать решения и действовать, т.е. иметь политику управления, которая подлежит адаптации и изменениям, согласно принципу "что такое хорошо и что такое плохо" из п. 1.

Названный набор свойств «как бы живого искусственного существа» авторы используют в привязке к 3м важнейшим факторам эволюции.

Доступность семантической информации. Это не семантика Шеннона, а корреляции в окружающей среде, полезные для существа, поскольку несут в себе знания. Доступность – ключевое понятие в биосемиотике, отличной от семиотики компьютеров, оперирующих синтаксисом (битами), а не семантикой. Но мир - это не алгоритмы с операциями над битами, кодирующими символы. Мир - это шишки и вмятины, голод и боль … Это и есть семантика по Кауффману.

Создание смыслов путем анализа «смежного возможного», т.е. через новые возникающие функции и динамические паттерны, которые оказываются полезными, но их невозможно заранее предсказать (как использование отвертки неопределенно и непредсказуемо)

Критичность - динамический режим на границе между порядком и хаосом. «Как бы живые искусственные существа» должны быть спроектированы так, чтобы критические динамические режимы были для них «хорошо»).

1я часть – Станет ли ИИ Големом 21 века?
#ИИ #Эволюция #СмежноеВозможное
Golem by Warren Criswell