Ученый собрал ИИ внутри стратегии Age of Empires II

Исследователь из Microsoft Адриан де Уинтер доказал потрясающую и очень отрезвляющую вещь: математическую логику искусственного интеллекта можно буквально собрать из пиксельных овец и крестьян в классической стратегии Age of Empires II.

В рамках своего эксперимента ученый использовал встроенный редактор сценариев игры для создания перцептрона — базового элемента нейронных сетей. В этой нестандартной архитектуре роль электронных сигналов выполняли виртуальные овцы и крестьяне. Они перемещались по заранее заданным маршрутам, выполняя функции логических вентилей и передавая информацию между узлами. Кроме того, де Уинтеру удалось реализовать аналог универсальной машины Тьюринга, где роль символов на ленте играли различные постройки, а состояния системы кодировались через параметры игровой экономики.

Главный философский посыл этого исследования сводится к тому, что наше восприятие разумности алгоритмов является следствием удобного интерфейса, а не реальных свойств системы. Когда чат-бот обращается к пользователю от первого лица, используя конструкции вроде "я думаю" или "мне кажется", человек автоматически приписывает машине человеческие качества. Но если точно такие же математические операции перенести в среду старой стратегии, где вычисления производятся бегающими по карте юнитами, иллюзия эмпатии и сознания моментально исчезает.

Автор работы подчеркивает, что многие популярные тесты ИИ изначально логически замкнуты: исследователи находят в ответах нейросетей ровно те эмоции, наличие которых сами же предварительно допустили. В качестве научной альтернативы де Уинтер предлагает концепцию "нулевого предположения". Согласно этому принципу, до появления неопровержимых доказательств алгоритмам категорически нельзя приписывать психологические свойства, анализировать нужно исключительно измеримые технические параметры и фактическое поведение программного кода.

Подобное очеловечивание ИИ несет в себе риски для безопасности. Разработчики намеренно наделяют чат-ботов признаками субъектности, чтобы сделать общение более комфортным, однако это провоцирует нездоровую эмоциональную привязанность у пользователей и формирует у общества совершенно ложное представление о том, как работают современные технологии.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX