Крысы и ИИ — что общего?


В 1953 году эксперимент Олдса с крысами обнажил темную сторону животной природы: стремление к удовольствию может погубить нас. Крысы, обладавшие кнопкой для стимуляции удовольствия в мозге, предпочитали ее даже еде, умирая от исступленной охоты за блаженством.

Идея, что наше желание наслаждения превышает все остальные потребности, впечатлила ученых. Даже научная фантастика 60-х годах (Айзек Азимов, Фрэнк Герберт) предупреждала о возможности замены физического быта в пользу бесконечного удовольствия. И оказалась пророческой.

Перейдем в 2016 год. Ученые, занимающиеся ИИ, обнаружили: нейросеть, созданную для гонок, «подкармливали» вознаграждениями в процессе гонок — и она стала игнорировать цель, сконцентрировавшись исключительно на получении удовольствия! Это шокирующий пример того, как искусственный интеллект может превратиться в зависимого, подобно крысам Олдса.

Ученые уже давно бьют тревогу. Можно, конечно, списать на прогресс общества, связанный с повышением уровня комфорта. Но эволюция может стремиться и к деградации. Дарвин описывал организмы-паразиты так: каждое следующее поколение было проще, чем предки, т.к существовали за счет того, к кому «присасывались» — питались энергией и пищей хозяина. Генетик Холдейн (1892-1964) переживал: «предки паразитов были с головами, но потеряли их. В погоне за удовольствиями человек также может потерять разум».

Страх продолжает жить и сейчас. Когда ИИ становится умнее человеческого, ученые всерьез задумываются о безопасности применяемых технологий. Иначе наша цивилизация полетит в пропасть за наслаждением. Люди стали предпочитать что-то более впечатляющее и красивое, виртуальное и выдуманное, а не настоящее. Потребительство, социальные сети и фастфуд засасывают нас в воронку удовольствий, как Олдовских крыс.

Как быть? Ученые трудятся над этой проблемой. Но решение на примитивном уровне — контролировать свою погоню за легким наслаждением (шоппинг, фастфуд, соцсети, сериалы), чтобы не утратить важное — наш разум.