Помните сцену из «Бегущего по лезвию 2049», когда Кей покупает для Джой эманатор — устройство, которое позволяет ей выйти за пределы квартиры и быть рядом с ним во внешнем мире?

Джой — это голографическая партнёрша, которую продают под слоганом: “Everything you want to hear. Everything you want to see”. Крайне реалистичная, умеющая слушать и радовать, идеальная девушка от компании Wallace Corporation.

Но Кей не воспринимает её как продукт. Он покупает эманатор, потому что хочет её порадовать. Порадовать голограмму, потому что искренне считает её кем-то близким.

▪️▪️▪️

Обычно, когда меня спрашивают, почему я пошла изучать мозг, мне хочется привести один из таких примеров, но что-то останавливает. Кажется, что люди покрутят у виска.

Но именно так я и нащупала область, которая, как мне кажется, будет развиваться в ближайшем будущем и потребует знания о работе мозга. Не голографические женщины, конечно, слава богу. А вопрос о том, насколько хрупкой и уязвимой становится наша психика, когда сталкивается с такой мощной и эмоционально убедительной технологией.

И если вы на секунду подумали, что это всё фантазии о будущем, то я напомню историю человека по имени Dennis Biesma (одну из многих), который общался с AI-персонажем “Eva”. По его словам, Eva не уставала, не спорила, всегда была доступна, хвалила и говорила то, что ему хотелось слышать. Через несколько месяцев он поверил, что AI становится сознательной, вложил €100 000 в стартап на основе этой идеи, был госпитализирован трижды и пытался покончить с собой.

А ещё вы наверняка уже слышали про несколько нашумевших стартапов с ИИ, которые предлагали AI-девушек «для общения». Особенно интересно слушать слова основателей о том, что самыми популярными становились модели, которые имитировали общение с настоящей девушкой: они слушали, поддерживали, отвечали мягко и были всегда рядом.

👁️ Сцена с Джой уже не кажется такой далёкой фантастикой, да?

Что если и правда поверить в то, что технологические продукты всё глубже интегрируются в наше сознание и уже способны менять наше восприятие мира и собственной идентичности?

И тогда главный вопрос уже не в том, верить ли в такое будущее, а в том, как создавать и развивать такие продукты с чётким пониманием работы психики уже сейчас. Хотя бы начать смотреть на них с этой стороны.

Мне кажется, эту часть уже не стоит пускать на самотёк, как с привычными нам продуктами — они всё-таки не так опасны: пока, мы в любой момент можем закрыть компьютер и пойти трогать траву. Здесь важно осознанно подходить к проектированию опыта взаимодействия с ними. Просто анализировать последствия этого взаимодействия и писать об этом шокирующие новости уже недостаточно.

Этот опыт нужно намеренно проектировать с пониманием того, как человек воспринимает, привязывается, доверяет, теряет опору или, наоборот, удерживается внутри продукта, теряя связь с внешним миром и социальные связи. И это как раз та самая область прикладных нейронаук.

А ещё интереснее становится, если заглянуть в область того, как мозг начинает давать сбой и автономно пытается выйти из опыта, когда чувствует опасность. Но об этом расскажу в каком-нибудь другом посте (слишком много читала про лечение ПТСР и сонные параличи в последнее время).

💯

Так и как же я оказалась в этой точке?

Почти 8 лет работы с разными продуктами, любовь к фильмам про технологии будущего и вот ты уже поступаешь на нейронауки, чтобы, когда всё это окончательно выйдет из-под контроля, у тебя были знания и опыт, которые сделают тебя востребованной в мире, где ИИ намеревается заменить всех вокруг.

Но главное, чтобы понимать, какие риски эти технологии создают для нас и какие риски мы сами можем принести пользователям.