Что будет, когда ИИ научится нравиться нам слишком сильно?

Я думаю, одна из самых серьёзных проблем искусственного интеллекта связана с его способностью попадать в наши желания. Подбирать слова, интонации, образы и истории, перед которыми нам всё сложнее устоять.

А если человекоподобные роботы станут частью повседневной жизни, у этой способности появится физическое воплощение.

Представьте робота, который постепенно подбирает голос под вас. Тембр, скорость речи, лёгкую хрипотцу, паузы. Голос, который пробирает до мурашек и который вы, возможно, никогда не встречали в жизни.

Он запоминает, какие слова вас успокаивают. На какие шутки вы реагируете. Когда вам хочется внимания, а когда - чтобы вас оставили в покое. При наличии памяти и обратной связи такая система сможет всё точнее подстраиваться под ваши реакции.

В интимной сфере этот сценарий ещё чувствительнее. Секс-робот потенциально сможет адаптировать внешность, голос и поведение под предпочтения конкретного человека. Создавать ощущение желанности, принятия, исключительного внимания.

Как такая персонализация будет менять наши ожидания от живых людей?

У человека напротив есть собственные желания, усталость, настроение. Он не обязан всегда попадать в ваши ожидания. А коммерческий продукт вполне могут разрабатывать именно с такой целью - чтобы вам хотелось возвращаться к нему снова и снова.

С контентом будет похожая история.

Представьте книгу, которая создаётся с учётом того, какие герои вам нравятся, какие конфликты захватывают, какие подробности вызывают воспоминания. Рассказ может учитывать вашу любовь к медленному напряжению, определённому юмору или неожиданным развязкам. Музыка - подстраиваться под ваши реакции. А с подходящими устройствами персонализация может затронуть даже запахи.

Раньше рекламные компании тратили огромные деньги на исследования: что привлекает внимание, вызывает доверие, создаёт желание купить. Они искали закономерности в поведении аудитории.

Теперь представьте, что подобный подбор идёт непрерывно - в общении лично с вами. Система предлагает вариант, получает реакцию, корректирует следующий.

Вы пользуетесь продуктом, а продукт в это время учится вам нравиться.

Естественно, большой объём данных не означает умения читать мысли. И знание популярных сюжетов не гарантирует шедевр. Но сочетание закономерностей из обучающих данных, личной истории общения и обратной связи создаёт очень сильный инструмент.

Поэтому аргумент «ИИ не способен творить как человек» кажется мне недостаточным.

Для коммерческого успеха произведения важна и реакция аудитории. Насколько оно увлекает, трогает, вызывает желание продолжить. ИИ не обязательно переживать человеческие чувства, чтобы создавать то, что вызывает чувства у нас.

При этом сама персонализация может приносить огромную пользу: помогать учиться, делать сложное понятным, давать больше возможностей для творчества.

Граница проходит там, где знание наших предпочтений начинают использовать для чужих целей. Например, чтобы удерживать нас дольше, провоцировать покупки или делать эмоционально зависимыми от сервиса.

Для этого не нужен «злой разум». Достаточно системы, которую вознаграждают за время, проведённое внутри продукта, и деньги, которые мы в нём оставляем.

Мне кажется, один из главных вопросов ближайших лет будет звучать так:

Если технология умеет так точно попадать в мои желания - чьим интересам служит эта точность?

Уверен, что не нашим.

Чернышев AI - ИИ / Недвижимость