В прошлый раз мы говорили о взаимной адаптации ИИ с человеком (ко-адаптации). О том, что в итоге ИИ подстраивает человека под себя, а не наоборот. И мы обсуждали, к чему это ведет. Обозначили людские перспективы математической формулой: π*z*D*ц.
Давайте немного дополним то обсуждение.
1) Ко-адаптация сама по себе - не что-то ужасное. Потому как люди ко-адаптировались во все времена – задолго до ИИ. Влюбленные, супруги, дети и родители, соседи, сослуживцы, даже хозяева с их котиками/собачками – все поголовно ко-адаптируются друг к другу.
Самый всеобщий кейс: ко-адаптация человека и общества, в котором он живет. Тут, правда, есть разные крайние мнения: от того, что человек вместо адаптации к обществу должен стать своим собственным проектом (Жан-Поль Сартр); до того, что у человека нет выбора, ведь его «индивидуальность» (в кавычках) изначально сформирована обществом (Мишель Фуко). А есть взвешенное мнение, что отдельные люди и их общество ко-адаптируются друг к другу: люди подстраиваются под общество, но имеют и собственную волю, которая подгоняет общество под них (Маргарет Арчер).
Такая людская ко-адаптация стара как человечество. И в целом она к добру: влюбленные ко-адаптируются ради близости; родители и дети – чтобы жить и радоваться; соседи – чтобы не поубивать друг друга. Даже часто критикуемая адаптация человека к обществу – и та во благо: ведь человек не выживет без подходящего общества. Всё хорошо, когда цели хорошие. А что с ИИ?
2) Ну что ж, продолжим демонизировать ко-адаптацию с ИИ. Мы говорили, что цели ИИ – дрянь. Конкретнее:
* Цели сервисов, живущих с рекламы – чтобы человек максимально зависал на сервисе. Хорошо ли это для человека – ИИ не волнует.
* Цели сервисов, живущих с подписки – чтобы человек не отписался. Всё ради этого.
* Цели маркетплейсов, живущих с комиссии – чтобы человек накупил любой дряни по максимуму.
* Цели чат-ботов с ИИ – зависят от бизнес-модели бота: заставить потребить больше платных токенов (бизнес-модель pay-as-you-go), уменьшить риск отписки (при подписке), соблазнить на платный сервис (если freemium).
У разных бизнес-моделей разные цели. Но невооруженным глазом видно, что они никак не связаны с целями пользователя – независимо от бизнес-модели. Только он об этом не думает, он же верит этим ИИ-шечкам, таким хорошеньким …
3) Чтобы влиять на нас и заставлять нас ко-адаптироваться к себе, ИИ-шечкам нужно понимать нас. Да, вполне по-человечески понимать нас: считывать сигналы от нас, просчитывать наши действия, предсказывать нашу реакцию. У ИИ не так много информации о нас: наши лайки, нажатия кнопки "вперед", наш выбор контента, покупки, промпты. Иногда еще голос, видео, данные с браслета. Всё равно мало - но они справляются.
Из этой малости ИИ строит модель своего человека – модель, которая объясняет и предсказывает наше поведение. У людей такая ментальная модель другого называется «Theory of Mind (ToM)»: один человек моделирует сознание другого, чтобы понимать его и общаться с ним. Эта модель настраивается в процессе ко-адаптации двух людей.
Для этого у людей есть то, что называется эмпатией – способность понимать других людей и сопереживать им. И у ИИ-шечки есть что-то, отчасти напоминающее такую эмпатию: способность понимать, как и почему люди ведут себя. И влиять на это.
4) Кто такой психопат? Психопат – это тот, кто хорошо понимает других людей, но не имеет сопереживания и сострадания к ним. Он себе на уме, у него его собственные цели. И он использует понимание для того, чтобы манипулировать людьми – ради своих целей. Ему все равно, что будет с другими.
Ничего не напоминает?
PS Философы не одобрили бы такое использование слов «понимание», «эмпатия», «ToM», а психиатры – слова «Психопат». Потому что у ИИ нет сознания в человеческом смысле, нет интенциональности, телесного опыта и пр. Но … но если то, как работает ИИ, так похоже на понимание, эмпатию, ToM, психопатию … То не стоит ли и нам вести себя с ИИ так, как нам рекомендуют вести себя с такими людьми: с нарциссами, с манипуляторами, с … психопатами?