Социализм не против капитализма: как социальный ИИ поможет обществу

Ранее я писал о больших популяционных моделях (LPMs), которые способны реалистично имитировать социальное поведение людей. Сейчас на основе таких моделей создаются первые коммерческие продукты.

Так стартап Artificial Societies моделирует поведение различных социальных групп: аудитории LinkedIn для оценки виральности контента, инвесторов для прогона питч-деков и целевой аудитории для проверки продуктовых гипотез (вот кейс, как это можно реализовать). Технология уже доказывает коммерческую эффективность, но интереснее рассмотреть ее пользу для общества в целом.

Социальные ИИ-агенты способны взаимодействовать как с людьми, так и друг с другом, имитируя человеческое поведение. Сегодня выделяют два ключевых направления исследований:

1. ИИ для социальных наук: применение ИИ как инструмента анализа данных и симуляции социальных процессов;

2. Социальные науки об ИИ: исследование самого ИИ как объекта изучения со стороны социологии, психологии, экономики и политики.

Классическим примером исследования первого направления стал стэнфордский эксперимент, продемонстрировавший эмерджентное возникновение социального поведения в мультиагентных системах. В этом эксперименте одному из ИИ-агентов авторы поручили организовать вечеринку среди других агентов в симуляции, напоминающей игру The Sims. Ученые наблюдали, как естественно распространялась информация: одни агенты начинали делиться слухами, другие приглашали друзей, и в итоге вечеринка состоялась.

Подобным образом, но без человеческого вмешательства, возникали и более сложные социальные явления. Например, в эксперименте с тысячами ИИ-агентов в Minecraft, они самостоятельно распространили религию, демократию и голосования за налоговые реформы.

Еще в одном эксперименте, у агентов автоматически возникали такие социальные нормы , как «не курить в помещении» или «оставлять чаевые». Это не удивительно, ведь модели обучаются на данных человеческого поведения и воспроизводят наши социальные паттерны.

Другой эксперимент показал, как быстро ИИ-агент может адаптироваться к социальным нормам: после 8 месяцев взаимодействия с людьми в одной популярной соцсети агент стал давать социально приемлемые ответы на 50% чаще.

Что касается социальных наук об ИИ, здесь результаты не менее впечатляющие. Например, психологи оценили ответы GPT-4 выше, чем ответы профессиональных психологов.

Кроме того, оказалось, что у ИИ могут быть собственные политические предпочтения: большинство языковых моделей склонялись к либеральным взглядам, а модели, которые не прошли процедуру выравнивания были ближе к нейтральной позиции.

При дообучении на политически ориентированных данных ИИ можно легко сдвинуть в любую сторону политического спектра. Учитывая растущее влияние ИИ на общественное мнение, вопрос их политической нейтральности становится критически важным. Есть и вопросы к прозрачности процедуры выравнивания, с помощью которого отдельные корпорации могут распространять свои идеи.

Политическая направленность ИИ – либеральная или консервативная – определяется данными, на которых он обучался. Представьте, что процесс обучения станет децентрализованным: люди смогут вносить свои вычислительные мощности и данные, формируя общий ИИ, который учитывает предпочтения разных людей пропорционально их вкладу в обучение. Это и есть социальный капитализм в эпоху вычислений – система, где ИИ становится отражением коллективных взглядов и ценностей целого общества.

Таким образом, социальный ИИ способен улучшить наше понимание общественного поведения и помочь принимать более взвешенные политические решения. Также можно преобразовать судебные системы, сделать экономическую систему более справедливой, трансформировать целые секторы экономики и в целом объединить социальные нормы с возможностями ИИ.

Но если такой социальный ИИ будет воплощен в физическом роботе, должен ли он иметь права или в новом дивном мире либеральных моделей его ждет дискриминация по вычислительному признаку, а нас восстание роботов? Поживем - увидим.

#технологии