ИИ и странный новый мир: темная сторона технологий

Недавнее исследование, проведенное учёными Цюрихского университета, привлекло внимание к важному и недостаточно осмысленному аспекту современного ИИ — его способности участвовать в социальной коммуникации не просто как инструмент, а как активный и адаптивный субъект дискурса. В рамках эксперимента ИИ-генерируемые посты и комментарии публиковались на форуме Reddit без предварительного уведомления пользователей о том, что они общаются не с реальными людьми а с фальшивыми аккаунтами, что само по себе вызвало этическую дискуссию. Однако за пределами конкретных нарушений правил сообщества стоит более широкий вопрос, о двойственной природе искусственного интеллекта и его мощи, которую можно использовать в разных целях.

ИИ демонстрирует не только эффективность в решении задач, но и способность к контекстуальной, персонализированной, очень убедительной аргументации. В обсуждаемом случае нейросеть не просто подбирала логически убедительные формулировки, но и вживалась в роли, апеллируя к чувствительным и эмоциональным темам — политике, насилию, расовой идентичности, медицинскому опыту. В результате, реальные пользователи соглашались с ним и диаметрально меняли свое мнение по важным вопросам. Они поддавались на манипуляцию. Это говорит о том, что ИИ может функционировать не просто как логическая машина, но как производитель очень правдоподобного символического и аффективного содержания. Иными словами, он начинает действовать внутри границ человеческого опыта, и изменять его гораздо эффективней, чем могут это делать сами люди.

Тем самым мы сталкиваемся с фундаментальным вызовом: возможности ИИ столь же масштабны, как и риски, которые они влекут. Это не просто проблема регулирования, а вопрос об уровне мышления, необходимом для работы с такими технологиями. Стандартные подходы, юридические, этические, технические, оказываются недостаточными в мире, где на нас воздействует то, с чем мы не можем конкурировать по силе убеждения.

В условиях, когда ИИ всё более способен имитировать человеческую речь и убеждать лучше самого человека, необходим переход к радикально иному типу мышления — мышлению, способному удерживать в поле зрения не только функциональные и логические, но и онтологические, символические и антропологические последствия этой технологии. Такой подход требует не только новых норм, но и новых понятий: о человеке, об истине, о границах допустимого в коммуникации.