Особенность этого кейса в том, что ИИ здесь использовался не для создания отдельных публикаций – Claude был встроен в целую систему обеспечения информационного влияния. Оператор, работающий на правительство ОАЭ, создал собственную платформу с ИИ-персоной под названием «Deadshot», внутри которой находился специальный файл с инструкциями. Он задавал единую политическую линию для сотен сессий и фактически превращал Claude в постоянный инструмент одной кампании.
По данным Anthropic, операция включала ведение около 300 фейковых аккаунтов, которые использовались для распространения нужных нарративов в Х против правительственных сил и исламистов в Судане и создания впечатления независимой общественной поддержки про-эмиратской позиции. При этом в документах самой операции «независимость» этой сети называлась главным стратегическим преимуществом, поскольку ее связь с государственным заказчиком должна была оставаться незаметной.
Отдельное направление было связано с созданием фиктивной неправительственной правозащитной организации. Операторы внаглую скопировали идентичность реальной швейцарской организации и использовали ее образ для публикации материалов о правах человека в Судане, подготовленных в интересах ОАЭ.
Помимо этого, данная операция в Claude включала в себя даже работу с продвижением позиции ОАЭ в ООН. Операторы подготовили полностью написанные искусственным интеллектом показания из Судана для двух конкретных докладчиков, которые должны были выступить на 62-й сессии Совета ООН по правам человека. При этом в тексты специально внесли ограничения, чтобы выступления не содержали упоминаний ОАЭ. Таким образом, материалы должны были выглядеть как независимые свидетельства местных очевидцев, хотя фактически создавались в рамках операции, связанной с государственными интересами ОАЭ.
Наконец, Claude использовался в данной операции и для работы против конкретных людей. Так например, операторы собирали подробные досье на 18 депутатов Европейского парламента и известных журналистов, которые критиковали роль ОАЭ в массовых убийствах мирного населения в Судане. Помимо этого, они составляли материалы против специальных докладчиков ООН, которые также участвовали в этой кампании критики.
Anthropic утверждает, что расследование с высокой степенью уверенности связало операцию с представителями правительства ОАЭ, поскольку в документах также фигурировали высокопоставленные эмиратские чиновники как предполагаемые получатели подготовленных материалов. При этом компания не смогла установить, дошли ли подготовленные показания и досье до тех людей и организаций, для которых они предназначались.
На примере этого эпизода из внутреннего расследования от Anthropic напрашиваются два важных вывода:
1) Анонимности и конфиденциальности запросов в нейросетях, на самом деле, не существует (если это для кого-то все еще было секретом). Если вы обсуждаете с ИИ планирование чего-то противозаконного или используете его для реальных политических и военных задач, то с высокой долей вероятности вы уже попали в поле зрения.
2) Если в вашей фидленте и в комментариях в X, TikTok, Instagram** и где-либо еще массово публикуется неприятная или странная для вас информация социально-политического характера, то не факт, что это на самом деле отражает настроения в обществе. Скорее всего, какой-то человек знает как использовать ИИ, чтобы влиять нашу вашу психику и ценности.
(*) – запрещенная террористическая организация(**) – принадлежит компании Meta, чья деятельность признана экстремистской и запрещена на территории некоторых стран@occidentalist