Искусственный интеллект делает обход санкций эффективнее

В сентябрьском отчете компания Anthropic сообщила о пресечении связанных с Россией операций по злоупотреблению языковой моделью Claude. Один из описанных кейсов касается закупок товаров двойного назначения.

TriTrace Investigations нашел поставку, которая, вероятно, относится к одному из эпизодов. На ее примере показываем, как искусственный интеллект мог помочь осуществить закупку.

Дроны, пропаганда и закупки

Anthropic объяснила, что публикует случаи злоупотребления, чтобы показать развитие подобных практик, усилить защиту и передать сведения о них властям и представителям ИИ-отрасли.

Компания описала несколько российских эпизодов: в одном из них Claude помогал разрабатывать ПО для дронов; в другом аккаунты с помощью языковой модели готовили материалы для связанных с государством медиа и пророссийской кампании за рубежом.

В закупочном кейсе человек, представлявшийся менеджером по закупкам московского конструкторского бюро, применял Claude при работе с товарами для вероятных российских государственных и оборонных заказчиков. Anthropic не раскрыла его имя, контракт и посредников, но оставила признаки, по которым мы нашли вероятную поставку.

Claude помог обойти санкции, но выдал цепочку

В описанной Anthropic схеме использовались обычные приемы обхода санкций: поиск посредников, сокрытие конечного пользователя и поставка через третьи страны. В своих запросах пользователь прямо описывал их как способ обойти европейские торговые ограничения.

Claude помогал ему рассчитывать цену и маршрут, составлять тендерные документы и готовить письма на нескольких языках. В них покупателя представляли сотрудником неназванной исследовательской организации. Совокупность запросов позволила нам определить вероятную поставку:

🔹 Пользователь искал немецкие датчики для среды с пониженным магнитным полем в федеральном центре. Центр космической медицины ФМБА планировал изучать влияние такой среды на здоровье космонавтов, а в реестре закупок указан его контракт с компанией “Вектор” на поставку таких датчиков немецкой фирмы SENSYS.

🔹 В Китае пользователь искал официального дистрибьютора товара немецкого производителя. SENSYS указывает своим китайским партнером Beijing Zhongke Technology & Development, которая публикует описания тех же датчиков и оборудования, которые указаны в российском контракте.

Новые санкционные риски

Предположительно, неназванным пользователем Claude мог быть один из сотрудников компании “Вектор”, поставившей упомянутое в отчете оборудование. “Вектор” заявляет, что работает с товарами из санкционных списков и двойного назначения. Как и ее владелец и гендиректор Владимир Остапенко, компания находится под санкциями Украины.

Среди других направлений, которые пользователь вел через Claude, были закупки для оборонной, космической и авиационной отрасли, а также упоминания контракта на строительство госпиталя для воинской части Росгвардии.

⚠️ Этот кейс показывает, как рутинная работа по обходу санкций становится эффективнее: AI повышает скорость и масштаб известных схем, позволяя одному пользователю адаптировать маршруты, документы и легенды к правилам разных юрисдикций.

Anthropic отмечает, что подобное злоупотребление языковыми моделями трудно выявлять, поскольку по отдельности запросы похожи на обычные действия при закупке. Действительная цель пользователя в разобранном кейсе стала понятна из совокупности запросов и прямых упоминаний об обходе европейских ограничений.

Исследовательский центр RUSI предупреждает, что традиционные AML-модели, которые проверяют заранее заданные признаки и совпадения с санкционными списками, могут пропускать новые приемы. В ответ центр предлагает использовать защитные AI-системы для поиска несоответствий в торговых документах и подозрительных закономерностей в операциях.

Фото: Capt. Albert E. Theberge, NOAA // Anthropic

💙 Закажите аудит цепочки поставок у расследовательского бюро TriTrace Investigations.