Прочел новый отчет Anthropic об угрозах. Они собрали в него огромное количество кейсов того, как пользователи не совсем легально используют Claude Code и другие продукты компании. И я вам скажу, что это занимательное чтиво.

Оставим в стороне главных негодяев по мнению Антропиков. Это Alibaba, Moonshot, DeepSeek, Zhipu, Xiaomi, SenseTime и MiniMax, которые гоняют модели Anthropic, чтобы обучать свои (дистилляция). Alibaba якобы провела более 151 млн взаимодействий с Claude между маем и июлем, с пиком почти в 3 млн в день. Другие китайцы тоже неплохо абузят антропиков. Moonshot за тот же период 23 млн, DeepSeek 12,1 млн всего за 14 дней.

Более интересно изучать другие кейсы, например, как используют Claude в сфере знакомств. Китайская студия выпустила больше двадцати приложений для знакомств и заселила их персонажами на Claude. В рекламе писали, что общаются живые люди. За две недели апреля насчитали 4700 таких персонажей и 25 тысяч реальных пользователей. Из тех, кого человек видел в ленте, ботами были три из четырех.

Оставшуюся четверть составляли настоящие люди, нанятые на подработку. Держали их ровно для того, чего нейросеть не умеет, для видеозвонков и подписок в соцсетях, чтобы у жертвы не возникло сомнений. Этим людям, кстати, тоже писала нейросеть, просто другая и подешевле. Она подсказывала три варианта ответа, а человек тыкал в один. Система подделывала лайки и заранее записанные видео, а еще вела отдельный список тех, кто начал догадываться.

Очень много кейсов использования модели для слежки. Например, в Мали разработчик написал для государственной разведки систему, которая следит примерно за 25 миллионами сим-карт у всех трех операторов страны. Она узнает человека по голосу, даже если он поменял симку, помечает тех, кто пользуется ВПН, и вычисляет тайные встречи. Система работает на серверах заказчика, поэтому блокировка аккаунта остановила разработку, но не саму слежку.

Кстати, основная ценность для большинства воришек из кейсов это API-ключи для Claude. Воруют их ради трех вещей сразу. Ключ можно перепродать, на нем можно бесплатно работать за чужой счет, и вся активность в логах записывается на владельца. То есть это еще и алиби.

Ищут ключи там, где разработчики их забывают. Один взломщик арендовал десять серверов и скачал 1,8 миллиона мобильных приложений, чтобы вскрыть каждое и выгрести оттуда все забытые пароли. Находки автоматически падали ему в телеграм-канал, разложенный по 471 теме, отдельная тема под каждый тип пароля.

В общем, я вам очень рекомендую почитать оригинал отчета, а в комментариях оставлю краткую версию в MD-файле.