Российские и китайские хакеры использовали Claude в незаконных целях

В своём новом отчёте Anthropic рассказала о попытках задействовать её ИИ для разработки оружия и кибератак. По данным компании, юзеры из России, Китая и Йемена привлекали Claude к написанию софта для ракет, ударных дронов и систем наведения. Также были попытки из неназванных стран, где не работает Anthropic, использовать нейронку для создания биологического оружия.

Отдельный блок посвящён группировке Midnight Blizzard, которую связывают с российской военной разведкой. Хакеры задействовали Claude для кибершпионажа против украинских ведомств, военных и дипломатов. ИИ помогал им на всех этапах — от автоматизации фишинга и взлома гостиничного Wi-Fi до перехвата аккаунтов в WhatsApp. Но главное, что хакеры научили Claude «на лету» переписывать код вредоносных программ, как только их фиксировали защитные системы.

В Китае же разработчики сосредоточились на краже ИИ-наработок и промышленном шпионаже. Сразу семь местных ИИ-лабораторий, включая Alibaba, DeepSeek, Moonshot и Xiaomi, занялись «дистилляцией», то есть выкачивали ответы Claude для обучения собственных моделей. Одна только Alibaba создала более 3,5 тысяч фейковых аккаунтов и сгенерировала 151 миллион запросов для прокачки своей нейросети Qwen, а DeepSeek и Moonshot и вовсе проксировали диалоги своих юзеров напрямую через американскую модель.