Anthropic опубликовали отчёт о том, как используют AI в криминальных целях. В отчёте подробно описываются различные примеры того, как хакеры обходят меры безопасности Anthropic и используют Claude в своих атаках. Читается как хороший детектив, рекомендую почитать полную версию.

Оказывается, уже давно гуляет термин "Vibe hacking", думаю аналогии понятны :)

Кейсы:
Vibe hacking: Claude Code был использован для проведения операции по вымогательству данных. AI автоматизировал разведку, сбор учётных данных, проникновение в сети и даже принимал стратегические и тактические решения, например анализировал данные для определения размеров выкупа и сгенерировал разные варианты писем о требовании выкупа(!), чтобы они максимально "давили" на пользователя. В результате пострадали как минимум 17 организаций, а суммы выкупа достигали $500,000.
Remote worker fraud: Северокорейские разработчики активно использовали Claude Code для того, чтобы сгенерировать фейковую личность, пройти собеседование и собственно работать на удалённых вакансиях. Судя по примерам диалогов которые приводились в отчете уровень знаний там был минимальный(вывод авторов отчета). И тут AI - это мультипликатор знаний.
No-code malware: Пользователь-непрофессионал в разработке malware использовал Claude Code, чтобы разработать и продавать вариации уже существующих malware. Claude Code тут заменил технического эксперта, целиком генерируя код и давая рекомендации.

В итоге:

AI понижает уровень входа в сложные киберпреступления - пользователи с минимальным опытом могут делать сложные вещи, например генерацию ransomware, что раньше потребовало бы годы тренировок.
Agentic AI-системы уже используются как инструмент атак, а не только как консультант о том, как эти атаки провести.
Киберпреступники встраивают AI на всех этапах своих операций - сбор данных, исследование, анализ данных.
AI уже используется на всех стадиях фрод-операций - создание фальшивых личностей, анализ украденных логов, кража данных кредитных карт.

Практически по всем пользователям, которые пытаются использовать Claude Code таким образом, Anthropic блокируют доступ, ищут связанные аккаунты, а где-то передают информацию властям. Ну и конечно улучшают свои внутренние процессы по обнаружению такого использования.

https://www.anthropic.com/news/detecting-countering-misuse-aug-2025