(Бес)полезные советы

Наверное, у каждого была ситуация: лимитов на подписке полно, хочется сделать что-то с помощью ИИ, а новые идеи в голову не приходят – в итоге используешь его как обычный поисковик.

Для всех страдающих творческим кризисом Anthropic выпустила отчет по случаям использования Claude в нарушение правил сервиса. Повторять любой из перечисленных кейсов не советую. Но креативность в них зашкаливает.

Вайб-проектирование ракеты

Группировка из северного Йемена работала сразу над тремя видами вооружения: управляемая ракета, многоступенчатая баллистическая ракета и варианты с гиперзвуковым планирующим аппаратом. Программное обеспечение вайб-кодили в Claude Code.

Работу организовали по всем заветам современного промптинга. Один агент писал код, второй занимался исследованием, третий – проверял результат. Люди руководили процессом.

По данным Anthropic, дело дошло до испытаний реального образца, которые завершились неудачей. Как в компании это установили? Очень просто – разработчики вернулись к Claude и стали задавать вопросы, что пошло не так.

Компания заблокировала аккаунты горе-конструкторов – как и в остальных случаях из подборки.

Свидание с Claude

Китайская студия выпустила более 20 приложений знакомств, в которых ИИ отыгрывал живых людей. За две недели апреля 2026 года более 4700 таких персонажей пообщались минимум с 25 тысячами человек, отправив около 2,36 млн сообщений – именно на плате за сообщения строилась бизнес-модель.

В приложении работали и живые люди – они выходили на видеозвонки, подписывались на пользователей в соцсетях и добавляли происходящему убедительности. Получилась целая организация с разделением труда: Claude поддерживает массовую романтическую переписку, люди выполняют действия, для которых полезно иметь настоящее лицо.

Большой брат следит за тобой

Подрядчик малийской спецслужбы собрал с помощью Claude систему прослушки, которая мониторит порядка 25 млн SIM-карт – то есть, практически все население страны. Интересно, что по любому введенному номеру система должна сразу собирать дело, не запрашивая судебное решение – нарушение закона заложено в промпт. 

Здесь блокировка пользователя помогла не до конца – расследование показало, что после проектирования работа системы была перенесена на локальные ИИ-модели.

Дистилляция с помощью пользователей

По данным Anthropic, как минимум семь китайских ИИ-компаний занимались масштабной дистилляцией – выгружали миллионы ответов Claude на популярные запросы, а затем учили на них свои модели.

При этом две компании – Moonshot и DeepSeek – перенаправляли некоторые запросы пользователей к своим моделям так, чтобы на них отвечал Claude. Логика простая: так можно собрать ответы на вопросы реальных пользователей.

Побочный эффект подобного подхода в том, что огромный объем данных китайских пользователей оказался в руках Anthropic. Например: военный загрузил записи с сотен камер наблюдения в Чэнду; инженер государственной компании вставил внутренний код вместе с действующими ключами доступа.

Как это работало?

Часть запросов Claude отклонял. Но отдельная задача могла выглядеть обычно: написать код, обработать данные, поддержать разговор. Общая цель за ней была видна не всегда – поэтому системы безопасности и давали сбой.

При этом участники этих историй прекрасно освоили все, чему учат руководства по работе с ИИ: делегировать, распределять роли между агентами, поручать одному проверять другого, возвращаться с ошибками на доработку. Даже живых сотрудников оставили там, где они полезнее нейросети.

Пожалуй, это и есть самая неприятная мысль в отчете: советы по повышению продуктивности работают при самых разных целях. Сократить расходы, обойтись меньшей командой, запустить больше проектов одновременно – все это полезно и владельцу мошеннического сервиса.

—
Выжимать из ИИ максимум я учу на “Бусти”: там циклы по промптингу, ИИ-агентам и вайб-кодингу. При первом входе все пользователи дают подписку использовать ИИ только в благонадежных целях (шутка, но я в вас верю).
👉 Читать на “Бусти”
👉 Читать на Sponsr