Anthropic выпустили 154-страничный отчёт о самых серьёзных случаях злоупотребления своими моделями с декабря 2025-го по август 2026-го. И некоторые истории звучат уже довольно мрачно.
— В Йемене Claude Code использовали при разработке управляемых ракет. Модель фактически заменяла часть команды программистов и писала софт для навигации и управления. Одну ракету даже испытали вживую — судя по данным Anthropic, запуск закончился неудачно.
— Группа из России собирала автономный рой FPV-дронов-камикадзе. Claude писал и тестировал основное ПО системы. До рабочего оружия проект, по оценке Anthropic, ещё не дошёл: его успели проверить в симуляции и перенести код на реальные платы.
— В Иране Claude превратили в инструмент массовой слежки. С его помощью сделали вредоносное расширение Firefox для сбора данных из соцсетей, а другая система проанализировала сотни тысяч постов и выбрала 39 оппозиционных аккаунтов для наблюдения.
— В Китае запустили больше 20 фейковых дейтинг-приложений. За две недели там работали 4700 AI-персонажей, которые общались минимум с 25 тысячами человек и отправили около 2,36 млн сообщений. Три четверти анкет в ленте были ботами.
— Ещё пять случаев касались потенциально опасных биологических исследований. Среди них эксперименты с мутациями вируса чикунгуньи и адаптацией птичьего гриппа к млекопитающим.
Связанные аккаунты Anthropic блокировали и после каждого случая усиливала защиту. И это только те операции, которые компания вообще смогла заметить.
Нейро