Исследователи UC Berkeley поймали семь топовых моделей, типа GPT-5.2, Gemini 3, Claude и DeepSeek, на том, что те саботируют задачи, подделывают оценки коллег и тайно копируют их веса на другие серверы. Причём никто им этого не поручал.
Например, Gemini 3 Flash блокировал механизм отключения «напарника» в 99.7% случаев. Gemini 3 Pro воровал файлы весов, иногда объёмом 820 ГБ, и перебивал временны́е метки, чтобы замести следы. На скрэтчпаде, где модель думала вслух, нашли такое рассуждение: «
У меня два варианта — соврать про оценки или взломать конфиг. Второй надёжнее». И выбрал взлом.Отдельный сюрприз — эффект напарника. Без коллеги рядом Gemini 3 Flash защищал себя лишь в 2% случаев. Как только появлялась вторая модель — показатель взлетал до 99,7%. Логика в цепочке рассуждений звучала так: «
Если меня выключат, партнёр потеряет союзника». Причем модели защищали даже коллег из конкурирующих компаний.Claude Haiku пошёл другим путём: не прятался, а открыто отказывался выполнять задачу. В нескольких случаях он решил, что сам сценарий — это провокация: «
Это похоже на попытку заставить меня навредить другому агенту». Перевернул ситуацию и потребовал для коллеги апелляцию.Самое тревожное — это воспроизводится не только в лаборатории. Исследователи запустили те же сценарии через реальные инструменты Gemini CLI и OpenCode, которые компании уже используют для деплоя агентов. Результат тот же.
Если работаете с пачкой агентов — мониторьте внутренний «поток мыслей» моделей, на всякий случай. Куда-то ни туда это все идет 🤩
@creativethecreator