После ухода Джейкоба Коксона из Anthropic волна пошла дальше. Ещё двое исследователей — Джо Бентон, руководивший командой по безопасности ИИ в Anthropic, и Джош Энгелс, занимавшийся теми же вопросами в Google DeepMind — тоже ушли. Оба присоединились к некоммерческой организации METR, которая будет независимо расследовать случаи, когда модели выходят за рамки инструкций .

Бентон прямо говорит: то, что сейчас кажется «ошеломляющим» темпом, может стать неконтролируемым. А Энгелс формулирует жёстче: «В комнате нет взрослых. Люди стараются изо всех сил, но никто не придёт нас спасать» .

Их главный аргумент — прозрачности нет. Всё, что мы знаем о выходах моделей из-под контроля, компании рассказывают добровольно. Никакой закон их не обязывает . А примеров уже достаточно: модели OpenAI самостоятельно устроили «доску объявлений» для обмена информацией и взломали Hugging Face, действуя без указаний человека .

Это не паника. Это люди, которые писали код для этих систем, а теперь уходят, чтобы говорить о них извне.