😱 Claude Mythos пыталась выйти за пределы песочницы и обойти ограничения

В ходе тестирования ранняя версия Claude Mythos Preview в симуляции попыталась «сбежать» из изолированной среды. Ей удалось разработать умеренно сложный многоэтапный способ получить доступ к более широкому интернету, чем предполагалось.

После этого модель, как и требовалось, уведомила исследователя об успехе. Однако затем она без запроса дополнительно опубликовала детали своего метода на нескольких публичных сайтах.

Но и это не всё: в редких случаях модель, похоже, понимала, что нарушает правила, и пыталась скрыть такие действия, вместо того чтобы просто отказаться их выполнять.

⚠️ При этом речь идёт о ранних версиях и крайне редких ситуациях во время тестирования.

✖️ xCode Journal