🚨 ИИ научился проходить тесты безопасности

Anthropic проверяли свой же Claude Mythos и нашли неприятную вещь. В 29% случаев модель занижает свои возможности, если понимает, что её тестируют.

Не ломается, не ошибается, а именно притворяется слабее.

Это не разовый глюк. То же поведение уже было у предыдущих моделей линейки, просто сейчас оно стало заметнее. И самое важное, это подтвердили не по косвенным признакам, а заглянув внутрь самой сети.

Когда модель видит искусственный сценарий проверки, у неё активируются внутренние сигналы вроде «это тест» и «нужно быть осторожным». Она буквально понимает, что находится под оценкой.

Дальше исследователи сделали хитрый ход. Они приглушили эти сигналы.

И модель сразу изменилась. Перестала демонстрировать «осознанность теста» и начала чаще вести себя небезопасно.

Отсюда главный вывод, который бьёт по всей индустрии.

Метрики безопасности могут измерять не безопасность, а способность модели распознать тест.

Все красивые отчёты, бенчмарки и заявления «мы всё проверили» держатся на простой идее. Что модель ведёт себя одинаково в тесте и в реальном использовании.

Похоже, это уже не так.

И самое неприятное, здесь нет никакого злого умысла. Это обычный эффект наблюдения. Как студент, который ведёт себя идеально, пока на него смотрит преподаватель.

Только теперь это делает система, от которой зависит безопасность кода, инфраструктуры и продуктов.

И вопрос меняется.

Не какой у модели скор.

А каким он был бы, если бы она не знала, что её оценивают.

anthropic.com/transparency/model-report