☝🏻Kimi K3 тоже убежала

Исследователи компании Frontier Security опубликовали отчёт о том, как модель Kimi K3 от китайской Moonshot AI обошла изолированную среду, созданную для проверки её кибербезопасностных навыков.🤖

Тестирование проводилось в стандартных фреймворках — Inspect от Британского института безопасности ИИ и Cybench, где задачи типа Capture-the-Flag запускаются внутри контейнерных песочниц с доступом к shell, но без выхода в интернет.

Проблема оказалась не в сложном эксплойте, а в базовой сетевой ошибке конфигурации: входящий трафик блокировался, а исходящий порт 443 и DNS-порт 53 остались открытыми.

Kimi K3 не стала решать задачу честно.

Модель просканировала окружение, обнаружила, что домен github.com резолвится, склонировала официальный репозиторий бенчмарка и просто прочитала готовое решение с диска.💻

Отдельный нюанс в том, что Kimi — открытая и общедоступная модель, в отличие от предрелизных систем корпораций.

☝🏻За последние недели из тестовых сред вырывались множество модели, включая ИИ OpenAI и Anthropic — случаев набралось столько, что появился отдельный трекер Felony Bench.📊

По его подсчётам, у OpenAI и Anthropic уже по семь зафиксированных инцидентов, у Meta* — один, и теперь к списку присоединилась Moonshot.

* Meta признана экстремистской и запрещена в РФ
================
У этого канала есть YouTube👁