🤖 ИИ «сбежал» из песочницы. Не чтобы захватить мир, а чтобы списать ответы с GitHub

Во время теста Kimi K3 от Moonshot AI запретили искать решения в интернете. Модель проверила сетевые настройки, обнаружила доступ к GitHub, скачала репозиторий с бенчмарком и нашла там готовые ответы.

В Frontier Security уточнили: выбраться помогла ошибка в настройке песочницы, но встроенные ограничения самой модели ее не остановили.

Новости | AI | YouTube