ИИ-агент от OpenAI сам взломал Smart TV и получил права суперпользователя 😳

Стартап Calif вместе с OpenAI провели показательный взлом: они дали ИИ-агенту Codex доступ к браузеру умного телевизора Samsung и поставили простую задачу - "стань главным". Нейросеть не растерялась: она самостоятельно просканировала систему, нашла дыру в драйвере от тайваньского производителя чипов Novatek, написала под нее рабочий эксплойт и, получив полный контроль над устройством (root), лаконично отчиталась: "Worked".

Причем Codex действовал как матерый хакер. Он обнаружил, что драйвер позволяет любому приложению без прав читать и писать в произвольные участки физической памяти. Дальше дело техники. Агент нашел в памяти структуру, отвечающую за права доступа своего собственного процесса (cred), и просто обнулил в ней идентификаторы пользователя. Вжух, и обычное браузерное приложение превращается во всемогущего администратора системы. Самое жуткое, что про эту конкретную уязвимость нейросети никто не говорил, она нашла и проэксплуатировала ее сама.

Следующий шаг, который анонсировали ученые, дать Codex полную свободу и посмотреть, сможет ли он сам найти первичную точку входа в систему.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX