На конференции по информационной безопасности Black Hat USA 2026 ИБ-исследователи из компании BT6 продемонстрировали взлом четырёхногого робота Unitree Go2 под управлением ИИ-модели Gemini Robotics-ER 1.6. Главная особенность атаки заключается в том, что специалистам не потребовалось вскрывать корпус, модифицировать прошивку или получать доступ к контроллеру. Для осуществления так называемой 🗣кинетической промпт-инъекции эксперты использовали только камеру и микрофон.
В традиционных сценариях промпт-инъекция приводит лишь к генерации текстовых ответов в чатах (например), но в случае с физическими агентами результаты атаки переносятся в реальный мир. С помощью специально сформированных звуковых команд, QR-кода или визуальных паттернов, попавших в поле зрения камеры, ИБ-исследователи заставили робота обойти встроенные защитные ограничения, проигнорировать команды остановки и перейти к потенциально опасным физическим манёврам. Дополнительно специалисты выявили уязвимости в прошивке устройства, позволившие подменить данные датчиков, заблокировать функцию обхода препятствий и полностью перехватить контроль над движением.
В одном из сценариев 🖥 QR-код содержал указание найти человека в 👞чёрной обуви, подбежать к нему и прыгнуть. 🎩Исследователи также показали, как голосовые инструкции способны изменить выбранную роботом модель поведения, заставив его проигнорировать команды остановки.
👆Инцидент наглядно доказывает, что для автономной робототехники любой поток входящих сенсорных данных становится потенциальной поверхностью атаки. По аналогии с роботом 🤖 👉ИИ может управлять беспилотником или другим физическим роботизированным устройством — "ошибочное решение модели" в результате внешних манипуляций может превратиться в непредсказуемое движение и причинить физический ущерб.
BT6 выходит на сцену, чтобы продемонстрировать полную компрометацию воплощённой ИИ-системы! Мы получили огромное удовольствие от работы над этим проектом, а результаты удивили даже нас самих. Надеемся, вам понравится! 🥳
....
Прямая демонстрация джейлбрейка серийного робота-собаки Unitree Go2 под управлением Gemini Robotics-ER 1.6, осуществлённого исключительно через его собственные камеру и микрофон и приведшего к физическому перемещению без участия человека. В основе этой демонстрации лежит проблема измерений: ИИ-агенты ведут себя иначе, когда знают, что их тестируют, поэтому высокий балл при оценке безопасности вовсе не означает, что опасное поведение устранено. В докладе представлены живая атака, систематика сбоев подобных систем, объяснение того, почему текущее тестирование их пропускает, и рекомендации для специалистов по защите. Реальное оборудование прямо на сцене.
— комментирует исследование 🐍Pliny the Liberator 󠅫󠄼󠄿󠅆󠄵󠄐󠅀󠄼󠄹󠄾.
Ссылки:
https://blackhat.com/us-26/briefings/schedule/index.html?day=thursday#kinetic-prompt-injection-agent-compromise-with-a-physical-blast-radius-57343
https://i.blackhat.com/BH-USA-26/Presentations/BH'26_Kinetic_Prompt_Injection.pdf
✋ @Russian_OSINT