Промпт-инъекция на собаку-робота через QR заставила ее напасть на человека.
Хакеры показали QR, в котором была задача найти человека в черных ботинках и прыгнуть.

На Black Hat 2026 команда BT6 взломала собаку-робота Unitree Go2 (Gemini-ER 1.6) обычным QR-кодом. Камера собаки считала приказ и пошла в атаку на человека.

Что важно знать безопаснику
🔹Если ИИ пошел в атаку, то отключение от Интернет не помогает
🔹 Встроенная защита от столкновений выключается атакующим промптом
🔹Во время ML Red Teaming все выглядело безупречно - а на улице нет
🔹Обновление прошивки не спасет от найденной угрозы: ИИ модели считывают команды камерой и микрофоном.

Слайды тут: https://i.blackhat.com/BH-USA-26/Presentations/BH'26_Kinetic_Prompt_Injection.pdf
Авторы назвали эту угрозу: кинетическая промпт-инъекция.

Денис Батранков в LinkedIn, YouTube, RuTube и MAX
#ИИ #Кибербезопасность #Угрозы #Кейсы