«Это просто программа. И она получает доступ только к тем ресурсам, куда ее подключает человек», — объясняет Наталья Касперская, президент ГК InfoWatch, председатель правления АРПП «Отечественный софт».
То есть главная угроза заключается не в том, что ИИ самостоятельно «захватит» инфраструктуру, а в том, что человек даст ему слишком широкие полномочия, не оценив риски.
При этом прямого доступа к критической инфраструктуре у ИИ нет.
Например, управление светофорами обычно вынесено в отдельный контур, недоступный из общей сети. При этом даже в случае взлома парализовать систему полностью будет невозможно. Есть аппаратная защита, отключить которую программно нельзя: если кто-то будет настойчиво прорываться, защита сработает, и светофоры начнут мигать желтым. Пробку злоумышленник устроить сможет, а массовые аварии — маловероятно.
В критически важных ситуациях действует принцип human in the loop — «человек в контуре»: окончательное решение остается за человеком.
Проблема начинается, когда правила безопасности нарушаются.
«Не закрыли внешний доступ, забыли поменять заводские пароли — создали уязвимости, которые находят и эксплуатируют нарушители — люди. А раз находит человек, значит, и AI-агент тоже найдет, только побыстрее», — поясняет Петр Емельянов, директор по data-стратегии и ИИ Группы Arenadata.
📰 Монокль в MAX | Подписаться