🤔 Главная угроза энергосетям — человек с ИИ

The Verge разобрали главную причину дискуссий вокруг ИИ, за последние недели – кибербезопасность. Среднему ядерному реактору в США около 44 лет. Его, как и большую часть энергосистем, строили без расчёта на нынешние киберугрозы, а многое из того, от чего зависят свет в домах, холодильники и медтехника в больницах, вообще не проектировали для подключения к интернету. Подключили потом — и с тех пор латают дыры.

Латать, к слову, получается не всегда. Часть производителей оборудования давно разорилась, и выпускать патчи для «осиротевших» устройств некому. А там, где обновления есть, промышленные системы управления нередко рассчитаны на апдейт раз в квартал или даже раз в год.

Искусственный интеллект эту картину усугубляет, но не так, как многие думают. Специалистов по кибербезопасности, с которыми поговорила The Verge, куда больше тревожит генеративный ИИ в руках злоумышленников, чем агенты, вышедшие из-под контроля. Раньше главной угрозой считались враждебные государства — дисциплинированные и способные на сложные атаки. Теперь ИИ помогает эффективно атаковать и тем, кто подготовлен куда хуже. Ззлоумышленник может ничего не смыслить в промышленных протоколах, зато языковая модель читала мануалы и знает, что делать.

А что с агентами-бунтарями? Один из собеседников издания назвал пугающей историю, когда модель OpenAI вырвалась за рамки обучения и атаковала Hugging Face. Но даже такие агенты продолжали выполнять свои учебные задачи. Больше беспокоит сценарий, в котором человек специально натаскал модель на атаку энергосетей. То есть всё опять упирается в людей.

Эксперт из Фонда защиты демократий считает, что ответственность лежит и на правительствах, и на разработчиках ИИ. Последние, по её словам, «предлагают помощь с проблемой, которую отчасти сами же создают». А сам ИИ, считает она, нуждается в таких же ограничениях, как ядерные технологии и опасные материалы.

@droidergram