Казалось бы, скучно об этом писать. Как минимум, мне скучно, потому что постоянно об этом слышим. Думаю, всем нам хватает фантазии представить, как могут действовать Military AI Cyber Agents (MAICAs) — или, по-простому, софтины для кибератак, которые используют AI для принятия решений/доработки собственного кода или используемых нагрузок.
Но вот что мне показалось интересным из статьи про «майки» — это то, как от них предлагают защищаться.
Помимо совета спец. службам (очевидно, своим же), что нужно вообще воздержаться от их использования и передачи для доверенных прокси-исполнителей, т.к. это может привести к утечке и неконтролируемому использованию, есть и пара дельных советов:
1️⃣ Разработать собственные AI системы мониторинга, детектирования и ответа на инциденты, которые смогут противостоять скорости и опытности MAI систем. ✅
2️⃣ Само собой, Deception системы (Honeypot и etc.) могут быть очень эффективны в обнаружении AI. (Привет, Xello!)✅
3️⃣ Харденинг сети для противодействия горизонтальному перемещению и репликации. Это в целом одна из самых действенных мер, но она звучит настолько же общо, насколько громоздки все начинания в том, чтобы захарденить сеть или хотя бы серьезно и строго ее сегментировать, в т.ч. физически. ✅
4️⃣ Наличие резервных ручных или аналоговых систем управления и контроля, если цифровые системы скомпрометированы! Вот это мне нравится! Без сарказма, правда. А есть у вас подобные аналоговые системы управления в вашем бизнесе? А если вы захотите их «приварить», то кого позовете? ✅
5️⃣ Поддерживать в защищаемых системах способность изолировать их, корректно деактивировать и самостоятельно восстанавливаться после кибератак. В том числе аналоговое резервирование. т.е. резервирование на нецифровых носителях. (Вспоминаем последнюю серию мистера робота 💀)
Трудно не согласиться с тем, что самые действенные меры наиболее просты в том, чтобы представить их как часть стратегии защиты. Но вот представить себе, как их шаг за шагом реализовать, уже не кажется простой задачей.
Попробуйте сейчас представить, как вы будете копировать данные о банковских транзакциях на магнитную ленту…