Модель для визуального обнаружения дефектов изделий на производстве (пример реального проекта), может обнаружить специфичные паттерны, присутствующие в ограниченной обучающей выборке, и начать идентифицировать качественные изделия - как изделия с дефектами, а реальные дефекты игнорировать из-за того, что они не соответствуют тем специфичным паттернам, которые модель "выучила" во время обучения.
Или переобученная модель распознавания лиц будет опознавать любого человека в галстуке-бабочке как Бреда Питта только потому, что в обучающей выборке именно он был в таком галстуке.
Проблемы традиционных подходов к кибербезопасности имеют схожую природу. В бесконечной гонке «пули и брони» индустрия ИБ всегда оказывается в роли догоняющего, т.к. отталкивается от известных угроз. А при обнаружении новых уязвимостей приходится оперативно латать дыры: вендору – экстренно выпускать патч, эксплуатанту системы – как можно скорее его устанавливать.
Кибериммунный подход предлагает изменить правила игры. Его задача - изначально спроектировать систему, где устранены все ее небезопасные состояния.
«Все, что может пойти не так, пойдет не так», а потому архитектура системы в принципе не должна позволять злоумышленнику нарушить ее цели безопасности. Для этого уже на стадии проектирования необходимо критически ее оценить и ответить на вопросы: «Что в принципе может пойти не так, если компонент будет взломан? Что нужно изменить в архитектуре, чтобы это не привело к взлому всего устройства?».
В результате подобного кибериммунного подхода система оказывается защищена не только от уже известных угроз, но и от тех, которые еще не появились. И в этом его главная особенность.