Сфера кибербезопасности охватывает три основных элемента:
• Система/организация, имеющие уязвимости, которые приводят к риску эксплуатации и, следовательно, к нарушениям в работе;
• Угроза (например, вредоносное ПО), которая может нанести вред системе или организации, используя её уязвимости;
• Меры контроля/контрмеры безопасности, применяемые защитником, которые снижают один или несколько рисков безопасности - безопасности полётов и авиационной безопасности непосредственно для гражданской авиации.
По этой теме в Европе с 1 октября 2025 года уже введены в действие отдельные авиационные правила EASA Part-IS - подробнее в отдельной публикации по ссылке.
Как появление ИИ повлияет на все три элемента:
• Благодаря ИИ система повышает свою эффективность, но также может нести в себе новые виды уязвимостей для кибератак. Эти новые типы уязвимостей необходимо лучше изучить (например, отравление данных) и определить для них конкретные меры безопасности (технические и/или организационные).
• Что касается угроз, то в настоящее время вредоносное ПО уже мутирует (т.е. адаптирует своё поведение в зависимости от среды выполнения). Более того, исследователи продемонстрировали возможность создания нового класса вредоносных программ на базе ИИ (например, DeepLocker). Использование ИИ для кибератак, безусловно, повысит эффективность угроз за счёт развития способности обходить традиционные системы обнаружения, основанные на правилах, и, в конечном итоге, сделает кибератаки адаптивными и автономными. Атаки на базе ИИ в авиации могут быть вскоре развернуты, и крайне важно определить адекватные меры противодействия.
• Со стороны защищающейся стороны также есть возможность внедрения ИИ в меры противодействия и средства контроля безопасности для повышения их эффективности. В этом смысле можно извлечь выгоду из технологий ИИ для автоматического обнаружения и устранения уязвимостей систем (предотвращение), а также для идентификации угроз на поведенческой основе (обнаружение кибератаки ещё на стадии её подготовки).
Область применения EASA руководства концептуального документа по ИИ в области информационной безопасности пока ограничена первым пунктом из вышеприведённого списка. В будущей версии руководства может быть расширена до третьего пункта, в определённой степени учитывая и второй пункт с точки зрения защищающейся стороны.
Непосредственно при разработке и сертификации ИИ решений, влияющих на безопасность полётов, возникает риск так называемой "data set закладки" (через специальную обучающую выборку), которая обучит алгоритм отреагировать специфическим образом на специфический набор определённых параметров. Например, это могут быть определенные условия полёта на эшелоне в сочетании с внешними данными обновлений метеосводки и навигационной информации. Недостающим "тригер параметром" для активации "специфического поведения" ИИ автопилота может быть получение определённого набора электронных сообщений (например через систему CPDLC).
В качестве меры противодействия (помимо обеспечения "стерильности" обучающей выборки) может быть рассмотрен принцип независимой от ИИ решения бортовой части классического ПО по принципу "защиты от ИИ
Серия публикаций по теме "ИИ и сертификация авиационной техники" доступна по ссылке: часть 1.
#БезопасностьПолётов #ИИвАвиации #EASA #КибербезопасностьПолётов #МеждународнаяПрактика