Искусственный интеллект (ИИ) и сертификация авиационной техники: вызовы и перспективы ИИ (часть 1)

Помимо проблем кибербезопасности с 2018 года я занимаюсь проблематикой сертификации решений на базе ИИ для применения в авиации. Важно отметить, что здесь подразумеваются ИИ решения, которые непосредственно влияют на безопасность полётов.
Например, если на борту Беспилотного Воздушного Судна (БВС) в качестве полезной нагрузки стоит камера с машинным зрением и она просто анализирует наземные/воздушные объекты с бортовым ИИ, то это никак не влияет на безопасность полётов. При этом, если абсолютно такая же конфигурация БВС с той же камерой, но машинное зрение уже используется для автономного пилотирования БВС в общем воздушном пространстве, а бортовой ИИ на себя берёт управление полётом БВС по правилам визуальных полётов (ПВП), то в этом случае ИИ решение непосредственно влияет на безопасность полётов.

ИИ всё больше меняет авиационную отрасль, позволяя авиационным системам воспринимать, принимать решения и действовать более разумно, чем когда-либо прежде.
Среди множества областей машинное обучение (МО) играет ключевую роль, выступая в качестве основного механизма, позволяющего системам ИИ изучать закономерности на основе данных и принимать решения на их основе без явного программирования.

Применение ИИ и МО в авиации:
1. Машинное зрение для ситуационной осведомлённости: системы машинного зрения на основе МО используют нейронные сети для обнаружения и классификации огней ВПП, препятствий, БВС и воздушных судов (ВС) в режиме реального времени, повышая безопасность при заходе на посадку, рулении и взлёте.
2. Автономные наземные операции: восприятие и навигация на основе ИИ позволяют воздушным судам и наземным транспортным средствам автономно распознавать взлетно-посадочные полосы, знаки и ориентиры для безопасного и эффективного руления даже в условиях ограниченной видимости.
3. Предиктивное обслуживание и мониторинг состояния конструкции: ИИ анализирует данные полета и показания датчиков для раннего выявления износа или аномальных вибраций, прогнозируя необходимость технического обслуживания до возникновения критических неисправностей и повышая надежность.

Технические и сертификационные проблемы МО в критически важных для безопасности системах:
1. Интеграция МО в авиацию вводит новую парадигму: в отличие от традиционных детерминированных систем (DO-178C / DO-254), поведение МО определяется данными, что создает уникальные проблемы сертификации.
2. Недостаточная прозрачность (недостаточная объяснимость):
Нейронные сети глубокого обучения часто действуют как «черные ящики», что затрудняет для инженеров и авиавластей отслеживание процесса принятия решений. Сертификация требует наглядной логики и обоснования безопасности, что не так просто при использовании моделей, обученных на основе данных.
3. Недостаточная предсказуемость:
Системы МО могут по-разному реагировать на непредвиденные входные данные или незначительные изменения данных, что приводит к получению результатов, которые трудно предсказать или гарантировать при любых условиях эксплуатации.
4. Высокая сложность: Глубокие модели включают тысячи или миллионы параметров, что делает полное тестирование или формальную верификацию практически невозможными. Это обусловливает потребность в новых методах валидации, ориентированных на надежность, интерпретируемость и качество данных.

Регуляторы, такие как EASA, активно разрабатывают основы норм для систем обеспечения безопасности ИИ.
Эти усилия направлены на установление принципов обеспечения качества обучения, гарантирующих, что модели, управляемые данными, смогут достичь уровня безопасности, надежности и прозрачности, аналогичного традиционному ПО для авионики. Нормативная база имеет решающее значение для интеграции ИИ в авиацию, позволяя создать следующее поколение автономных систем.

Обзор с историей развития темы для ВШЭ можно посмотреть здесь в YouTube и RuTube. Публикации предыдущих обзоров доступны по ссылкам: 2021, 2022, 2023, 2024, 2025.

#БезопасностьПолётов #ИИвАвиации #МеждународнаяПрактика #EASA