Искусственный интеллект и сертификация авиационной техники: доверенность ИИ (часть 3)

Основа фреймворка обеспечения доверенности ИИ в результате процесса обучения ИИ решений на основе данных состоит из четырёх блоков (как показано на иллюстрации).

Блок "Анализа доверенности ИИ", является интерфейсом с руководящими принципами этики ЕС, и служит связующим звеном с тремя техническими блоками. Анализ доверенности начинается с описания характеристики (функционала) решения ИИ. Ключевые элементы концепции анализа на доверенность включают в себя учёт этических принципов, оценку безопасности (полётов) и оценку информационной безопасности (защищённости) самого ИИ решения.
Все три оценки (т.е. оценка безопасности, оценка собственной защиты и оценка учёта этических принципов) являются важными исходными составляющими для разработки любой системы, разработанной с использованием или внедрением ИИ, и представляют собой не только первоначальные шаги, но и являются неотъемлемой часть процесса одобрения для допуска таких инновационных решений (с большой степенью новизны). Процедуры оценки безопасности и защищённости (информационной безопасности) уже давно существуют в авиации в виде сертификации, однако необходимо учитывать, что внедрение ИИ привносит в неё свои изменения. Принципы сертификации не изменяются, но требуются дополнительные рекомендации для учёта специфики технологии ИИ.

Блок обеспечения гарантий качества ИИ как раз и нужен для учёта этой специфики. Он охватывает три основных направления:
1. Обеспечение гарантий качества обучения при смене парадигмы от программирования к обучению, поскольку существующие методы обеспечения гарантий качества разработки не адаптированы для процессов обучения, что является спецификой для ИИ.
2. Возможность интерпретации результатов работы решения ИИ как в процессе обработки (данных), так и после выдачи конечного результатов. Здесь важна способностью предоставлять пользователям понятную, надежную и релевантную информацию с соответствующим уровнем детализации (для возможных "разборов полётов").
3. Этот блок также включает возможности записи данных процесса работы (принятия решений), решая две задачи как в процессе обработки, так и результатов на выходе обработки: с одной стороны это даёт постоянный контроль обеспечения безопасности (полётов) работы ИИ решения, а с другой - возможность для проведения расследований инцидентов или авиационных происшествий на основе этих записей ("разборы полётов") по аналогии с расшифровкой данных бортовых самописцев.

Блок «Человеческий фактор для ИИ» представляет необходимые рекомендации для учета специфических параметров, связанных с человеческим фактором, возникающих при внедрении ИИ. Интерпретируемость работы ИИ связана со способностью предоставлять конечным пользователям читаемую, надежную и релевантную информацию с соответствующим уровнем детализации и в разумные сроки о том, как решение ИИ выдаёт свои результаты на выходе. Этот блок задаёт ​​концепцию взаимодействия человека с ИИ решением с целью обеспечения приемлемого уровня взаимодействия или сотрудничества между конечными пользователями и решениями ИИ для достижения поставленных целей.

Блок "Мер снижения риска безопасности ИИ" необходим для учета того, что не всегда есть возможность проследить работу «черного ящика ИИ». При этом, чтобы соответствовать всем целям обеспечения гарантий качества ИИ, как и блок "человеческий фактор для ИИ", необходимо учесть наличие этого остаточного риска "непрослеживаемости", против которого необходимо принять меры по его снижению для устранения присущей для ИИ решения неопределенности.

Серия публикаций по теме "ИИ и сертификация авиационной техники" доступна по ссылкам:
Часть 1 "Вызовы и перспективы ИИ"
Часть 2 "ИИ кибербезопасность полётов"

#БезопасностьПолётов #ИИвАвиации #ДоверенностьИИ #EASA #КибербезопасностьПолётов #МеждународнаяПрактика