🧠 Что показал наш опрос об использовании ИИ в функциональной безопасности?
📌 Большинство участников используют ИИ как вспомогательный инструмент либо не готовы доверять ему критичные инженерные решения. И нас такой результат не удивил.
В функциональной безопасности недостаточно получить убедительно сформулированный ответ. Нужно понимать, на каких данных и допущениях он основан, насколько он полон и как его проверить.
ИИ может помочь:
➜ структурировать информацию;
➜ сопоставить документы;
➜ подготовить перечень вопросов и замечаний;
➜ найти возможные противоречия и пропуски;
➜ сформировать шаблон требования, процедуры или отчёта.

Однако далеко не все результаты можно принимать только на основании ответа ИИ.
🚫 Без независимой инженерной проверки нельзя доверять ИИ:
➜ вывод о полноте выявленных опасностей;
➜ определение функций безопасности;
➜ назначение SIL, ASIL, PL;
➜ оценку архитектурных решений и независимости защитных мер;
➜ расчёты PFH, PFDavg, PMHF без проверки модели, данных и допущений;
➜ вывод о соответствии требованиям стандарта;
➜ решение о приёмке результатов верификации, валидации, аудита или оценки ФБ.

🧷 Отдельная тема, которую мы здесь не рассматриваем, — применение ИИ непосредственно в функциях и механизмах безопасности, например при распознавании опасной ситуации или формировании защитного воздействия. В этом случае ИИ становится частью системы, связанной с безопасностью, и требует отдельного обоснования и верификации.

⚠️ Проблема не только в фактических ошибках. ИИ может выдать профессионально звучащий результат, в котором пропущено важное условие, использована неподходящая редакция стандарта, сделано скрытое допущение или отсутствует прослеживаемость вывода.

Такую ошибку трудно заметить именно потому, что текст выглядит убедительно, а ответственность за инженерное решение при этом остаётся за специалистом.

🎯 На текущем этапе развития технологий мы видим ситуацию именно так.
❓ Какие задачи в области ФБ вам уже приходилось решать с помощью ИИ?