Канал в МАХ:
https://max.ru/join/Rushjh2OszoaeeFgyE-omu3kRrhkcOKA9hQOVdd3C10
Генеральный директор
Союза авиапроизводителей России
https://ru.m.wikipedia.org/wiki/Рогозин,_Алексей_Дмитриевич
Обратная связь @vsemrad_bot
Post #2560
2.92K
easa_concept_paper_guidance_for_artificial_intelligence_applications.pdf5.8 MB
Вы готовы полететь на самолёте, в котором ответственность за безопасность будет возложена не на пилотов, а на развитый искусственный интеллект? На этой неделе в Германии прошла крупная конференция европейских гражданских авиационных властей "Дни искусственного интеллекта EASA". Именно в Европе сейчас наиболее быстро развивается тема ИИ в авиационной технике, и мы, конечно, отслеживаем материалы, которые разрабатываются экспертами. Основное вопрос - это условия, при которых ИИ можно доверить функции, влияющие на безопасность полётов.
Очень интересный документ - это проект третьей редакции концепции применения ИИ (выкладываю). Обсуждаются обучение с подкреплением, большие языковые модели, взаимодействие человека и автоматики. Для российской авиации эта задача тоже становится всё более актуальной. Наработки есть: например, ГосНИИАС ведёт исследованиях виртуальных помощников пилота. Развитие беспилотной авиации усиливает потребность в таких решениях.
Но между полезным алгоритмом и системой, которой можно доверить управление воздушным судном, - пропасть. Высокая точность на испытательной выборке ещё не показывает, как она поведёт себя при непривычном освещении, заснеженной местности, загрязнении камеры или противоречивых показаниях датчиков. А для безопасности полётов особенно существенны редкие ошибки и их последствия.
На мой взгляд, российской отрасли необходимо вырабатывать эти подходы совместно: разработчикам, эксплуатантам, научным организациям и авиационным властям. Зарубежный опыт полезен, но его применение требует сопоставления с нашими нормами, стандартами, условиями эксплуатации и отечественной испытательной базой.
Доказательство безопасности должно создаваться одновременно с алгоритмом. Если откладывать его до завершения разработки, могут потребоваться новые данные, повторное обучение и существенная переработка всей системы. Будущее - не просто за ИИ, будущее за искусственным интеллектом, которому можно надёжно доверять.
@rogozin_alexey
Очень интересный документ - это проект третьей редакции концепции применения ИИ (выкладываю). Обсуждаются обучение с подкреплением, большие языковые модели, взаимодействие человека и автоматики. Для российской авиации эта задача тоже становится всё более актуальной. Наработки есть: например, ГосНИИАС ведёт исследованиях виртуальных помощников пилота. Развитие беспилотной авиации усиливает потребность в таких решениях.
Но между полезным алгоритмом и системой, которой можно доверить управление воздушным судном, - пропасть. Высокая точность на испытательной выборке ещё не показывает, как она поведёт себя при непривычном освещении, заснеженной местности, загрязнении камеры или противоречивых показаниях датчиков. А для безопасности полётов особенно существенны редкие ошибки и их последствия.
На мой взгляд, российской отрасли необходимо вырабатывать эти подходы совместно: разработчикам, эксплуатантам, научным организациям и авиационным властям. Зарубежный опыт полезен, но его применение требует сопоставления с нашими нормами, стандартами, условиями эксплуатации и отечественной испытательной базой.
Доказательство безопасности должно создаваться одновременно с алгоритмом. Если откладывать его до завершения разработки, могут потребоваться новые данные, повторное обучение и существенная переработка всей системы. Будущее - не просто за ИИ, будущее за искусственным интеллектом, которому можно надёжно доверять.
@rogozin_alexey
- 👍 34
- 🔥 6
- 👏 5
- 🤔 4
- ❤ 2
- 👎 2




