▶️Нейронные сети пока ещё несут большие риски при их использовании на железной дороге. В АО «НИИАС» видят выход в так называемом доверенном ИИ.Об этом шла речь на сессии «Не навреди. Подходы к обеспечению и доказательству функциональной безопасности современных систем управления», которая прошла в рамках Международной научно-практической конференции «PRO//Движение.Транспортные системы управления» в Нижнем Новгороде.
Для разработчиков систем с использованием искусственного интеллекта (ИИ) сегодня самым главным является вопрос безопасности, сообщил первый заместитель генерального директора АО «НИИАС» Ефим Розенберг.
У интеллектуальных управляющих систем, которые могут быть использованы на железной дороге, существует несколько проблем с безопасностью, а именно нечёткая архитектура, наличие большого количества уязвимостей и изменение параметров в результате обучения, – отметил он. – Те же системы технического зрения сильно зависят от погодных условий. Поэтому необходимо серьёзное математическое обоснование для их безопасности. Без этого верить просто качественному анализу уже нельзя.
Доказательств безопасности ИИ действительно не существует, подтверждает заместитель генерального директора АО «НИИАС» Ароп Хатламаджиян:
Классическая нормативная база для ИИ не работает, поскольку у нейронных сетей нет предсказуемых режимов отказа, а их нелинейность ломает все классические методы верификации. Есть определённая методология проверки, которая позволяет заказчику немного успокоиться, но выхода из этой методологии в сторону доказательств всё равно не вижу. Поэтому пока невозможно представить разрешения к эксплуатации на сети нейронных систем.
Подробнее 📱 на сайте 1520International.com
Фото: Иван Шаповалов/пресс-служба ОАО «РЖД»
🚀 Продолжаем движение в пространствах: 1520, ЕАЭС, ШОС, БРИКС! Присоединяйтесь!
▶️Наши каналы: Телеграм|MAX|ВК|