Цифровые решения: сессия «Безопасность ИИ‑моделей: угрозы, методы защиты и подходы к регулированию»
 
Андрей Белеванцев, ведущий научный сотрудник ИСП РАН, член-корреспондент РАН, рассказал, как разрабатывался новый ГОСТ по безопасности систем искусственного интеллекта, и объяснил, чем он отличается от классических стандартов по кибербезопасности.
 
По его словам, авторы искали золотую середину между американским подходом, где разрешено почти все, и европейским, где правила настолько жесткие, что бизнес и потребители почти ничего не могут сделать. Поэтому в стандарт включили только то, что можно обосновать технологически.
 
Главная идея в том, что защищать одну лишь модель бессмысленно: веса сами по себе мало что значат, а угрозы чаще приходят через сопутствующее ПО, агентов, фреймворки и привычную инфраструктуру, так что защита должна охватывать все окружение и весь жизненный цикл системы.
 
Кроме того, ГОСТ не требует конкретных методов, а лишь задает минимальную планку, чтобы разработчик сам выбирал подходящий способ, например более безопасную архитектуру модели или защищенные методы обучения.
 
Для практической работы по стандарту, добавил спикер, создается консорциум с каталогом инструментов и готовых решений, потому что в одиночку такую задачу не решить.
 
🙂 Telegram | ВК | «Макс»