Недооценка рисков ИИ может оказаться самой дорогой ошибкой бизнеса

Исследователи MIT опубликовали одно из самых масштабных исследований по приоритизации рисков искусственного интеллекта.
Статья здесь.
Вместо очередного списка гипотетических угроз они опросили 272 международных эксперта по методу Delphi, чтобы понять три вещи:
▪️ какие риски наиболее опасны;
▪️ кто сильнее всего пострадает;
▪️ кто должен нести основную ответственность за их предотвращение.

1️⃣Наиболее серьезные риски в ближайшие 5 лет:
▪️ опасные возможности современных моделей (dangerous capabilities);
▪️нездоровая конкуренция между разработчиками, когда скорость становится важнее безопасности;
▪️ использование ИИ для кибератак и создания оружия;
▪️ концентрация власти у небольшого числа компаний;
▪️ распространение ложной информации.

При этом именно привычные для бизнеса темы, например, конфиденциальность, дискриминация или мошенничество , уже не считаются единственными ключевыми угрозами. Все больше внимания уделяется системным последствиям развития генеративного ИИ.

18 из 24 категорий рисков имеют вероятность не менее 10% привести к катастрофическим последствиям, т.е. событиям с ущербом более 100 млрд долларов или гибелью более 1 миллиона человек при сохранении текущих тенденций через 5 лет.

Если будут внедрены реалистичные меры управления рисками, пять категорий по-прежнему сохраняют вероятность выше 10%:
▪️опасные возможности моделей;
▪️ кибератаки и использование ИИ в вооружениях;
▪️ экологические последствия;
▪️ рост неравенства и безработицы;
▪️концентрация власти.

2️⃣ Кто больше всего пострадает?
И это вовсе не разработчики, а на первом месте:
▪️ пользователи ИИ;
▪️ граждане, на которых влияют решения ИИ;
▪️ организации, использующие ИИ.

3️⃣Основную ответственность эксперты возлагают на:
▪️ разработчиков универсальных моделей;
▪️ государства;
▪️ регуляторов;
▪️организации, разрабатывающие стандарты.

4️⃣Наиболее уязвимые отрасли:
▪️ информационная сфера;
▪️ финансовый сектор;
▪️ национальная безопасность.
Именно здесь последствия ошибок, злоупотреблений или неконтролируемого использования ИИ могут проявляться быстрее всего.

❕Исследование MIT хорошо показывает, что вопрос уже не в том, будут ли возникать риски, а в том, какие из них требуют первоочередного внимания и кто должен отвечать за их снижение.

#UXWatch
————
@pattern_ai | AI GDPR Navigator