Забудьте о «сверхразуме»: из-за ошибки ИИ в этом месяце мир едва не оказался на пороге третьей мировой войны

Пока заголовки пугали сверхразумным ИИ, который якобы способен уничтожить человечество, военные США едва не начали перехватывать китайское судно из-за ошибочного доклада, составленного с помощью чат-бота. CNN сообщила об этом 18 сентября: в докладе утверждалось, что судно везёт компоненты ядерного оружия, и военные уже готовили самолёты и солдат для высадки. Ошибку заметили незадолго до исполнения плана. Тимнит Гебру и Эмили Бендер считают, что реальная опасность — не сверхразумные машины, а ненадёжные системы, которым доверяют решения в ситуациях, где на кону человеческие жизни.

👉 Читать полностью