Бывший глава Google сравнил гонку ИИ с созданием ядерной бомбы и предложил её замедлить кибератаками

Экс-руководитель Google Эрик Шмидт и основатель Scale AI Александр Ванг выразили серьёзную обеспокоенность по поводу ускоряющейся гонки вооружений в области искусственного интеллекта (ИИ), сравнив её с печально известным Манхэттенским проектом по созданию атомной бомбы во время Второй мировой войны.

По мнению Шмидта и Ванга, соперничество мировых держав в сфере ИИ сегодня напоминает наращивание ядерного потенциала в середине XX века. Эксперты предостерегают, что бесконтрольное развитие военных приложений ИИ может привести к катастрофическим последствиям.

Вместо участия в открытой гонке вооружений Шмидт и Ванг предлагают нестандартный подход — использовать кибератаки для нейтрализации опасных ИИ-систем противника. В их список вошли такие методы, как взлом нейросетей, саботаж вычислительных серверов и искажение наборов данных, используемых для обучения систем искусственного интеллекта.

Кроме того, эксперты призвали мировое сообщество заключить международное соглашение, аналогичное ядерным договорам, которое они назвали MAIM (Mutually Assured Intelligence Moderation, «Взаимное гарантированное сдерживание ИИ»). Такое соглашение должно регулировать разработку и применение искусственного интеллекта в военных целях, чтобы предотвратить его неконтролируемое распространение и потенциальные разрушительные последствия.