Нейросети как фактор риска

Повестка вокруг регулирования нейросетей развивается стремительно.
Уже в середине сентября я подробно разбирал вероятные последствия усиления алармистской риторики по теме ИИ, а сегодня в ЦПК вышел наш доклад по вопросам развития ИИ-повестки в России, в котором подробно разобраны ключевые риски и интриги нормативного регулирования отрасли в ближайшей перспективе.

Интересно, что часть трендов, которые мы описали, начала уже реализовываться. В качестве одной из главных интриг назвали формирование международной архитектуры управления ИИ. Текст доклада разрабатывался еще в начале сентября, и вот буквально на днях борьба за ИИ стала усиливаться.

О том, что гонка нейросетей, как и гонка ядерных вооружений, становится одним из ключевых факторов риска, написано и сказано немало. Но, как правило, все эти заявления крутятся вокруг итоговых сценариев потери контроля над ИИ, упуская, пожалуй, главное - политические риски нейросетей. Вот главные из них:

🟥 Новый «технологический занавес». Гонка ИИ постепенно становится еще одной линией глобального размежевания и разделения сфер интересов, которое наметилось в последние годы. Причем речь идет уже не только о конкуренции отдельных нейросетей. Критическое значение приобретают доступ к передовым чипам, вычислительным мощностям и ресурсам. Уже сейчас можно наблюдать усиление курса государств на так называемый ИИ-суверенитет, предполагающий создание собственных технологических контуров.

В перспективе это создает риск появления нескольких практически несовместимых ИИ-экосистем со своими технологиями и стандартами. То есть условный «железный занавес» XXI века может оказаться технологическим. Создание «Глобального диалога по управлению ИИ» под эгидой ООН как раз показывает, что проблема уже вышла на международный уровень. Однако ООН в последнее время все хуже подходит как площадка для международной кооперации.

🟥 Алгоритмическая гонка вооружений. Военное применение ИИ постоянно расширяется. Сейчас есть примеры применения нейросетей в разведке, обработке данных и непосредственно в оружии (компьютерное зрение дронов как пример). У военной сферы тоже есть сопутствующие политические риски.

Внедрение ИИ может сокращать время на принятие решений и повышать вероятность ошибочной интерпретации ситуации в кризисный момент, в том числе в отношениях между ядерными державами. Недавнее сообщение о том, что США едва не ударили китайский корабль из-за ошибки ИИ, вероятно, не описывает реальной ситуации, однако наглядно демонстрирует то, как вопросы военного использования ИИ могут иметь вполне реальные политические последствия.

🟥 Страх отрыва. Самым опасным может оказаться прорыв одной из стран в вопросах развития ИИ. Если быть точнее, угрозу несет даже не сам прорыв, а информация о его вероятности. Представим ситуацию: одна сторона получает разведывательные данные о том, что стратегический соперник приблизился к созданию так называемого сильного искусственного интеллекта (AGI). Системы, которая потенциально способна резко увеличить военные, экономические или разведывательные возможности страны. Даже если эти оценки окажутся ошибочными, сама вера политического руководства в возможность необратимого изменения баланса сил способна привести к необратимым последствиям.

Возникает классическая логика превентивной эскалации. Сегодня преимущество соперника еще можно ограничить, но завтра это может стать невозможным. Поэтому если, например, США станет известно о том, что Китай вплотную приблизился к созданию AGI, вероятность прямого военного столкновения становится намного выше.

Политические риски развития ИИ продолжим описывать и далее, а пока почитайте доклад ЦПК.