В прошлом веке сверхдержавам пришлось договариваться о ядерном оружии. Теперь, похоже, придется договариваться об искусственном интеллекте. С ракетами было проще: их можно посчитать, разместить под наблюдением, уничтожить по договору. Нейросеть можно скопировать, перенести на другой сервер и запустить где угодно. Обычная логика контроля над вооружениями здесь не работает.
Axios пишет, что крупнейшие разработчики ИИ, включая OpenAI, уже проводят учения на случай серьезных технологических сбоев. Среди сценариев - кибератаки, отключение банковских сервисов, электричества, связи и водоснабжения. Некоторые собеседники издания допускают крупный инцидент в ближайшие 6–12 месяцев. Это не прогноз «восстания машин». Но компании, которые создают самые мощные модели, всерьез обсуждают последствия их опасного поведения.
ИИ развивается не в лабораторной тишине, а в условиях жесткой конкуренции. США стремятся удержать технологическое лидерство. Китай вкладывается в собственные модели и вычислительные мощности. Россия заинтересована в независимых технологиях, чтобы не зависеть от решений иностранных корпораций. Для всех трех стран это уже вопрос экономики, обороны и государственного суверенитета.
Попробуйте в такой обстановке договориться о торможении разработок. Вашингтон будет подозревать Пекин в попытке выиграть время, Пекин - Вашингтон в желании закрепить свое преимущество. Остальные государства не захотят оказаться в положении клиентов, которым разрешают пользоваться чужим ИИ, но запрещают создавать свой. Даже разумные меры безопасности могут стать инструментом торговых и политических ограничений.
Отдельная история - корпорации. OpenAI, Google, Anthropic, Microsoft и китайские разработчики соревнуются за инвестиции и пользователей. Выпустить новую модель раньше конкурента для них выгодно. А если автономная система повредит энергосеть или банковскую инфраструктуру, отвечать за последствия будут уже государства, в том числе те, которые к разработке отношения не имели. Национальными законами этот риск полностью не закрыть.
Запрещать ИИ целиком бессмысленно, да и невозможно. Договариваться нужно о конкретных полномочиях машин. Нельзя давать автономным системам бесконтрольный доступ к электросетям, транспорту, платежным системам и оружию. Самые опасные возможности моделей должны проходить независимую проверку. При серьезном инциденте разработчики обязаны быстро сообщать о нем, а у государств должны быть каналы экстренной связи. Не красивая декларация, а процедуры, которые можно проверить.
Для России принципиально участвовать в написании таких правил с самого начала. Иначе стандарты сформируют США и Китай, а остальным предложат их выполнять. Площадкой может стать ООН, но одних заседаний недостаточно. Нужны прямые переговоры технологических держав с участием компаний, владеющих моделями и инфраструктурой.
С ядерным оружием договоренности возникали уже после того, как мир увидел последствия его применения. Повторять этот опыт с искусственным интеллектом не стоит. Политики пока спорят, кто создаст самую сильную модель. Стоило бы параллельно решить, кто и как остановит ее, если однажды она начнет действовать не так, как предполагали создатели.
@ejdailyru