ИИ – страшнее ядерной бомбы

Руководители ведущих разработчиков ИИ-моделей как с цепи сорвались и один за другим обсуждают опасность искусственного интеллекта для человечества и необходимость затормозить его развитие «до создания необходимых защитных барьеров». Однако Дональд Трамп против, и позиция президента США выгодна обычным пользователям.

Дарио Амодеи, глава Anthropic, выступил с эссе о необходимом замедлении темпов развития ИИ. Такую же позицию неожиданно высказал Сэм Альтман, а Илон Маск (напомним, что в SpaceX входит разработчик ИИ xAI) напомнил, что он предупреждал об опасности ИИ ещё 10 лет назад.

Мы рассказывали, что политики делают такие призывы, чтобы взять направление под контроль. Марк Цукерберг аналогичными заявлениями пытается остановить ушедших далеко вперёд конкурентов. Но зачем ведущим разработчикам ИИ призывать затормозить свой же бизнес?

Новые ИИ-модели Anthropic и OpenAI действительно показали поразительные способности в кибервзломе. Они проникали в системы даже без прямого приказа для выполнения сторонних задач. Можно испугаться. И показать, как заботишься о человечестве. Будет что ответить регулятору.

Практически ИИ воспринимается как ядерное оружие, взаимный контроль над которым позволил перевести потенциальный конфликт СССР и США в холодную фазу. Но есть большое отличие. Человечество и раньше старалось ограничить вооружение – например, в 1922 году ограничили размеры и количество кораблей. Позднее ограничили количество ядерного оружия и их испытания.

Но все эти ограничения можно было ПРОВЕРИТЬ. Размеры корабля видно, можно обнаружить ядерное испытание в любой точке Земли и даже описать его характеристики. А какая там модель крутится в интранете у очередного разработчика M – все узнают только, когда её пустят в дело.

Поэтому кажется разумной позиция Дональда Трампа: перестаньте заниматься ерундой и говорить о смертельной опасности для человечества. Пока это похоже на поиск рычагов влияния – ведущие разработчики с миллиардными вложениями смогут отчитаться о любых защитных мероприятиях. Молодые-подрастающие умрут под регуляторным контролем. А в результате конкуренции не будет и проиграют простые пользователи, которые не получат новых эффективных ИИ-моделей.

Как хорошо, что в США конкуренция не ограничивается, и сам Дарио Амодеи признаёт – остановить развитие ИИ невозможно: если не мы, то Китай сделает более совершенные ИИ-модели. К которым, надеемся, получат доступ и конечные пользователи.

Источник изображения: Шедеврум.